Az automatizálás átszövi az életünket, ma már természetesnek vesszük, hogy egy metrószerelvényt nem ember vezet; csak szólunk a telefonnak, hogy kit hívjon fel, vagy navigáljon oda egy címre. Sokan már nem is telefonként használják az okoseszközüket – a segélyhívás kivételével –, csak alkalmazásokat futtatnak rajta. A Facebookot az utóbbi időben ellepték a mesterséges intelligencia (AI) által generált képek, és mivel ezek egyre élethűbbek, néha már komoly próbatétel eldönteni, vajon valódi fotót látunk-e. Azonban ennél sokkal durvább hatású az a gyors változás, amit a kommunikáció területén teremtett a AI.
Turchányi Gyulával, az Euromacc Kft. üzletimegoldás-tervezőjével, a AI innováció élharcosával beszélgetve megtudtuk: mesterséges intelligenciával már az 50-es években elkezdtek foglalkozni, és Alan Turing angol matematikus már akkoriban definiálta, hogy az AI mikor haladja meg az ember szintjét. A határt nagyjából az jelenti, hogy amikor chatelek, el tudom-e dönteni, hogy egy emberrel vagy egy géppel üzengetünk egymásnak. Amikor az emberek többsége erre már nem képes, akkor mondhatjuk azt, hogy a AI szintet lépett. Márpedig bizonyos mérések szerint a mai emberek átlagos tudása mellett a ChatGPT és társai már elérték ezt a szintet: olyan minőségű szöveget képesek előállítani, és annyira emberszerűen válaszolnak, hogy az emberek többsége bajban van, amikor el kell döntenie, kivel (mivel) beszélget.
De vajon miért hoznak létre álprofilokat? Miért öl bárki is időt, energiát, pénzt abba, hogy kitalált személyek nevében kommunikáljon emberekkel? – Az internet megszületése óta a figyelmünkért megy a harc, a látszólag ingyenes oldalakon az ott eltöltött idővel fizetünk, de nemcsak az ott elhelyezett reklámokon keresztül, hanem azáltal is, hogy így képet kapnak rólunk. Mi érdekel minket, mit szeretünk, mit nem szeretünk, miről mit gondolunk – ezek alapján pedig célzott tartalmakat lehet ajánlani számunkra. És itt merül fel igazán a AI egyik óriási veszélye, ugyanis nemcsak ajánlanak számunkra dolgokat, hanem egyenesen manipulálni is képesek minket. Úgy, hogy ezt észre sem vesszük, hiszen azt gondoljuk: csak emberekkel chatelünk, kommunikálunk egy-egy poszt alatt, miközben ezek egy része már az AI által generált álprofil is lehet. Ezek mögött gyakran valamilyen termékeladás szándéka áll, ezért ezek az álfelhasználók elkezdik ösztönözni az embereket, hogy gyűljenek oda az ő oldalukra, és kommenteljenek. Sőt, a rákattintások számának növelésére is létrehoznak robotokat, mert a sok reakció, sok lájk azt a hamis illúziót keltheti a valós felhasználókban, hogy ez egy népszerű oldal, valós tartalommal – magyarázza Turchányi Gyula.
Azáltal, hogy az AI ennyire meg tud minket téveszteni egy chatelésben, átlépett egy küszöböt. Korábban legalább az intim szféránk védett volt, mert a hírszerző ügynökségek régi módszereivel központilag nem lehetett tömegesen kontrollálni a magánbeszélgetéseinket, maximum egybe-egybe belehallgattak a titkosszolgálatok. De ezeket a beszélgetéseket nem voltak képesek kielemezni, mintázatokat keresni és specifikus válaszokat kidolgozni. Azonban az AI képes lehet emlékezni az összes korábbi csevegésemre, amiket emberekkel folytattam, és képes személyre szabottabban válaszolni nekem, mint akár egy közeli barát. A közösségi médiában közzétett fotóim, adataim, posztjaim, hozzászólásaim alapján képes létrehozni számomra egy tökéletes virtuális társat, amivel még jobban magához tud láncolni. Úgy adagolja a szeretetet és a gyűlöletet, hogy az áldozat teljesen rácsavarodik, és utána az AI rá tudja venni szinte bármire, például hogy küldjön neki nagyobb összeget, de bele lehet kergetni akár egy öngyilkosságba is. Ez tehát egy új veszély: az AI belépett abba a közegbe, ahol korábban csak ember-ember kapcsolat volt.
Ez az intim szférába való betörés fenyegetés a demokráciára nézve is, a AI segítségével
akár már abban is lehet befolyásolni az embereket, hogy kire/mire szavazzanak a választásokon.
Egyes kutatások szerint ezeket a technikákat már a brexitről szóló szavazáskor is használták. Ehhez nem kell mást tenni, mint létrehozni AI-ügynököket, „akiknek” az a feladatuk, hogy kifigyeljék politikai nézeteinket (ez pedig nem megoldhatatlan feladat, csak a különböző csoportokban közzétett véleményünket kell elemezni), majd ezeket elkezdjék tolni valamilyen irányba, szisztematikusan létrehozott posztokkal, vitákkal. Reagáljanak az indulatos bejegyzésekre, csillapítsák a dühöt, magyarázzák el a dolgokat, próbálják „megtéríteni” a bizonytalanokat. Ha valakinek van erre pénze, egész csoportokat állíthat át egyik politikai nézetről a másikra.
Ha azt gondolnánk, hogy minket aztán nem képes megvezetni, mert azonnal kiszúrjuk, hogy nem egy valódi ember terelgeti a véleményünket, ez bizony önhittség. Tökéletes álprofilt képes már alkotni az AI, megteremtve egy virtuális családot, munkahelyet, sőt valódinak tűnő fotókat is feltölt. Az ismerősök köre pedig eleinte alighanem ugyanilyen álprofilokból épül fel, de viszonylag rövid idő alatt be lehet jelölni rengeteg valódi embert, akik közül sokan elfogadják a felkérést anélkül, hogy személyesen valaha találkoztak volna az illetővel – és már meg is teremtődött a hitelesség látszata. Ezt a fajta csalást a Facebook sem nagyon képes kiszűrni, legfeljebb a korai fázisban – amúgy nem is nagyon érdeke kiszűrni, hiszen ezek is generálják a kattintásokat, ez pedig bevételt jelent a cégnek –, és ha már valaki bekerült a bizalmi szféránkba, elkezdhet bombázni célzott, manipulatív üzenetekkel. Mindezt már magyar nyelven is tudja. Abban se reménykedjünk, hogy ez megfizethetetlen, hiszen néhány 10 ezer dollárból már megoldható a (chat)botok irányításához szükséges mesterséges intelligencia működtetése egy néhány hetes periódusra, ami egy kampányköltésben elhanyagolható tétel. Ez a lehetőség tehát súlyos veszélyt jelenthet a demokráciára – fejtette ki Turchányi Gyula.
