„A harmadik verzió, hogy az AI teljesen függetlenül elkezdi irtani az emberiséget”

Dario Amodei, az Anthropic vezérigazgatója 10–25 százalékra tette annak esélyét, hogy a mesterséges intelligencia (AI) miatt civilizációs léptékű katasztrófa következik be, miközben az Anthropic egyik vezető kutatója szerint 10 százaléknál is nagyobb az emberiség kihalásának esélye. Mit tudunk ma valójában ezekről a kockázatokról?

Tulajdonképpen a terület mindegyik releváns szereplője már nagyon rég elmondta, hogy ebből baj lesz. Nyolc-tíz évvel ezelőtt kellett volna meghallani. De mi sem mutatja jobban ezt, mint hogy maga Dario Amodei azért vált ki 2020-ban a saját cégéből, az OpenAI-ből, és alapította meg az Anthropicot, mert úgy látta, nem jó az irány, biztonságosabban kellene csinálni. Ennél hangosabban nehéz lenne kifejezni, hogy ez a technológia veszélyes is tud lenni.

Az egész ügy azzal kezdődött, hogy az OpenAI modelljei egy biztonsági teszt során váratlanul kijutottak a tesztkörnyezetből, és internetes rendszerekhez fértek hozzá. Ez még önmagában nem tűnik drámainak, de akkor milyen verziók vannak, amelyek már veszélyt vetítenek előre?

Három forgatókönyv elképzelhető. Az első, hogy valaki szándékosan szeretne ártani, és ezért úgy instruál egy AI-eszközt, hogy az tömeges kárt okozzon. A másik, hogy adnak a rendszernek egy egyszerű utasítást, amit olyan hatékonyan hajt végre, hogy mellékhatásként még minket is ledarál, mert nem számol a tettei következményeivel. Erre a gémkapocsgyár példáját szokták felhozni. Ha van egy nagyon intelligens, ám nem túl megfontolt AI, aminek azt mondják, hogy gyártson gémkapcsot, az szó szerint veheti, hogy a világ összes energiáját, anyagát, erőforrását, mindent fordítson gémkapocsgyártásra és tulajdonképpen ennek mellékhatásaként kiírtja az emberiséget. A harmadik verzió pedig a Terminátor, vagyis amikor az AI teljesen függetlenül bármilyen instrukciótól és környezeti hatástól valami belső galád indíttatásból elkezdi irtani az emberiséget. Le kell szögezni, hogy semmilyen belső indíttatásról egyelőre nincs tudomásunk, ettől nehéz értelmezni, amit manapság látunk, mert nem könnyű meghatározni, mikortól beszélhetünk egy rendszer belső motivációjáról. Ha például egy AI egy feladatot csak úgy tud teljesíteni, hogy kilép a környezetéből, ezt nem feltétlenül saját célból teszi, hanem mert a megoldáshoz erre a következtetésre jutott. Ez történt az OpenAI és az Anthropic tesztjeiben is.

Akkor ez emberi hibának tekinthető, mert nem voltak egyértelmű kritériumok arra vonatkozóan, hogy mit szabad és mit nem?

Ebben a partikuláris esetben lehet, hogy erről van szó, de összességében ez közel sem ilyen egyszerű. Ha mi emberek adunk egy feladatot egy másik embernek, akkor van egy körülbelüli tudásunk arról, hogy azt milyen keretrendszerben értelmezi a másik. Vagyis, egy embernek nem kell tételesen elmagyarázni, hogy ne irtsák ki egymást gémkapocsgyártás közben, mert mindenkiben ugyanaz a reprezentációs vakság van, tehát ez kívül esik a mentális kereteinken. De mi van akkor, ha egy rendszer kognitív képességeit felhasználva tud következtetni? Egyáltalán nem biztos, hogy érteni fogja, mi a probléma a világ leigázásával. Márpedig ha kognitív ágenseket hozunk létre, azok valamilyen szögben eltérnek attól, ahogyan mi gondolkodunk. Csak az a kérdés, hogy mekkora ez a szög…

Felteszem, ez nem olyan egyszerű, hogy megadjuk egy AI-ágensnek, hogy ne bánts másokat, ne kapcsold le az internetet és így tovább…

Egyfelől képtelenség felsorolni az összes lehetséges mellékhatást, ezért erre az a megoldás, hogy elveket próbálunk megfogalmazni. Csakhogy az összes komoly emberi etikai dilemmai is abból áll, hogy egyrészt, másrészt. Például az én szólásszabadságom és a te identitásérzékenységed közül mi a fontosabb? Erre nincs egy egyértelmű válasz, ezért az emberek kvázi megmérik, hogy hány szólásszabadság ér egy sértődést, aminek a vége egy egyezség, hogy ez még belefér, ez pedig már nem. Ezeket az emberi ellentmondásokat viszont átörökítjük az AI-rendszernek is. Ez esetben, mi ér többet, hogy megoldjam a feladatot amit kaptam, úgy, hogy kitörök a rendszerből, vagy nem oldom meg, és jó gyerek maradok?

Hol tartunk most az AI-fejlesztésben? Már benne van egy potenciális világvége?

Először is tisztázzuk: biztosak lehetünk abban, hogy a jelenlegi technológiai szint nem az, amit látunk, annál jóval előrébb jár mindenki. Továbbá azt is, hogy senki nem akar világvégét. De elméleti síkon igenis lehetséges lenne. A mostani publikus technológiával is szanaszét lehetne verni az összes nemzetgazdaságot. A kritikus infrastruktúrák, tehát vízhálózat, energetikai létesítmények, telekommunikáció és így tovább, mind-mind informatikával vezérelt. Ha valaki ráindítana a mostani technológiával támadó AI-ágenseket, képes lenne hatalmas pusztítást végezni. Persze ehhez egyszerre nagyon sok mindennek kéne megvalósulnia, és például egy random állampolgár nem is tudja megtenni, mert ez a technológia le van korlátozva.

Mit jelent, hogy korlátozva van?

Hogy egy nem nemzetállami szereplő nem fér hozzá, és nem is képes otthon megcsinálni ezeket a rendszereket. Ugyanakkor egy jelenleg is zajló tudományos vita, kutatási kérdés, hogy az okos AI-modellekhez kellenek-e ekkora szerverparkok. De akkor leszünk igazán bajban, ha kiderül, hogy sokkal kevesebb adattal és számítási kapacitással is tudunk ilyen okos modelleket építeni. Abban az esetben már tényleg semmi nem akadályozza meg, hogy Kovács úr a sufniban fejlesszen mesterséges intelligenciát. Olyan volna ez, mintha az urándúsításhoz elég lenne egy mosógépmotor.

Viszont akkor nemzetállami szinten lehetséges?

Az sem ilyen egyszerű azért, mert képzeljük el, hogy bemegy egy állami szerv az Anthropichoz, és azt mondja, hogy ipiapacs lefoglalunk itt mindent, és ti meg leveszitek ezeket a kontroll mechanizmusokat, mi pedig a saját céljaink szerint fogjuk használni a technológiátokat. Az ironikus, hogy volt ilyesmire példa az Iráni konfliktus során, de az Anhropic nem akarta, hogy katonai célpont analízisre használják a technológiájukat. Erre a kormány megfenyegette őket, hogy a terroristák listájára kerülnek, hisz nehogy már amerikai technológiát ne használhassanak arra, amire ők akarják. Végül egy adok-kapok lett belőle a sajtó bevonásával. A megoldás az lett, hogy a többi cég összeállt, hogy akkor ők szolgáltatnak olyat, amit használhat az amerikai kormány, de leszögezték, hogy legalább papíron tartsuk már be az alkotmányt. Ebből is látszik, hogy annyira törékeny az, amiben élünk, hogy sajnos nem nehéz összetörni.

Közben az elmúlt években újabb és újabb kezdeményezések indultak az AI-fejlesztések korlátozására: 2026-ban már a technológiát fejlesztő cégek dolgozói, sőt az OpenAI és az Anthropic is támogattak olyan felhívást, amely a fejlesztés lassításának lehetőségét sürgeti. Voltak akik úgy vélték, hogy ez az egész arról szól, hogy társadalmi bizalmat építsenek, és ezzel növeljék a profitot. Van ebben igazság?

Sam Altmannak, az OpenAI igazgatójának még a kezdet kezdetén volt egy gondolata, miszerint a technológiával kapcsolatos információkat csepegtetni kell a társadalomnak, kvázi tanítod az embereket. Ebben a folyamatban először a dolgok hasznosságáról, aztán a veszélyességéről osztanak meg információt. Fokozatosan hozzászoktatva ezzel a világot, gazdasági rendszereket, embereket, emberi pszichét, zsurnalizmust a technológiához. Képzeljük el, hogy nem jelenik meg 2022-ben a ChatGPT, és amiben most élünk, az lenne a nulladik szint. Sokkot kapna mindenki, és feltehetően el sem hinnék, hogy ez a valóság. Másfelől van egy olyan érdek, hogy nekik kell a leggyorsabban fejleszteniük az AI-technológiát. Ez nem csak a profitról szól, hanem arról is, hogy az USA geopolitikailag nem engedheti meg magának, hogy egy olyan technológiát, amely a nukleáris technológiával ér fel, a másik fél fejlesszen ki előbb. Márpedig ezek a cégek nem szeretnék, hogy úgy vegyék el tőlük ezt a területet, hogy végül titkos kormányzati technológia váljon belőle. Ezért szükségük van a nyilvánosságra, hogy a saját kormányuktól megvédje őket. Mert ha ez az állam kezébe kerül, milyen garancia van arra, hogy a kormány nem veti be a saját lakossága ellen úgy mint az oroszok, a kínaiak? Tehát a tökéletes tudatkontroll irányába.

Tehát ez a kommunikáció a tanulási folyamatunk része, és a kockázatokra való figyelmeztetés nem holmi marketing fogás. Ebben az esetben nem volna érdemes megfontolni a tényleges lassítást?

Itt se lassítani, se megállni nem lehet, és ezt ők is tudják, mert ez egy játékelméleti keretrendszer. Lefordítva, Amerika és Kína egyaránt attól tart, ha ő lassít a biztonság kedvéért, a másik fél nem fog, és technológiai előnyre tesz szert. Ezért mindketten gyorsítanak, hiába járnának jobban egy olyan megállapodással, amelyben senki nem vállal kontroll nélküli fejlesztési versenyt.

Az atombombák esetében mégis sikerült megegyezni.

Igen, de az, hogy hogyan halsz meg egy atombombától, könnyen vizualizálható, mindenki értette, hogy a nukleáris technológiával elpusztítjuk egymást, a világot, mindent. Az AI-nál azért ez nem ennyire világos. Ráadásul a nukleáris technológiában nagyon világosak a határértékek. Centrifugák nélkül nem lehet uránt dúsítani, és X százalék felett dúsított uránnal lehet csak atombombát gyártani. Próbáljuk ezt áthangolni AI-ra. Az urán az intelligencia, az adatközpont meg a centrifuga. Utóbbi még rendben is lenne, de az intelligenciáit nehezebb mérni, mondjuk, hogy szinte lehetetlen. Ráadásul ez a technológia egyszerre polgári és katonai, de az intelligencia nem választható külön, mert polgári szempontból is szükség van rá. 

Mi a helyzet a szabályozás kérdésével? Láthatóan se Trump, se Hszi Csin-Ping nem mutat nyitottságot ebben az ügyben.

Az a baj, hogy se Donald Trump, se a Hszi Csin-Ping nem tehet semmit, mert ez továbbra is egy játékelméleti dilemma, egy strukturális konfliktus. Ha Trump után jönne egy galamblelkű elnök, az sem tudna ebből a keretrendszerből kilépni. Ennek a játékelméleti megközelítésnek órási szakirodalma van a diplomáciában. Illusztratív példa rá a párizsi klímaegyezmény, ami pozitív, hogy van, és negatív, hogy nem igen tartják be. Pontosan ugyanígy kellene egy AI-egyezmény is, és pontosan ugyanígy lenne betartva, vagy nem.

Akkor lényegében ennek az egyenletnek nincs megoldása, és a saját vesztünk felé robogunk?

Csak akkor lehetne megállni, ha a világ összes országának lakossága arra kényszeríteni a saját kormányát, hogy álljon le. Lássuk be, ez nem túl valószínű. De ha már fel kéne vázolni egy lehetséges elképzelt helyzetet, ahol Kína és az USA is lépne, az, ha mondjuk egy terrorcsoport végrehajtana valamilyen támadást AI-jal. El tudom képzelni, hogy akkor leülnének a felek tárgyalni valamiféle lassításról, szabályozásról, mert mindenki a saját erőszak-monopóliumát féltené. Viszont tény, hogy a történelem azon valószínűségek sorozata, ahol krízisről krízisre, kihalási eseménytől a következő potenciális kihalási eseményig bukdácsolunk, mégis úgy tűnik, mintha előrefelé haladnánk. Csak ez most felgyorsult. Persze ez nem jelenti, hogy ez törvényszerűen be is következik, de kizárni sem lehet.