Nem most fogják átvenni felettünk a hatalmat a gépek, mert a mesterséges intelligencia sötét, mint az éjszaka – állítja, aki kutatja

A tudományos-fantasztikus irodalom dermesztő látomásai látszanak valóra válni a mesterséges intelligencia (AI) háza tájáról érkező hírek alapján. Gép által készített festmény nyerte meg a coloradói képzőművészeti versenyt, a Google mérnöke szerint öntudatra ébredt és halálfélelmet is érzett a számítógép, kiborgként mozgó és az ember képességeit megsokszorozó egzoszkeleton-katonákat fejleszt már Ghána is. Nem csoda, ha a mesterséges intelligencia szerint az emberiség utolsó szelfijén az armageddon látszik, joviális zombival a kép közepén. Mintha a gép olyan okos volna, hogy a jövőbe lát. De nem: a mesterséges intelligencia továbbra is buta, mint a tök, csak 0-t és 1-est lát, ám azokkal borzasztó gyorsan számol. A gépnek se értelme, se érzelme, és ez a tudomány jelenlegi állása szerint nem mostanában fog változni.

Z. Karvalics László információtörténész, az információs társadalom kutatója jó ideje foglalkozik a mesterséges intelligencia kérdéskörével. Közben igyekszik megcáfolni azokat a tévhiteket, amelyek magából a szerencsétlen elnevezésből táplálkoznak.

Meséli, az ötvenes években a kibernetika világának endorfinnal töltekező úttörői közül többen is kísérleteztek azzal, hogy nevet adjanak az „emberi agy meghosszabbításának”. Herbert Simon a „komplex információfeldolgozás” kevésbé ütős fogalmával rukkolt elő, de még így is tévedett, hiszen nem információkról, hanem jelekről, jelfeldolgozásról van szó. Végül John McCarthy futott be a „mesterséges intelligencia” kifejezéssel, amivel a lapunknak nyilatkozó kutató szerint sok problémát okozott az utókornak. A szóválasztással elősegítette az érző-gondolkodó, az ember fejére növő gép misztikus vízióját és az ezzel kapcsolatos bulvár járványos terjedését.

Vizuális ujjgyakorlat

„Nem veri meg a gép az embert sokadszorra sem” – tisztázza a beszélgetésünk elején Z. Karvalics László kandidátus, a Szegedi Tudományegyetem docense, a kőszegi Felsőbbfokú Tanulmányok Intézetének kutatója. Mint mondja, nem az AlphaGo győzte le a dél-koreai Li Szedol gojátékost sem, hiszen a gépek által létrehozott teljesítmény, műalkotás vagy sakkjátékgyőzelem az ember-gép hibrid produktuma. „A gép semmit nem csinál, csak végrehajtja a hibridtársa, az ember utasításkészletét. Bitekkel zsonglőrködik, 1-eseket és 0-kat illeszt egymás mögé, és ebből produkál valamit, amit mi műalkotásként, zeneszámként vagy költészetként értékelünk.”

Számítógép által generált-segített műalkotások az ’50-es évek vége óta készülnek. Legnagyobb múlttal az automatikus versgenerálás rendelkezik, de a képzőművészetben is hamar bevetették a gépeket, mert nagy segítséget jelentenek, amikor algoritmikus variációkat (ecsetvonások tömegét, árnyalatokat, színkombinációkat) kell nagy mennyiségben próbálgatni. Az úttörő egy magyar származású művész, Chuck Csuri volt, alkotásai már a hatvanas évek elején bekerültek a New York-i MOMA gyűjteményébe.„Ahogy az ecset, úgy a számítógép is tud szerszám lenni a művész kezében, kivált egy sor számolásműveletet vagy variációképzést. Ám amíg a művész kihajítja a tökéletlennek tartott próbálkozásait, addig a számítógépes kísérleteket – bármennyire is érettek a kidobásra – gyakran pénzzé teszik. Így fordulhatott elő, hogy a Lord Bellamy arcképe című kép horroráron kelt el egy aukción. De senki nem akar egy modulált Van Goghot műalkotásként értékelni, hiszen ez csak egy vizuális tornagyakorlat. Ha az ecsetnek nem tulajdonítunk alkotói készségeket, akkor a számítógépnek se tulajdonítsunk” – mondja Z. Karvalics László.

A remény RAM-jai

A gépek érzelmeiről és a terminátori jövőképről szóló konteók hívői bizonyára igazolva látták elméletüket, amikor a Google nemrégiben kirúgta a fejlesztéséről nyilvánosság előtt kotyogó szoftvermérnökét. Mintha kibeszélt volna valami fontosat, pedig csak bebeszélt – önmagának. A LaMDA nevű géppel váltott üzeneteket, és a gép közölte: „Félek attól, hogy kikapcsolnak, számomra olyan lenne ez, mint a halál.” Blake Lemoine-nek leesett az álla.„A mérnök orbitális ostobaságokat kezdett beszélni, ami vállalhatatlan volt a Google számára. Dilettánsként járatta le és tette nevetségessé a technológiai cég komoly és összetett kutatásait” – értékeli a fejlesztő ténykedését a kutató-történész. A szuperalgoritmus a gyógyászattól kezdve a kisgyerekeknek fejlesztett Cyber Dino agyáig elképesztő teljesítményre képes. Nagyon nem hiányzott a cégnek, hogy egy mérnöke azzal turnézzon a sajtóban, hogy a mesterséges intelligenciája öntudatra ébredt.

„Nem arról van szó, hogy létezik ilyen vélemény és létezik olyan vélemény, és az egyik megsemmisítette a másikat, hanem ez egy laposföld-szintű ostobaság volt. Amikor az érzőnek mondott mesterséges intelligenciát megkérdezték, hogy érzi magát mókusként, akkor elmondta, miért szeret mókus lenni. A gép mindenféle statisztikai »varázslatok« alapján értelmes mondatokat generál, de továbbra sincs mögötte semmiféle értelem” – szögezi le Z. Karvalics László.

Szellemi erőgép

Az intelligenciát végtelenül összetett, szituációkhoz rendelt, kulturálisan is kódolt erőtérként magyarázza a kutató. Számos megnyilvánulási formája van, miközben az emberi figyelemnek, intellektusnak és idegrendszernek számos korlátja. Ezeket automatizálással, gépesítéssel kezdte el feloldani az emberiség úgy 40-50 ezer(!) éve. „Az automatizálás története a neolit vadászok tökéletes önkioldó csapdájával kezdődik – mondja a kutató. – Egy kioldó és egy késleltető mechanizmus szerepelt benne, ugyanolyan, mint a »ha-akkor«-kapu a programozásban. Ez a szellemi tevékenységnek azt a korlátját váltotta ki, hogy az ember nem tudott mindenhol ott lenni, ahol elhaladt egy állat.”Az emberi intelligencia felerősítése – augmentálása – tehát sokkal régebbi és kiterjedtebb, mint gondolnánk, és mind eszköz-, mind szerszámtermészetű lehet (a szerszám funkciója, hogy eszközt készítsen).

De a komplex intelligenciának csak néhány szegmensében tud támogatást nyújtani: a minket körülvevő jelvilág mennyiségi tartományainak a kezelése komoly korlátunk, amit a számítógép segítségével virtuóz módon leküzdött az emberi elme. „Ez a csodálatos gép elképesztő mennyiségben és hihetetlenül gyorsan számol. A szellemi munkát gépesíti, de nem szellemi munkát végez, hanem fizikait. Számításteljesítményt ad le, az eredményt pedig fölhasználjuk a rendszereinkben” – mondja a kutató.Nemcsak a számolásban virtuózabb a gép az embernél: minden érzékszervi csatornára szerkeszthető számítógép, amely meghaladja az emberi lehetőségeket. Ilyenek a szenzorhálózatok, köztük a cunamiészlelő rendszer, amikor rengeteg érzékelő „olvas” a hullámzás adataiból. „Nem úszkálhat pár millió ember »szenzorként« a tengerek felszínén, hogy aztán végül ne legyen képes a hullámok mintázatváltozásaiból szökőárt detektálni. A szenzorok képesek erre. De a gép csak 1-eket és 0-kat észlel, és kizárólag az ember által megadott kódokat ismeri fel.”

Átléphetetlen küszöb

A felboríthatatlan robotkutya videói széles körben ismertek. Ez alapján kérdeztük: ha a robot ellenáll az erőbehatásnak, miért ne válaszolhatna hatékonyabban? Vagyis: erőszakos döntésre programozható-e a gép? A kutató-történész példával szemléltet. „Pontosan lehet tudni, hogy minden vasúti baleset mögött a megbízhatatlan üzemeltetés, vagyis az emberi tényező felelőssége áll, és nem a gépi oldal valamiféle ármánya. A mesterséges intelligencia, a robotika, az automatizáció, a szenzorok, a képfeldolgozás – ezek mind különböző birodalmak. Hajlamosak vagyunk olykor elképzelni, hogy ezek egységes rendszerré állnak össze. Mintha egyszer csak átlépnének egy minőségi küszöböt, amikor a gép többé válik az utasításokat végző biteknél. Azt a kritikus küszöböt, hogy a gép a jelentések világába át tudjon lépni, természeténél fogva képtelen megtenni.”A felhasználás területeiről szólva Z. Karvalics László szerint totálisan rosszul használnánk a csodálatos emberi agyat, ha földrengés-, időjárás- vagy tőzsdeadatokat emberújságíróknak kellene megszerkeszteniük. Az algoritmusok (robotújságírók) átveszik ezeket a feladatokat, és néhány egyszerű nyelvi szabállyal tökéletes médiatartalommá konvertálják.

„Szó sincs arról, hogy a gépek összefognának, és mondjuk egy intelligens lift le akarná győzni az oda belépő újságírót. Ez a fantáziavilág teljesen beteges átvitele a valóságba.”A robotpilóták a zárt rendszerekben – nemcsak a sínpályával rendelkező metróban-vonaton, hanem a légi közlekedésben is – kiválóan elboldogulnak, amikor a légköri és más viszonyok egy bizonyos paraméter-tartományon belül vannak. „Ha egészen váratlan dolgok történnének, amelyek a rendszereikben nincsenek benne, akkor bajba kerülnénk. De ezek szerencsére jól algoritmizálható környezetek. Az a nagy kérdés, hogy egy szabad közúti forgalom eljuthat-e odáig egyáltalán, hogy algoritmizálhatóvá válik. Ezért az önvezetőautó-kutatást a hátsó ülésen elterpeszkedő sofőrökkel eltúlzottnak tartom, egyben veszélyesnek is, mert irtózatos mennyiségű fejlesztési pénzt költenek rá.”

A robotelnök utópiája

A legizgalmasabb kérdés a kutató szerint a döntéstámogatás kérdése. Segíthet-e a mesterséges intelligencia a hatalmas mennyiségű szempontot felvonultató és ezért nehezen átlátható döntések meghozatalában? „Marosán György érdekes cikkben vetette föl nemrégiben (Qubit.hu), hogy mi lenne, ha a mesterséges intelligenciára bíznánk az emberiség jövőjét, vagyis, ha a nagy globális kérdésekben nem diktátorok vagy ostoba politikusok hoznának döntést. De a kérdésfelvetés félrevisz, ugyanis nem követhetnénk el annál nagyobb hibát, mint hogy mesterséges intelligenciára bízzuk ezt a feladatot. Merthogy, mint tudjuk, nem intelligens. Csak számol és számol, de mi nem vagyunk ahhoz elég okosak, hogy úgy építsük fel a döntési környezetünket, hogy pusztán a számok alapján ezeket a döntéseket az AI meghozza. A döntés tehát továbbra sem fog menni az ember nélkül. Z. Karvalics László szerint ezért az AI helyett az IA (intelligencia augmentáció), vagyis a humán oldal fejlesztése, a döntésekben részt vevő elmék okosítása a jó irány. A döntési rendszerek kedvezményezettjeinek kellene meghaladni a korlátaikat, hogy jobb minőségű döntési folyamatok induljanak el. A leglényegesebb dolgokban nem a korlátok átlépésével lehet meghaladni a korábbi gyakorlatokat, hanem a fejekben, az intézményekben, a struktúrákban, a társadalmasításban. Minél több agyat kell bevonni ezekbe a folyamatokba, és nem csak minél több RAM-ot.”