A Gólem megfékezése

Idén májusban történt Floridában, hogy egy Tesla S-modell autonóm gépkocsi összeütközött egy teherautóval, amely előtte keresztezte az utat. Sem az autó szenzorai, sem annak mesterséges intelligenciával (MI) működő elektronikus irányítása, sem a kormány mögött ülő ember nem észlelte az akadályt és fékezés nélkül belerohantak a fehér színű teherautóba, majd az utánfutója alá csúsztak. A "sofőr" meghalt, a Teslának leszakadt a teteje. Egyes vélekedések szerint meglehet, hogy a vezető éppen videót nézegetett, teljesen ráhagyva magát a robotpilótára.

Elég hamar bekövetkezett, bár voltaképpen várható volt, hogy megtörténik. Mármint az első baleset az autonóm, azaz az ember közvetlen irányítása nélkül közlekedő autóval. Még vizsgálják az okokat, de mit tett a balesetet okozó automata vezető?

A robot dilemmái

Kétségtelen, hogy a mai önműködő autókban még jelen kell legyen ember, és az is szabály, hogy a keze mindig a kormányon legyen, felkészülve a beavatkozásra. Maga az automatikus működés több mindent jelenthet, de a legfontosabb, hogy a gépjárművet az irányítórendszernek mindig a sávon belül kell tartania, olyan biztonságos távolságot kell biztosítania elől és hátul is a szomszédos járműhöz képest, hogy szükség esetén azonnal működésbe léphessen az automatikus, csúszásmentes fékezés. Szenzorok és beavatkozó eszközök százai biztosítják, a központi „agy”, vagyis a vezérlő szoftver irányításával, hogy a gépkocsi mindig tartsa be a közúti szabályokat, a sebességhatárt, az elsőbbségadást, és az előbb felsoroltakat.

Lássuk be, a jelenlegi automatikus járművek még messzemenően nem tökéletesek technikailag. Mit tehet például a robot-vezérlő, ha mondjuk egy részeg minden figyelmeztetés nélkül a féktávolságon belül a kocsi elé lép? Gázoljon át rajta? Nem teheti, mert a számára tilos az ütközés. Lépje át a záróvonalat és úgy kerülje el az embert, kockáztatva az ütközést a szemközt jövő gépkocsival? Nem teheti ezt sem, tilos már a sáv elhagyása is, és ezáltal az ütközés veszélyének kockáztatása, amivel esetleg tömeges szerencsétlenséget is okozhat.

Ilyen szituációban a humán vezető sem dönthet abszolút jól. Ám éppen azért fejlesztik az automatikus autót, hogy gyorsabb „reflexeivel” helyesebben döntsön, biztonságosabban működjék, mint az ember.

Persze, egy olyan fent említett baleset is, mint ami a minap a Teslaval történt, ha mégoly riasztó is, aligha állítja meg a fejlődés menetét. Sőt, arra „jó”, hogy az okok vizsgálata, elemzése, értékelése folytán a szakemberek új megoldásokat, új eszközöket, új eljárásokat dolgozzanak ki a biztonság fokozása érdekében.

Hadd hivatkozzak egy ismert példára. Az atomenergetikában az 1986-os csernobili tragédia, majd az öt évvel ezelőtti fukusimai baleset lökést adott a kutatóknak az olyan technikai újítások kidolgozásra, amelyek jelentősen javíthatják az atomerőművek biztonságát. Ezek nyomán máris új módszereket alkalmaznak a nukleáris energiatermelési mód biztonságosabbá tétele érdekében. Hasonló fejlődés előtt állnak az automatikus járművek, sőt, magának a közlekedésnek is az automatizálása. Nagy valószínűséggel állítható, hogy századunk közepére már uralkodó megoldás lesz az automatizáltság mind a járműveknél, mind a közlekedésben.

A robotok "törvényei"

Ugyanez a jóslat mondható el az intelligens robotok – mondjuk így, leegyszerűsítve: a valamilyen fokú intelligenciával rendelkező gépek, berendezések – elterjedésére is. Tömeges alkalmazásuk azonban egyre több kételyt ébreszt az emberekben.

Megszállott olvasója vagyok Asimov könyveinek, ezért nem állhatom meg, hogy ne idézzem ide a mesterséges intelligenciával működő gépek, szerkezetek,vagyis az intelligens robotok általa megfogalmazott hármas törvényét: 1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen; 2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének; 3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba. Bölcs és megfogadásra érdemes törvények.

Ám a jelenlegi robotok egyelőre még nagyon részlegesen felelnek csak meg ennek a kritérium-rendszernek. Példa erre egy éppen most volt olvasható a hír, hogy egy „intelligens” fűnyírónak nekiment egy kisgyerek. A robot fellökte a kicsit, de nem állt meg, hanem még végig is taposott rajta. Ez az eset bizony igencsak ellentmond az első törvénynek…

Megismétlem: egy vagy akár néhány példa, néhány baleset igencsak kevés érvnek számít általános következtetések levonására. Egyfelől láthatjuk, hogy a műszaki tudományok és a technika állandóan fejlődik, és mint említettem, a balesetekből, hibákból is rengeteg új megoldás származtatható. Másfelől viszont a technikai fejlődés önmagában nem elégséges, mivel sokkal lényegesebb és sokkalta kevésbé egyszerű adekvát válaszokat találni a társadalmi hatásokra és következményekre.

És itt térjünk vissza ismét az önjáró autók esetére. Egyelőre megnyugtatóan egyáltalán nem rendezett kérdések sora merül föl. Ki a felelős a jármű viselkedéséért? Kit terhelnek az okozott károk és azok következményei? A gyártó? A tulajdonos? Vagy netán éppenséggel az áldozat a felelős?

Nyilvánvaló, hogy jelenlegi törvényeink nem adhatnak még adekvát válaszokat az intelligenciával ellátott eszközeink működésére, döntéseire, működésének zavaraira.

Elveszik a munkahelyünket?

Különösen nem az etikai komponensekre. Voltaképpen természetes folyamat ez, hiszen a jog, a szabályok rendszere mindig a technikai haladás mögött jár, annak eredményei nyomán fogalmazhatók meg a szabályok. Nem is egy lépésben, hanem folytonosan közelítve, újabb és újabb korrekciókkal. Gondoljuk el, hogy Magyarországon az első közlekedési szabály-rendszert, a KRESZ-t 1910-ben vezették be és azóta hány módosításon ment keresztül.

Vannak más hatások is. Ilyen például a robotok immár széles körű alkalmazása a munkahelyeken. Tömegesen az iparban, de akár a mezőgazdaságban is ott vannak már például ember nélküli, automatikus aratógépek. Elveszik-e a mesterséges munkások az emberek elől a munkahelyeket? A primitív válasz: de mennyire! Akárcsak J. M. Jaquard (1752—1834) lyukkártyával vezérelt szövőszékei a szegény szövőmunkásoktól. A körültekintő válasz azonban egészen más. Valóban nagy tömegben működnek már automatikus eszközök az iparban - számítógéppel vezérelt szerszámgépek, festő, hegesztő, összeszerelő robotok -, sőt, infokommunikációs rendszerek a gazdasági és pénzvilágban is. Ezek valóban helyettesítik az embert.

A legveszélyeztetettebb munkahelyek ebből a szempontból az úgynevezett rutinmunkák, a gépies ipari összeszereléstől az irodai, banki munkákig. Csakhogy ennek a kérdésnek van egy másik oldala is. Felértékelődnek a nem rutinból végezhető szellemi tevékenységek, például az intelligens gépek fejlesztése, tervezése, működtetése, karbantartása, oktatása. Tehát a foglalkoztatási rendszerekben jelentős átstrukturálódás megy végbe. Az USA-ban például a nem rutinszerű szellemi munka iránti igény 2000 és 2015 között mintegy 20 százalékkal nőtt.

A mesterséges intelligenciával működő eszközök sorában jelenleg a leglátványosabb az okos repülő eszközök, a drónok tömeges előretörése. (Utána néztem, mit is jelent ez a szó. Az angol drone szó főnévként méhet, méghozzá here-méhet jelent, igeként pedig zümmögést, zúgást.) Kétségtelen, hogy nagyszerű lehetőségeket nyújtanak a drónok, amelyek máris szinte robbanásszerű mértékben terjednek a világban. Az Economist hetilap egyik minapi számában humorosnak szánt rajzsorozat jelent meg arról, milyen álmokat teljesíthetnek be a drónok. Nem kell majd zsúfolt utakon autóznunk, mert személyes kis repülő eszközünkkel eljuthatunk a munkába, iskolába, bárhová. Kevesebb autó kell, tehát kevesebb értékes kőolaj fogy, hiszen a drón napelemekből is nyerhet energiát, ezáltal kevésbé terhelődik kipufogó gázokkal a légkör. Hanem… seregnyi a veszélyük is van, amiket még csak mostanság kezdünk számba venni. Nyilvánvalóan nagyon könnyűvé válik behatolni velük bárki privát életébe, nem kis veszélyt jelenthetnek a légiközlekedésre, sőt, egymással is ütközhetnek.

Trump és elvbarátai, követői számára fenyegetés lehet, hogy a kerítések sem jelentenek gátat például az USA-ban a Mexikó felől beözönlő bevándorlók elől. És természetesen az ember nélküli vagy ember által a távolból irányított, de önálló feladatokat végrehajtó, a programozásuk szerint állandóan tanulni is képes drónok mindenféle sötét célra felhasználhatók, a katonai feladatoktól kezdve akár a terrorizmusig.

Tudósok figyelemeztetnek

Rendkívül figyelemre méltó, hogy tavaly, egy nemzetközi mesterséges intelligencia konferencián vezető tudósok nyílt levelet fogalmaztak meg, amelyben felhívtak a támadó autonóm fegyverek betiltására. Ebben rámutatnak, hogy ezek a fegyverek „globális mesterséges intelligencia-fegyverkezési versenyhez vezethetnek, felhasználhatók terrorcselekményekre, nemzetek destabilizálására, népek leigázására és egyes etnikai csoportok szelektív legyilkolására”. A nyílt levélhez aláírásukkal több mint húszezren csatlakoztak, köztük olyan hírességek, mint S. Hawking vagy az önjáró Tesla autót gyártó vállalat vezetője, Elon Musk. Utóbbi egyébként tavaly tíz millió dollárt adományozott egy amerikai intézetnek arra a célra, hogy „megvédjék az életet a feltételezett gonosz célú MI fegyverekkel szemben”.Mindenesetre a levél kezdeményezői rámutatnak, hogy az autonóm, intelligens fegyverek akár tömegpusztításnak is lehetséges eszközeivé válhatnak.

Nem üres fenyegetések ezek. Milyen népszerűek voltak az első sikerek a levegőnél nehezebb eszközökkel való repülésben! Nagyszerű úttörők jelezték a megtett utat, akik közül nem egy közülük áldozattá is vált. Nagy eredmények voltak, az ember repülni képes! És amely eredmények nyomán már az első világháborúban használni lehetett repülőgépeket a harcokban. Nem is szólva második világháború bevetéseiről, szőnyegbombázásairól.

A technikai haladást azonban nem lehet megállítani. Nem is szabad. Hiszen mennyi áldás származik belőle! Hosszabb lett a fejlett országokban az életkor, köszönhetően egyebek között a kémiának (gyógyszerek) és a nagyszerű képalkotó eszközöknek (CT, MRI, PET, ultrahang). Csodálatos lehetőségek támadtak az infokommunikáció jóvoltából, mint a mobil telefónia, az internet, a tömeges tartalom elérések, az intelligens ipari, sőt háztartási eszközök, a nem túl távoli jövőben az intelligens városok).

A technikai fejlődés mindenképpen áldás az emberiségnek. De valódi áldáshoz az szükséges, hogy szolgánk, Gólem - vagyis a technika -, valóban kiszolgálónk legyen. Ahhoz, hogy mi uralkodjunk rajta és nem fordítva, az kell, hogy bölcs szabályokkal, szabályok rendszerével, törvényekkel és biztosítékokkal garantáljuk ezt. Ami azt jelenti, hogy a Gólem szájában mindig benn lesz a bűvös írás, amely szolgálatra kényszeríti őt és meggátolja a rombolásban.