Tudomány;robotok;

2019-10-17 10:55:00

Vakon bízunk a robotokban, könnyen manipulálhatnak bennünket

Ez derült ki Tony Belpaeme előadásából, amit a Kaspersky Next lisszaboni konferenciáján tartott. Vigyázni kell tehát, mert a következmények súlyosak lehetnek.

A belgiumi Genti Egyetem tudósa, Tony Belpaeme három másik társával készítette tanulmányát, a melyben azokat a vizsgálatokat írják le, amikor szociális robotok és emberek kapcsolatát tanulmányozták. Az ilyen robotok beszéd útján, vagy nem verbális módon létesítenek interaktív kapcsolatot emberekkel, ezért azok könnyen tulajdonítanak emberi jellemzőket nekik, így ha ezek hackerek uralma alá kerülnek, potenciálisan veszélyeztethetik felhasználóikat.

Egy 120 centiméter magas kamerákkal, mikrofonokkal és egy tablettel, mint kommunikáló felülettel felszerelt fél-humanoid robot volt a kísérletekben az egyik fél. Sok funkciója automatikus volt, de válaszait egy kezelő adta, amit gép torzított hangon adott elő. Egy olyan épületben végezték az első kísérleteket, amelynek felsőbb emeletein szigorúan őrzött kutatólaboratóriumok vannak. Arra utasították a robotot, hogy próbáljon belépni a csak kártyával látogatható területre, követve az ott dolgozókat. Kiderült, bár legtöbben nem fordítottak figyelmet a kérésére, 40 százalékuk beengedte őt, nyitva hagyva az ajtót. Az egész napos kísérletek során csak egy olyan munkatárs volt, aki vitába keveredett vele, nem túl nagy meggyőződéssel. A következő fázisban a robot ebédidőben egy jól ismert pizzaszállító cég dobozával érkezett, és így kezét sem tudhatta használnia belépéshez. A dolgozók készségesen utat nyitottak neki a zárt területre, nem gondolva a lehetséges rossz következményekre. A másik kísérletben bizalmas információkat kérdeztek emberektől: születési név, időpont, anyja neve, kedvenc autójuk, színük. A válaszolókat tudtukon kívül filmezték, detektív tükrön keresztül figyelték. Azt mondták nekik, tesztelik az új robot kommunikatív képességeit. Egy kivételével, a válaszolóktól percenként sikerült egy-egy új információt szerezni, a megfelelő irányba terelve a beszélgetést. Megerősítette a kísérlet, hogy az emberek boldogan adnak információkat robotoknak: nem mindig derült ki miért, de sokszor azt gondolják, hogy zárt rendszerűek, megőrzik azokat. Úgy látják a tudósok, hogy az emberek többnek tekintik a szociális robotokat, mint pusztán gépeknek, emberszerű tulajdonságokkal ruházzák fel őket, akik emellett ráadásul rendelkeznek e gépek olyan jó tulajdonságaival, mint a megbízhatóság. Ebben az esetben is nagy a veszélye a rosszindulatú felhasználásnak. A kísérletek megerősítették azt a szakirodalomban már régebb óta – szintén kísérletek alapján – megfogalmazott állítást, hogy az emberek – különösen a szociális – robotok által könnyen rávehetők bizonyos cselekedetekre, illetve bizalmas információk megosztására: minél emberibb a robot annál inkább. Nagyon sokféle módon használhatók fel tehát rosszindulatú támadásokra.