„A robot nem árthat az embernek”

Mit nevezünk pontosan robotnak?

A robot szót először Karel Čapek író használta. Az általa megálmodott, mesterségesen létrehozott humanoid figura volt az, amelyet robotnak nevezett. A magyar nyelvben - más értelemben - a középkorban is létezett ez a szó, akkor a hűbéri társadalomban a jobbágyok által végzett, ellenszolgáltatás nélküli munkát jelentette, nem pedig a gépet. A mostani értelmében a robot egy mesterségesen előállított szerkezet, amelynek nem biztos, hogy van teste, hiszen lehet szoftver is, ez esetben megfoghatatlanná válik. Isaac Asimov „Én, a robot” című művében a robotot az embert segítő és azt soha nem bántó szerkezetnek írja le. Megfogalmazta a robotika három törvényét, melynek első pontja, hogy a robot sohasem árthat az embernek. Itt kezdődik az az eszmei összecsapás, hogy az úgynevezett „robotfegyvereket”, „robottankokat”, illetve „robotkatonákat”, valamint azokat a humanoidokat, amelyek bizonyos filmekben szerepelnek, ne hívjuk robotoknak. Ezt a köztudatból már szinte lehetetlen kiirtani, ennek ellenére minden alkalommal elmondjuk, hogy a robot nem árthat az embernek, tehát ebben az értelemben ezek az eszközök nem robotok. Az ENSZ szakértői munkacsoportja halálos hatású autonóm fegyvereknek nevezi ezeket a szerkezeteket. Ugyan 21 évvel ezelőtt „Robothadviselés” címmel indult a konferencia, később egy doktorandusszal folytatott kutatás során kiderült, hogy ez nem túl helyes kifejezés, hiszen a robotok nem viselhetnek hadat.

Mi az alapvető különbség az automata, automatizált és autonóm fegyverek között?

Az automata fegyverek a sorozatlövésre alkalmas géppuskákkal jelentek meg a harctéren. Ezek voltak az első olyan fegyverek, amelyek már vagy kézi erővel, egy hajtókar segítségével működtek vagy a lövés energiáját használták fel a hüvelykivetésre és az újratöltésre. Ezzel a sorozatlövés megvalósíthatóvá vált, ez volt az első automata fegyver a harctéren. Az automatizálás a gépészeti technikák olyan közös területe, amely segítségével emberi munkafolyamatokat a berendezés egyes részegységeire bíznak. Ezeket el lehetne végezni emberi erővel, ugyanakkor az ember nem tudja megoldani, mert le kellene ellenőrizni kézzel, szemmel vagy műszerrel, hogy - tegyük fel - 116 ponton abban a rendszerben milyen villamos állapotok vannak. Ezt egy automatika oldja meg, és végeredményül meggyújt egy lámpát, ami azt jelenti, hogy minden rendben van. A legegyszerűbb ajtózárás-figyelésétől kezdve az űrhajók komplex légnyomás ellenőrző rendszeréig minden ide tartozik.

Az automatika megjelenése miatt bizonyos feladatok egyre inkább kikerülnek az ember irányítása alól, ezzel egyfajta könnyebbséget nyújtva a kezelőnek, hiszen nem tud ezerfelé figyelni. Ezáltal csökkenthető az állomány létszáma is, ennek azonban az az ára, hogy egyre bonyolultabbak a berendezések. Felvethetjük azt is, hogy az ellenőrző automatika elromlik és mondjuk hibás üzeneteket küld a járműfedélzetről, a lokátorantenna pozíciójáról vagy az űrhajó oxigén-szintjéről. Egy másik automatika, ha erre reagál - hiszen azt sem tudja a kezelő állandóan figyelni -, akkor beavatkozik, és az egyik hiba láncreakció-szerűen követheti a másikat. Tehát a túlzott automatizálás sem megoldás a világ problémáira, mert akár ezek okozhatják a rendszer komplett meghibásodását vagy egyéb nem várt következményekkel járhatnak. Ezért nagyon fontos, hogy legyenek olyan pontok, ahol az embernek lehetősége van beavatkozni. Itt jön az autonómia kérdése, amely azt jelenti, hogy a gépeknek szabad kezet adunk. Ezek a gépek lehetnek katonai értelemben fegyverek, illetve komplex fegyverrendszerek. Például a hangsebességnél gyorsabban repülő rakétát nincs idő észlelni, feldolgozni és jelenteni, ezért bekapcsolhatják az autonóm rendszert, amelynek azt mondják, hogy egy adott szektorból érkező minden nagy sebességű, közeledő tárgyra nyisson tüzet. Ekkor megkapja az autonómitást, de az ember számol azzal, hogy mondjuk az elöljáró nem egy rakétával fog érkezni és ebből nem lehet nagy probléma. Van több országnak, köztük Oroszországnak is olyan önvédelmi fegyverendszere, amelyek segítségével a páncélozott járművek ellen indított páncéltörő rakéták autonóm módon, tehát emberi beavatkozás nélkül működnek, illetve annyi az ember szerepe, hogy bekapcsolja a rendszert és rábízza a feladatot.

Mik lehetnek a további veszélyei annak, ha a gépek szabad kezet kapnak?

Az, hogy mennyire engedjük el a fegyver kezét, aggodalomra adhat okot, hiszen az autonómia bizonyos fokára eljutott rendszerek képesek a környezetük figyelésével, adatgyűjtéssel, illetve szenzorokkal alaphelyzeteket észlelni és önmaguk beprogramozott folyamatainak segítségével bizonyos válaszlépéseket generálni. Ha ezek emberi beavatkozás nélkül folytatódnak, akkor tulajdonképpen egyfajta elszabaduló rendszert képeznek, amely nem biztos, hogy megfelel az eredeti szándéknak. A mesterséges intelligencia pedig olyan magas szint, ahol a rendszer képes tanulni és önmagát fejleszteni. Akkor kezdődhetnek a problémák, amikor már olyan okos rendszerek vannak, amelyek túlléphetnek az emberen és olyan szinten képesek megtanulni dolgokat, amelyek meghaladják az emberi elme gyorsaságát és felfogóképességét.

A mesterséges intelligenciának elsősorban nem a katonai területét szokták említeni, hanem a humán oldalát, például, amikor sakkban a világbajnok Garri Kaszparovot legyőzte a Deep Blue nevű számítógép. A tudósok akkor összeráncolták a szemöldöküket, mondván, hogy az embert legyőzte a gép. Ma már olyan számítógépek léteznek, amelyek képesek legyőzni valakit pókerben vagy éppen a Rubik-kocka kitekerésében. Gyakorlatilag a számítógépet a kocka súlya és a tehetetlenségi erők akadályozzák, hiszen a „fejében” már rég megvan a megoldás. Lényegtelen, hogy egy két szekrény méretű gépről vagy egy felhőben elosztott, megfoghatatlan információhalmazról beszélünk. Eljutottunk olyan szintekre, amelyek már valóban meghaladták az ember képességeit. Ennek lehetnek pozitív hozadékai, hiszen egy autonóm rendszernek meg kell azt a feladatot is oldania, hogy ütközéskor kinyissa a légzsákot olyan gyorsan, amire az embernek már nincs ideje. Azonban ez sem tudja megvédeni az embert attól, hogy szándékosan szembe forduljon a forgalommal. Észlelni fogja a problémát, de ha nincs rá felkészítve, nem fogja megakadályozni. A mesterséges intelligencia esetében pedig arról is beszélhetünk, hogy lehet, ha legközelebb ugyanolyan szituációban kell eredményt elérnie, amelyet már ismer, másfajta döntést fog hozni. Ez már nem az a számológép, amely ugyanabból az adatból ugyanazt az eredményt hozza ki, hanem másként is beavatkozhat. Hiszen olyan döntéseket hoz egy adott rendszer, amely nagyon hasonló az emberi cselekvéshez és az a lényege, hogy a bemenő folyamatokból tanuljon. Itt kapcsolódhatnak össze a robotok és ez a nagyon magasan fejlett, öntanuló program, amely mesterséges, hiszen az ember állította elő, azonban a beavatkozásai lehetséges, hogy az emberi szándéktól eltérők lesznek. Ettől ezek nem feltétlenül rosszak. Az emberek is tudnak hibázni. Felmerülhetnek azok az elméletek, hogy a mesterséges intelligenciát beépítik az önvezető autókba és jóval kevesebb balesetet fognak okozni, mert a sok emberi tévedést kiküszöbölik. Azonban sajnos lehet, hogy nem mindig tökéletes a rendszer, holott a tervezői úgy gondolhatták, hogy minden oldalról biztosították, hogy megfelelően működjön. A jogászok azt mondják, hogy a gyártó felel a bekövetkezett esetekért. A mesterséges intelligencia azonban bonyolultabb annál, mint hogy egyszerűen le lehessen fedni a gyártói felelősséggel. Ez pedig etikai kérdéseket vethet fel, például, hogy elvárhatjuk-e ezektől a szerkezetektől az emberre jellemző erkölcsi vonásokat. Az én véleményem az, hogy örüljünk annak, hogy ezek a gépek sok esetben nem viselik magukon bizonyos emberek etikátlan viselkedési formáit.

Az interjú folytatásában arról beszélgetünk, milyen kérdéseket vethet fel, ha egy szerkezet túllép a szingularitási ponton, lehetséges-e, hogy gépek helyettesítik majd a katonákat és valós veszélyt jelenthet-e, hogy a robotok elveszik az emberek munkáját.