„A jövő háborúja teljesen más lehet”

Ahogy korábban említette, egyes szerkezetek esetében örülhetünk, hogy a gépek nem rendelkeznek bizonyos etikátlan tulajdonságokkal, például bosszúvággyal. Mi történik, ha egy fegyver meghibásodik és mondjuk, egy hiba miatt árt az embernek? Ilyen esetben a gép képtelen mérlegelni, hogy ez helyes cselekedet-e.

Valóban, akárcsak az automatikus rendszereknél, az autonóm, intelligensnek hitt rendszerek esetében is előfordulhat, hogy meghibásodik egy szerkezet. Az ember által tervezett rendszer ilyenkor az ember számára is meglepő módon kezd el viselkedni, akár az eredeti szándéktól eltérően: ez a kockázat az egészben. Emellett az is lehetséges, hogy megtévesztik őket, hiszen a katonai viselkedésben az álcázás, a hamisított objektumok és információk is szerepet játszanak. Megtévesztő információk feldolgozásával a gépek hozhatnak rossz döntéseket, még meghibásodás nélkül is. Ezek a rendszerek a kibertérben élnek és egyre több a kommunikációs kapcsolatuk, ezeken keresztül támadhatók, fel lehet őket törni és meg lehet őket zavarni, hogy rossz döntések sorozatát kövessék el. Ha a fegyver elsütő billentyűzetét bíztuk rájuk, bármikor elsüthetik majd azt. Az ENSZ Egyes Hagyományos Fegyverekről Szóló Egyezmény részes országainak szakértőiből álló munkacsoport 2013 óta rendszeres üléseket tart a halálos hatású autonóm fegyverek témakörében. Évek óta foglalkoznak azzal, hogy nem szabad halálos hatású autonóm eszközöket emberi felügyelet nélkül alkalmazni. Sajnos jelenleg azonban nincs nemzetközi megegyezés a kérdésben. Anno, a gépesített hadseregnél versenyhelyzetet teremtett, hogy kinek van több nyersanyaga, legyártott fegyvere, illetve harckocsija és repülőgépe. Jelenleg valószínűleg az győzhet, akinek a mesterséges intelligenciája magasabb szintű, illetve akinek több tudást építettek az egymás ellen felhasználandó fegyvereibe. Ez még messze van, de személyzet nélkül repülőkből vagy személyzet nélküli földi járművekből már ma is viszonylag sok típus létezik. A köznyelvben drónokként emlegetett berendezések jelentős része ma már egyre intelligensebb, egyre függetlenebb az embertől. Említhetnénk még a légvédelmi rendszereket, és akkor már van is egy párbajkész párosítás. Az egyik legkomolyabb etikai kérdést az veti fel, hogy mi történik akkor, ha a gép dönt arról, hogy tüzet nyit vagy sem. Átlépheti-e a mesterséges intelligencia az emberiséget, leigázhatja? Több tudós, kutató, fejlesztő azt mondja: el fog jutni a fejlődés oda, amikor a világ egészen másként működik majd, mint jelenleg gondoljuk. Más tudósok is óva intenek attól, hogy ez az úgynevezett szingularitáspont elérkezzen.

Mit jelent ez a fogalom?

Amikor a mesterséges intelligencia nemcsak egy-egy területen, hanem általánosságban is átlépi az emberiség küszöbét és esetleg elkezdi megvédeni magát az embertől. A másik szempont szerint, ez csupán egy gép, amit ki kell kapcsolni és nincs ezzel több probléma. Csakhogy, ha már a rendszerek is a felügyeletük alatt állnak, akkor a gép meg fogja védeni magát és nem fogja engedni kikapcsolni az áramot. Ez az a szingularitáspont, amikor az ember kártékony, szemetelő, szén-dioxidot termelő veszélyforrássá válhat a gép számára, akitől meg kell védeni a bolygót. Ebben az esetben a rendszerek elkezdhetnek az ember ellen fordulni, ami tudományos gondolkodásra adhat okot. Bízzunk benne, hogy más lesz a forgatókönyv.

Lehetségessé válhat a jövőben gépekkel helyettesíteni az emberi katonákat? Vagy inkább kiegészíti egymás az ember és a gép?

A jövőben, a technológiai fejlődés következtében majd kevesebb embert kell a harctérre küldeni. Ennek egyik veszélye, hogy elszabadul a háborúskodási kedv, hiszen majd a gépek vívják meg a csatákat. Ez pénz és energia kérdése lesz. Az Egyesült Királyság hadereje is tervezi, hogy technológiai újítások beszerzésével majd lehet csökkenteni a katonák számát. Én nem hiszek ebben, mert egyfajta technológiai egyensúlytalanság lép fel. Képzeljünk el egy adott országot, ahová az angol katona megérkezik a béketeremtő, mégis fegyveres küzdelembe! Tegyük fel, hogy sok konténerben lévő vasfigura érkezik, és technológiailag egy közel száz-kétszáz évvel hátrébb lévő embercsoporttal kellene felvennie a harcot. Előfordult már olyan eset is, amikor a high-tech fegyverzettel ellátott katonáknak egyenruhát sem hordó, megkülönböztethetetlen, arc nélküli ellenséggel kellett háborúznia, amelyik a legvártalanabb pillanatban és helyen támadhatott rá, például egy békésnek látszó tömegből. A hadviselés szabályai szerint küzdő katonákat nem erre készítik fel, és az ellenség láthatatlansága nagy konfliktust okozott a hadviselés módját illetően. Tehát egészen eltérő szempontok is felmerülhetnek, és ha két technológiailag eltérő hadsereg, két eltérő rendszer áll egymással szemben, ez a rendszer sem lesz hatékony. A legmodernebb technológiával – például rádiófelderítő- és zavaró berendezéssel – felszerelt eszközökkel odaérkező járművek sem tudtak mit kezdeni a füstjelekkel kommunikáló ellenféllel, ahogy a rövidhullámú rádión morzejeleket küldővel sem, mert azt a sávot ők már nem is használják. Emellett a technológiai fejlesztések növekedésével sem biztos, hogy jóval kevesebb ember kell a hadseregbe, sőt, ezeket az automatizált rendszereket kezelni is kell. Azt mondják, a pilóta nélküli repülőgép azért jó, mert nem kell hozzá pilóta. Csakhogy a földön van egy úgynevezett pilóta nélküli repülőgéprendszer, amelyben a kommunikációtól kezdve a repülőgép indításáig, az energiaellátástól a szenzorkezelésig, illetve a repülőgép vezetésétől a felügyeletéig rengeteg ember összehangolt munkájára van szükség. Egy embert megspórolhatnak, de szükség van sok másikra. Ha például egy lövészkatonát akarnánk kiváltani harctérre kiküldött, felfegyverzett humanoidok segítségével, akkor azok logisztikai ellátása, a felszerelésük üzemeltetése és harckészen tartása sokkal nagyobb létszámú személyzetet igényelne, mint a katona, akit helyettesítenének. Emellett emocionális és döntési képességeik, illetve a harctéri tapasztalataik valószínűleg még sok évig nem érik el az alapkiképzésen átesett katonáét.

Sokan tartanak attól a civil életben is, hogy a robotok elvehetik a munkájukat. Ez valós veszély lehet?

El, de ez nem először történne meg a világtörténelemben. A gázlámpagyújtogatók munkáját is elvette Thomas Alva Edison, amikor feltalálta a villanykörtét. A bérkocsisok munkáját is elvették az autók. A ló vontatta vasutak vasutasainak munkáját is elvették a gőzmozdonyok. A technológiai fejlődés valakire nézve mindig járhat egyfajta negatív következménnyel. Azt is mondhatnánk: ha a gépek elveszik bizonyos emberek munkáját, nem lesz gond, mert őket beállíthatjuk az eszközök üzemeltetésére. Igen ám, csak szakértő állományra van szükség, és lehet, hogy a két szakma között közel 8-10 év mérnöki tudás a különbség. Sajnálatos módon nem lehet egyszerűen átmenni egyikből a másikba, ahhoz tanítani kell. Ez okozza a félelemet, hogy a robotok elveszik a munkát. Ez szakmacsoportonként eltérő lehet, hiszen a taxisok is félnek, hogy a jövőben jöhetnek az önvezető autók, amelyek megállnak a ház előtt, beszáll az utas, csak beírja a címet, és az autó elviszi őt az adott helyre. Így nem kell, hogy saját gépjárművel rendelkezzen, ahogy autószerelő műhelyekre sem lesz szükség. De vajon az önvezető autót ki fogja javítani, üzemeltetni? Ahhoz is rengeteg ember szükséges. Tehát nem igaz, hogy mindenkit ki lehet váltani. A másik problémát viszont az veti fel, hogy bizonyos munkakörökben a gépek jobban teljesíthetnek. Például egy robot az agyműtét során az emberi kéz adottságait meghaladó precizitással végezhet el egy bemetszést és egy elektróda-beültetést, majd ennek a lezárását. Be kell látni, hogy bizonyos helyzeteben ezek az eszközök jobbak lehetnek nálunk - ez azonban nem jelenti azt, hogy ezentúl nem lesz sebészekre szükség. Ha csak arra gondolunk, hogy a világon mennyi sebészeti beavatkozásra lehet igény, ha az összes robotot beállítanánk, sem biztos, hogy utolérnénk magunkat. Egyebek mellett a fényképelemzésre is zseniálisan jó programot fejlesztettek ki, amely a CT-, illetve MRI-felvételeket az emberi fáradékonyságot meghaladva, hatékonyabban tud meghatározni bizonyos szövetminta-eltéréseket. Ennek ellenére radiológusokra is szükség van. Ezért nem állítom, hogy az emberiség egyértelműen a robotok ellen fordul. Szerintem sokan inkább attól tartanak, hogy bizonyos folyamatok kikerülnek a humán irányítás alól és kontrollálhatatlanná válnak, mint ahogy erre lehetnek példák. Bizonyos emberek számára azonban a technológia fejlődésével járó elbocsájtások valós problémát jelenthetnek. Talán még időben vagyunk ahhoz, hogy ezt felismerjük, és társadalmi szintű megoldásokat keressünk az oktatásban vagy például a robotadó bevezetésében. Felmerült az is, hogy a robotizáció miatt a munkájukat elvesztő emberek anyagi ellátást kapjanak. Ilyen a világ: szakmák jönnek és tűnnek el. Úgy gondolom, ezt majd a társadalom elrendezi, és az érintett csoport bekerül egy másik szférába, ahogyan az iskolarendszer is utolérheti majd a robbanásszerű fejlődést. A világ eddig lassabban fejlődött, de az utóbbi 30-40 évben olyan hirtelen történtek nagyméretű változások, hogy az szinte követhetetlen. Nem véletlen, hogy az emberek számára ez akár mentális betegségeket is okozhat. Újabbnál újabb eszközök jelennek meg, és lehet, már a telefonunknak is van olyan funkciója, amelyről nem is tudunk, mert nem használjuk. Ez a hadseregre is igaz: vannak hadtörténelmi tapasztalatok és bevett eljárások, azonban valószínűleg a következő háború teljesen más lesz, ahogyan a szembenálló fél is.