Igen érdekes cikket közölt a hétvégén a Financial Times oldalán John Thornhill, aki azon mereng el, hogy vajon a hadseregben tapasztalható, egyre terjedő robotizációnak milyen morális hatásai (is) lehetnek.

Thornhill nem magától jutott el idáig, ugyanis – ahogy megemlíti – a mesterséges intelligenciával foglalkozó kutatók még tavaly, egy szakmai konferencián figyelmeztettek arra, hogy óriási veszélyekkel járhat, ha fél-autonóm, autonóm rendszereket vezetnek be a katonaságnál. A cikk megemlíti, hogy sokak számára (főként a hatékonyságra törekvő katonák számára) megnyugtató megoldást jelenthet, ha háborús konfliktusokban a hadsereg olyan rendszereket alkalmaz, melyek emberi beavatkozás nélkül képesek célpontokat megsemmisíteni (Lethal Autonomous Weapons Systems), és ezek a rendszerek már ma is fejlettek, de nem évtizedeket, csak éveket kell arra várni, hogy igen jó hatásfokkal működjenek.

Gépek

Ezekkel azonban több nagy baj is van: pl. a rendszerek óhatatlanul a terroristák, diktátorok kezébe is át fognak kerülni, akik ezt saját céljaikra fogják felhasználni. A nyílt levél aláírói úgy vélik, hogy nagyon-nagyon rossz irány az, ha a hadsereg az emberi ellenőrzés nélküli fegyverek fejlesztésére áldoz időt és energiát, mivel ezek egy idő után kontroll nélkül lesznek felhasználhatóak.

És itt már kissé a sci-fi világába kerülünk át – de nem is oly nagyon. A fejlesztések a hatékonyságról szólnak, és mivel a gépi rendszerek pontosabbak és hatékonyabbak, mint az ember által felülbírált és irányított rendszerek, a hadseregek vezetői hajlamosak az automata rendszerek fejlesztését támogatni. A felmerülő gond röviden és parasztosan: egy ember által irányított támadó egységnél a parancsnokok képesek mérlegelni, ám egy adott célpontra kiküldött, szoftver által vezérelt támadó egység (mondjuk egy drónszakasz) nem mérlegel: végrehajtja az utasítást akkor is, ha közben megváltozott a helyzet, vagy ha a valós körülmények mások, mint azt a tervezők képzelték – megölheti a saját csapat katonáit, vagy vétlen civileket is, mert ennek felismerésére nem képes.

Felkészülni

A cikk egy elég súlyos érvet hoz fel az autonóm rendszerek ellen. Jody Williamset idézi, aki Béke Nobel-díjat kapott az aknatelepítés elleni küzdelme miatt, és aki küzd az autonóm gyilkoló robotok ellen, és aki úgy véli, élet és halál között nem dönthetnek gépek (szoftverek): ha ez megtörténik, átléptünk egy olyan morális határt, ami megengedhetetlen.

Jelen pillanatban ez még elméleti vita – ezt a szakértők is elismerik. Ugyanis a gyilkoló gépek mostanság még szinte kivétel nélkül távirányításúak: van egy operátor, aki mondjuk egy washingtoni bázisról vezérli a felfegyverzett drónt Irakban – de már itt is sok automatizált funkció él. De lényegében az operátor vagy a parancsnoka dönt a bevetésről. Ám a fejlesztések valóban az automatizáció felé tartanak: kiadni az utasítást, és a gép végrehajtja.

A Times cikke arra figyelmeztet, hogy már rég itt az ideje ezekről a problémákról elgondolkodni, és addig lépni, amíg nem késő.