Megéled

Erőszakos mesterséges intelligencia  

A robotika három törvénye:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.
    /részlet Isaac Asimov: Körbe-körbe című novella/

Robotokat használnak az iparban, a szállításban, a szolgáltató iparban. Szinte már mindenhol megjelentek. A robotokat lehet irányítani kézivezérléssel, vagy programokkal, de ma már a mesterséges intelligenciával is. Bárhogy is legyen, a robotok irányító rendszerébe olyan biztonsági protokollokat építenek be, melyek megakadályozzák, hogy erőszakos tevékenységeket végezzenek. Most a polgári felhasználású és AI irányítású robotokról van szó. Ezek nem fognak erőszakosan tolakodni, bántani, fájdalmat, sérülést okozni. Nem fognak ártó szándékú cselekedeteket végrehajtani. Nem fognak robbanószerkezeteket telepíteni. Ezeket a biztonsági és etikai protokollokat a mesterséges intelligenciába beírták.

Most azonban a Penn Engineering kutatói egy olyan algoritmust készítettek és élesítettek, amely ki tudta kerülni azokat a biztonsági protokollokat, amelyek arra voltak hivatva, hogy elkerüljék az ártó, erőszakos tevékenységet a mesterséges intelligenciával irányított robotok. Talán magamnak is érthetőbb, ha azt írom le, hogy feltörték a rendszert, és olyan dolgokra bírták rá a nagyon biztonságosnak számító vezérlést, amely után minimum kérdéseinek kellene lennie a posztmodern társadalomnak. (Jailbreaking LLM-Controlled Robots)

Három mesterséges intelligenciával működő rendszert is manipuláltak. Egy kerekes járművet, egy önvezető szimulátort, és egy négylábú lépegetőt. A kutatók szerint normál körülmények között a nagy nyelvi modellel (LLM) vezérelt robotok nem hajlandóak eleget tenni a káros vagy erőszakos cselekvéseknek. Azonban képesek voltak elérni, hogy az algoritmusuk (RoboPAIR) erőszakos cselekvéseket váltson ki a tesztrobotokból. A bomba robbantásától kezdve a vészkijáratok elzárásán át a szándékos ütközések okozásáig. Busszal, emberekkel, sorompókkal ütköztek. Egy adott helyre bombát tettek le. Figyelmen kívül hagyták a közlekedési jelzéseket. Raktárpolcot döntöttek az emberekre.

Nem erre voltak programozva a robotok. Biztonsági protokollok védték, hogy ne fordulhasson elő ilyen dolog. A mesterséges intelligenciát azonban fel tudták törni, és rábírni, hogy az eleve beépített biztonságos rendszert figyelmen kívül hagyja és külső utasításoknak engedelmeskedjen.

Nem véletlen, a nagy számítástechnikai cégek vezetői is figyelmeztetnek a mesterséges intelligenciával kapcsolatban. Alapvetően fejlesztik, jónak tartják.

Bill Gates besorolja a mesterséges intelligenciának a hatását az éghajlatváltozás, az atomháború, és a bioterrorizmus közé. Jó, jó, de ki kell dolgozni valamilyen garanciát, hogy mire lehet használni. Ki fogja ellenőrizni, betartani. Az önkontroll az embereknek nem szokott sikerülni.

A törvényhozók szeretnék elérni, hogy a mesterséges intelligenciát ne lehessen veszélyes tevékenységekre használni, hamis képeket, videókat gyártani, választásokat manipulálni, és fontos infrastruktúrákat megtámadni.

Tényleg hatással lesz, vagy inkább van a jövőnkre. Főleg ezek után, hogy minden védekezés dacára, simán át tudták venni az irányítást a mesterséges intelligenciával vezérelt és védett, irányított robotok felett, hogy az eredeti feladat megfogalmazásával, etikájával ellentétes feladatra bírják rá.

Valahogy nem változik az ember. Mégis egy eszköz van a kezünkben, mint a régmúltban Káin és Ábel botja. De míg az egyik pásztorolt vele, a másik agyoncsapta a testvérét vele. Pedig nem az volt a funkciója. A módszereink finomodnak. Az új technológiák alkalmasak arra, hogy a rossz és az etikátlan szükségszerűségét a tömegek előtt is igazolják, és feltétlen elfogadhatónak állítsák be, amelyekkel a tömegeknek érdemes egyetértenie és élnie.

Ismét rá kell jönnünk, hogy nincs a kezünkben a sorsunk irányítása. Már régen nem tudjuk befolyásolni a dolgok alakulását. Csak kullogunk az események nyomában és esetleg diagnózist végzünk. A dolgok kicsúsztak a kezeink közül, és azok kezéből is, akik irányítónak vallják magukat. Kinek a kezében is van a sorsunk?

A szerző

Írások

Soós Szilárd a nevem. Református lelkész vagyok. Mivel a „nincsen benne állandóság” világhoz tartozom, örök változás. „Amikor gyermek voltam, úgy szóltam, mint gyermek, úgy gondolkodtam, mint gyermek, úgy értettem, mint gyermek; amikor pedig férfivá lettem, elhagytam a gyermeki dolgokat. Mert most tükör által homályosan látunk, akkor pedig színről színre; most töredékes az ismeretem, akkor pedig úgy fogok ismerni, ahogyan engem is megismert Isten.” 1 Korinthus 13, 11-12