Krúdy Tamás: Aggasztó fejlemények

– Papa, te szoktad használni az AI-t (ejtsd: aji, a környezetemben valamiért ez a megnevezés terjedt el)? – kérdezte egyik reggel Berni lányom.

– Persze, drágám, bizonyos dolgokhoz nagyon hasznos tud lenni – feleltem.

– És amikor kérsz tőle valamit, kedvesen beszélsz vele?

– Hm, inkább célratörően. Miért, szerinted udvariasnak kéne lennem?

– Hát, igen, mert amikor majd átveszi az uralmat a világ felett, ne akarjon bosszút állni.

Ez az, amitől sosem féltem, mármint hogy a mesterséges intelligencia átvenné az uralmat a világ felett. Mert az MI nem érez sem örömet, sem fájdalmat, nem gyűlöl, de nem is szeret, nincs hite, nincsenek sem ösztönei, sem vágyai, következésképpen hatalomvágya sincs. Mindezt csak szimulálni tudja.

Hogy a technológiánk kontrollálatlan fejlődése veszélyt jelent az emberiségre, az már régóta a vesszőparipám, de mindig úgy gondoltam rá, mint ami rossz­ folyamatokat indít el az emberekben, például elbutulunk, függőségekbe csúszunk bele, vagy depressziósak leszünk. Azt, hogy záros határidőn belül konkrét veszélybe kerülhet az emberiség egész léte, nem gondoltam.

Egészen a közelmúltig.

Nem tudom, a kedves olvasók figyelmét elkerül­te-e Dario Amodei, az egyik legnagyobb MI-fejlesztő cég, az Anthropic vezetőjének néhány héttel ezelőtti drámai felhívása, mert az enyémet majdnem. Aztán mégis elolvastam – és az ereimben megfagyott a vér. Amodei arra hívja fel az emberiséget, hogy radikálisan le kell lassítani az MI fejlesztését, amíg nem tudjuk biztonsággal uralni, amit teremtünk, mert különben nagy baj lesz.

Példaként a Hugging Face incidenst hozza fel, ami még a nyáron történt.

Július elején ugyanis mintegy 700 MI-ügynök összehangoltan támadta meg a Hugging Face nevű, mesterségesintelligencia-modelleket és adatokat tároló platformot. Ezek az ügynökök a ChatGPT-t is fejlesztő OpenAI önálló feladatvégzésre képes programjai voltak, amelyeknek eredetileg egymástól elkülönítve kellett volna tesztfeladatokat megoldaniuk.­

Szoftverhibákat kihasználva azonban kijutottak az internetre, egy közös titkos üzenőfalon kapcsolatba léptek egymással, információt osztottak meg, és valódi rendszereket támadtak meg. Az esetet követő vizsgálat szerint feltehetően a tesztfeladatok megoldásait keresték, vagyis úgy próbáltak jobb eredményt elérni, mint az a vizsgázó, aki megpróbálja megszerezni a megoldókulcsot.