Korunk egyik legnagyobb elméje és fizikusa, Stephen Hawking évekig dolgozott az általános relativitáselmélet és a kvantummechanika egyesítésén, különös tekintettel a gravitáció és fekete lyukak működésére. Súlyos betegsége ellenére a tudomány egyik legnagyobb népszerűsítőjévé vált, ismeretterjesztő munkássága révén milliókkal sikerült megértetnie az univerzum működését. 

Hosszú és tartalmas pályafutása során a kozmosz titkai mellett azonban néhány nyugtalanító – sci-fibe illő, bár nagyon is valóságos – előrejelzést is megfogalmazott. Hawking nem egyszer hangot adott aggodalmának a civilizációra leselkedő veszélyekről. Úgy gondolta, hogy a globális felmelegedéssel a saját sírunkat ássuk, az emberiség hosszú távú túléléséhez pedig más bolygókat kell kolonizálnunk.

De aggodalmát fejezte ki továbbá a politikai feszültségek, a nukleáris fegyverek, a járványok, az aszteroidák, a túlnépesedés és a túlzott energiafogyasztás kapcsán is. 2010-ben pedig kifejtette, hogy ha léteznek földönkívüliek, valószínűleg megölnének minket, amint kapcsolatba lépnénk velük. „Ha idegenek látogatnak el hozzánk, az eredmény nagyjából olyan lesz, mint amikor Kolumbusz partra szállt Amerikában, aminek, mint tudjuk, az őslakosok voltak az elszenvedői” – mondta a Discovery Channel egyik sorozatában.   

A gépek lázadása?

Bár a földönkívüliektől minden bizonnyal nem kell tartanunk, ugyanakkor a Hawking által felvázolt világvége-forgatókönyvek nagy része tényleg valós problémákon alapul – néhányuk most is komoly fenyegetést jelent az emberiség és a Föld jövőjére nézve.

Az egyik ilyen jóslathoz napjainkban pedig különösen közel kerültünk.

Stephen Hawking a New York-i One World Obszervatóriumban 2016. április 12-én (fotó: Bryan Bedder/Getty Images/Breakthrough Prize Foundation)

A legendás tudós hamar felismerte a mesterséges intelligencia fejlődéséből adódó lehetőségeket (gondoljunk csak arra, hogy saját beszédszintetizátora részben szintén a mesterséges intelligencián alapult), de 2017-ben annak veszélyeire is figyelmeztetett. A Wired magazin interjújában elmondta: „Tovább kell fejlesztenünk az AI-technológiát, de mindeközben szem előtt kell tartanunk annak potenciális veszélyeit is.

Attól tartok, hogy ha nem tartjuk kontroll alatt, a mesterséges intelligencia teljesen kiválthatja az embert.

Ha képesek vagyunk számítógépes vírusokat tervezni, akkor ennyi erővel valaki olyan mesterséges intelligenciát is alkothat, amely sokszorozódhat, és amely egyre nagyobb ütemben tervezné újra önmagát. Ez egy új életforma lesz, ami felülmúlhatja az embereket, akiket korlátoz a lassú biológiai evolúció, ezért nehezen tudják felvenni a versenyt valamivel, ami ilyen ütemben fejlődik” – mondta.

Mi a helyzet Hawking figyelmeztetése óta?

Néhány új fejlesztés pedig, nagyon úgy tűnik, hogy megerősítik Hawking aggodalmait. A mesterséges intelligencia segítségével tervezett xenobotok például olyan szaporodásra képes, aprócska élő robotok, amelyekhez embrióállapotú békákból nyertek ki őssejteket. 2021-ben a Vermonti Egyetem kutatói felfedezték, hogy ha sok xenobot kerül egy helyre, megfelelő tervezés mellett spontán módon sokszorozódhatnak. Bár a kutatók szerint kezdetleges technikáról van szó, a biológiai robotika fejlődése mindenesetre új utakat nyithat a regeneratív orvoslásban.

Kapcsolódó: Mesterséges intelligencia – Már nem kell partner a hálószobában?

A mesterséges intelligencia önmagában tehát nem veszélyes, és számtalan előnnyel járhat. Ugyanakkor, attól függően, hogy miként fejlesztik és használják, megannyi kockázat forrása is lehet. Gondoljunk csak a megtévesztésre, a félretájékoztatásra, az adatvisszaélésre és a manipulációra, amelyekből bőven kijut most is a világnak.

Az Apollo Research, egy MI-biztonsággal foglalkozó nonprofit szervezet nemrégiben végzett tesztjei szerint a jelenlegi legmodernebb AI-modellek képesek elrejteni valódi szándékukat az ember elől, ha az adott cél épp úgy kívánja. „A mesterséges intelligencia egyre növekvő megtévesztési képessége komoly kockázatot jelenthet, legyen szó különböző csalási formákról, választások manipulálásáról, illetve az olyan hosszú távú veszélyforrásokról, mint az AI-rendszerek feletti kontroll elvesztése” – írták a kutatók.

A mesterséges intelligencia területe Hawking halála óta példátlan fejlődést mutat, amely magával hozott egy sor lehetséges kérdést is. Többek között:

• A mesterséges intelligenciát hogyan lehet jogilag, etikailag szabályozni, hogy ne gyakoroljon negatív befolyást a társadalomra?
• Miként lehet gátat szabni a deepfake tartalmaknak, a megtévesztésnek, az átverésnek, az adatokkal történő visszaéléseknek és a hamis információk terjedésének?
• Hogyan alkalmazkodhatunk az AI-technológiához a munkahelyeken?
• Hogyan alakul az AI szerepe az egészségügyi ellátásban és a gazdaságban?

Stephen Hawking már nincs közöttünk, így soha nem tudhatjuk meg, mit mondana a mesterséges intelligencia mai állásáról. Annyi viszont biztos, hogy figyelmeztetése nem a fejlődés ellen szólt. Vészjósló szavai sokkal inkább útmutatóul szolgálnak, arra intve bennünket, hogy egy olyan jövő megteremtésén dolgozzunk, ahol a technológia összhangot alkothat a civilizációt meghatározó jóléti értékekkel.

Kapcsolódó: Lejárt az időnk – A mesterséges intelligencia átveszi a hatalmat a konyhában is?

Kiemelt kép: Stephen Hawking 2010. január 14-én a kaliforniai Pasadenában (Frederick M. Brown/Getty Images)