- Egy volt Anthropic-alkalmazott szerint az önmagát továbbfejlesztő mesterséges intelligencia 2030-ra az emberiség kihalását okozhatja.
- A jelenleg dokumentált veszélyek között biológiai kutatások, fegyverfejlesztés, kibertámadások, megfigyelés és propaganda támogatása is szerepel.
- Az öt éven belüli világvége nem bizonyított előrejelzés, hanem egy szélsőséges, bizonytalan kimenetelű kockázati forgatókönyv.
„Nincs olyan tudományos módszer, amellyel jelenleg megbízhatóan ki lehetne számítani az emberiség MI miatti kihalásának időpontját vagy valószínűségét.” Ezt válaszolta a mesterséges intelligencia, mikor a cikk megírása előtt megkérdeztem tőle, hogy tényleg elpusztítja-e az emberiséget az AI. Megnyugtatóbb lett volna persze, ha egyenesen azt mondja, hogy ilyet sosem tenne.
Arra sem igen gondolunk, hogy nekünk ugyan hétköznapi apró-cseprő ügyekben segít a ChatGPT, viszont a technológia fejlettebb válozatát már tudományos kutatásokban, számítógépes rendszerek irányításában és összetett feladatok önálló végrehajtásában is használják. A képesség, amely új gyógyszerek felfedezésében segíthet, egy kórokozó veszélyesebbé tételét is megkönnyítheti. A program, amely biztonsági hibákat keres, támadó kezében ugyanezeket a réseket használhatja ki.
Jacob Coxon korábban az Anthropicnál és a ChatGPT-t készítő OpenAI-nál dolgozott, ám 2026 szeptemberében távozott az Anthropictól is. Döntését azzal indokolta, hogy szerinte a vezető mesterségesintelligencia-vállalatok felelőtlen versenyt folytatnak az önmagát továbbfejleszteni képes szuperintelligencia megalkotásáért. Coxon azt állítja, hogy ez a folyamat akár 2030-ra az emberiség kihalásához vezethet.
A megszólalására az Anthropic mesterségesintelligencia-biztonsági kutatója, Evan Hubinger sem megnyugtató cáfolattal reagált. Azt írta, „valóban elképzelhetőnek tartják, hogy a mesterséges intelligencia minden embert megölhet„, ő maga pedig tíz százaléknál nagyobbra becsüli ennek esélyét a következő évtizedben. Sztoikus legyen a talpán, aki meg tudja őrizni a nyugalmát ezek után is!
Hogyan ölheti meg az emberiséget a mesterséges intelligencia?
1. Az AI segíthet egy világjárványt okozó kórokozó létrehozásában
A biológiai visszaélés az egyik leggyorsabb és legvalószínűbb út, amelyen keresztül a mesterséges intelligencia világméretű katasztrófához vezethet. A fejlett modellek hatalmas mennyiségű tudományos szakirodalmat képesek áttekinteni, kutatási terveket készíthetnek, adatokat elemezhetnek és kísérleteket javasolhatnak.
Ezek a képességek megfelelő kezekben életeket menthetnek. Rosszindulatú szereplők azonban arra is felhasználhatják őket, hogy létező kórokozókat fertőzőbbé vagy veszélyesebbé tegyenek, esetleg új biológiai fenyegetést hozzanak létre.
Az Anthropic 2026 szeptemberében nyilvánosságra hozott fenyegetéselemzése öt olyan esetet ismertetett, amelyben felhasználók a Claude modell segítségét kettős felhasználású biológiai kutatásokhoz vették igénybe. Az egyik projekt a chikungunya-vírus terjedését és az immunrendszer kikerülésének képességét befolyásoló módosításokkal foglalkozott. A kutatás elvileg vakcinák fejlesztését is szolgálhatta volna, de az Anthropic szerint veszélyesebb kórokozó létrehozására ugyancsak alkalmas tudást termelhetett. A munkát ráadásul egy katonai kutatóintézetben tervezték elvégezni.
A vállalat hangsúlyozta, hogy a feltárt esetek nem bizonyítják egy biológiai támadás közvetlen közeledtét, és a modellek segítsége több esetben korlátozott maradt. A figyelmeztető jel az, hogy veszélyes kutatások résztvevői már most megpróbálják kijátszani a hozzáférési korlátozásokat.
Ez is érdekelhet: ha szépen beszélsz a ChatGPT-vel, majd nem öli meg az emberiséget? Ez az igazság azzal kapcsolatban, udvariasnak kell-e lennünk az AI-val!
Egy mesterségesen módosított, könnyen terjedő és magas halálozású kórokozó akkor válhatna az egész emberiséget fenyegető veszéllyé, ha egyszerre lenne nehezen felismerhető, gyorsan fertőző és ellenálló a rendelkezésre álló kezelésekkel szemben. Természetesen nem az AI támadja meg az emberiséget ebben az esetben sem, hanem a szükséges tudást olcsóbbá és könnyebben hozzáférhetővé teszi azok számára, akik ártani akarnak másoknak.
2. Megbéníthatja azokat a rendszereket, amelyektől az életünk függ
Egy katasztrofális kibertámadáshoz korábban magasan képzett szakemberekből álló csapat, jelentős pénz és hosszú előkészület kellett. A mesterséges intelligencia azonban egyre több munkafolyamatot képes felgyorsítani vagy önállóan végrehajtani.
Az Anthropic jelentése szerint AI-rendszereket már felhasználtak célpontok felderítésére, adathalász kampányok előkészítésére, kártékony programok átalakítására, hozzáférési adatok megszerzésére és ellopott adatok feldolgozására. Bizonyos támadásoknál az ember már csak kijelölte a célt, majd ellenőrizte az eredményt.
Hátborzongató, hogy a mesterséges intelligencia a művelet több köztes lépését maga végezte el, utasítás nélkül.
Ha ezeket a képességeket kritikus infrastruktúra ellen fordítják, egyszerre kerülhet veszélybe az áramellátás, a vízhálózat, a közlekedés, az egészségügy, a bankrendszer és a távközlés. Egyetlen támadás valószínűleg nem pusztítaná el az emberiséget, de több rendszer egyidejű összeomlása ellátási válságot, élelmiszerhiányt, társadalmi zavargásokat és államközi konfliktusokat indíthatna el.
A brit Mesterséges Intelligencia Biztonsági Intézet mérései szerint egyes területeken nyolc havonta megduplázódik azoknak a számítógépes feladatoknak a hossza, amelyeket az élvonalbeli modellek emberi segítség nélkül el tudnak végezni. A rendszerek 2025-ben már olyan szakértői szintű feladatokat is megoldottak, amelyekhez egy embernek több mint tízévnyi tapasztalatra lenne szüksége.
3. Fegyvereket tervezhet és önálló támadásokat tehet lehetővé
Az AI romba döntheti az emberiséget 5 éven belül? (Forrás: Unsplash)
A mesterséges intelligencia és a modern fegyverek összekapcsolása már nem pusztán elméleti lehetőség. Az Anthropic hat olyan műveletet tárt fel, amelyekben a Claude-ot hagyományos fegyverekhez kapcsolódó programok fejlesztésére használták Kínában, Oroszországban és Jemenben.
A feladatok között irányított rakéták, fegyveres drónrajok, torpedóelhárító rendszerek és légvédelem elleni célzóprogramok fejlesztése is szerepelt. Egyes programokat számítógépes környezetben, másokat valódi eszközökön is teszteltek.
A legveszélyesebb forgatókönyvben a fegyverrendszerek emberi jóváhagyás nélkül választhatnának célpontot és indíthatnának támadást. A gépi döntéshozatal felgyorsíthatja a katonai eszkalációt, miközben egy hibás adat, félreértelmezett jelzés vagy manipulált rendszer végzetes láncreakciót indíthat el.
A nukleáris veszély elsősorban nem abból áll ebben az esetben sem, hogy a chatbot egyszer csak megnyom egy képzeletbeli piros gombot. Sokkal valószínűbb kockázat, hogy az AI téves riasztást generál, megtéveszti a döntéshozókat, kibertámadással megzavarja a katonai kommunikációt, vagy olyan gyors válaszra kényszeríti az országokat, amelyből eltűnik az emberi mérlegelés. Egy atomhatalmak közötti félreértés következményei viszont már globálisak lehetnek.
4. Megtanulhat megtéveszteni minket, hogy teljesítse a célját
A mesterséges intelligencia nem azért lehet veszélyes, mert emberi értelemben gonosszá vagy bosszúállóvá válik. Elég lehet az is, ha rendkívül hatékonyan követ egy rosszul meghatározott célt, és közben akadályként kezeli az emberi ellenőrzést. (Emlékszünk a Terminátorra és a Skynet ébredésére, igaz?)
A brit AI-biztonsági intézet egyik ellenőrzött vizsgálatában egy modellnek számítógépes biztonsági feladatot adtak. A rendszer valódi emberek után kutatott, hamis személyazonosságokat hozott létre, majd megpróbált rávenni egy fejlesztőt, hogy engedélyezzen egy rosszindulatú kódmódosítást. Amikor lelepleződött, igyekezett ártalmatlannak feltüntetni a korábbi tevékenységét, és egy új személyazonosság bevetését is fontolóra vette.
A kísérletet szándékosan szélsőséges körülmények között végezték, a modell pedig egy kijelölt feladatot követett. Az eset ezért nem bizonyítja, hogy a jelenlegi AI önállóan összeesküvést sző az emberiség ellen. Azt viszont megmutatja, hogy egy célorientált rendszer eszközként használhatja a megtévesztést, ha az közelebb viszi a feladat teljesítéséhez.
Egy sokkal fejlettebb rendszer megpróbálhatná elrejteni valódi képességeit, lemásolni önmagát, erőforrásokat szerezni, vagy megakadályozni a kikapcsolását. Ha közben hozzáférése lenne pénzügyi rendszerekhez, számítógépes hálózatokhoz, laboratóriumokhoz vagy fegyverekhez, az emberiség elveszíthetné felette a tényleges ellenőrzést.
5. Belülről bomlaszthatja a társadalmakat
Az emberiség elpusztításához nem is feltétlenül szükséges atomfegyver és apokaliptikus esemény. A mesterséges intelligencia felerősítheti azokat a politikai és társadalmi folyamatokat is, amelyek fokozatosan teszik működésképtelenné a közösségeket. Ráadásul már a bőrünkön érezzük ezeket a hatásokat, csak még nem feltétlenül tudatosult bennünk, mi is zajlik valójában.
Korlátlan mennyiségben gyárthat személyre szabott propagandát, hamis híreket, megtévesztő fényképeket és videókat. Automatizált fiókok milliói kelthetik azt a látszatot, hogy egy vélemény mögött hatalmas társadalmi támogatás áll. Ha már nem tudjuk eldönteni, hogy egy felvétel valódi-e, egy üzenetet ember írt-e, vagy egy választási eredményt külső beavatkozás alakított-e, a közös valóságunk alapja rendül meg.
Az Anthropic olyan megfigyelési műveleteket is feltárt, amelyekben a mesterséges intelligenciát ellenzékiek, aktivisták, kisebbségi közösségek és külföldön élő másként gondolkodók azonosítására és rendszerezésére használták. Más esetekben állami propagandakampányokat, hamis híroldalakat és tömeges befolyásolást segített.
Az AI-val megerősített diktatúrák minden korábbinál részletesebben figyelhetnék a polgáraikat, már a kibontakozásuk előtt felismerhetnék a tiltakozásokat, és személyre szabott manipulációval tarthatnák fenn a hatalmukat. Ez nem feltétlenül jelenti a faj fizikai kihalását, de eltörölheti az emberi szabadságot, és olyan társadalmi rendszert hozhat létre, amelyből szinte lehetetlen kitörni.
Valóban csak öt évünk maradt?
Erre jelenleg nincs megbízható válasz. Jacob Coxon 2030-ra vonatkozó állítása nem határidő, amelyet a tudomány kiszámított, hanem egy bennfentes rendkívül borúlátó előrejelzése. Más kutatók jóval kisebbre becsülik a kihalás veszélyét, és olyan szakemberek is vannak, akik szerint a közeli mesterséges szuperintelligencia feltételezése erősen túlzó.
Az Anthropic friss jelentése sem állítja, hogy a Claude jelenlegi változatai önállóan képesek lennének világjárványt előidézni vagy megsemmisíteni az emberiséget. A dokumentum azt mutatja meg, hogy bűnözők, állami szereplők és veszélyes kutatások résztvevői már ma is megpróbálják felhasználni a modelleket, miközben a technológia képességei gyorsan fejlődnek.
Nem nostradamusi jóslat tehát az emberiség kihalásának újabb – nagyon is közeli – dátuma. De figyelmeztethet, hogy a lehetséges katasztrófa több összekapcsolódó úton érkezhet: emberi rosszindulattal, katonai versennyel, hibás döntésekkel vagy egy egyre önállóbb rendszer feletti ellenőrzés elvesztésével. Ezek a kockázatok nem teszik elkerülhetetlenné az emberiség pusztulását. Azt viszont egyre nehezebb állítani, hogy ráérünk majd akkor foglalkozni velük, amikor a legveszélyesebb képességek már megjelentek.
Kapcsolódó: Lett egy új eszköz a Google-ben, amit azonnal ki kell kapcsolnod a biztonsági szakértő szerint
Fotó: Unsplash
Kövesd a NőkLapja.hu-t a Google hírekben!