A szavannán vidám turisták fékeznek le kocsival a zsiráf mellett. Az állat megnyal egy kuncogó szőke nőt, majd váratlanul megragadja a trikójánál fogva, a szájával kirántja őt az autóból, és messzire vágtat a magasban kalimpáló nővel. Az út még porzik utánuk, amikor továbbgörgetek a következő videóra.
Az a forró Közel-Keleten készülhetett: egy sas leszáll a háztetőre, ahol a hátára pattan egy majom. A madár ijedten csapkod a szárnyaival, majd a rajta ülő majommal elrepül a kék végtelenbe. A kommentelők többsége jól szórakozik a videókon, de a hozzászólásokból arra következtetek, nem mindenki tudja, hogy a valóságosnak tűnő felvételeket a mesterséges intelligencia (MI) gyártotta le.
Hamis a baba
Az internetes furcsaságokhoz nem kell a szavannáig mennünk. Az egyik barátom például alighogy beregisztrált a társkeresőre, több csinos nőtől kapott üzenetet. „Nagyon tetszik a profilod. Mesélj magadról!” – írták neki. A barátomat meglepte a lelkesedés, ugyanis még teljesen üres volt az adatlapja.
Néhány levélváltás után egyértelművé vált, hogy a huncutkodó nők valójában chatbotok:
olyan virtuális profilok, akiket arra programoztak, hogy a flörtöléssel a honlapon tartsák a felhasználókat.
Ma már szinte biztosra vehetjük, hogy nap mint nap beszélgetünk mesterséges intelligenciával anélkül, hogy ennek tudatában lennénk. Ügyfélszolgálatokon, webshopok chatfelületein, kommentfolyamokban egyre gyakrabban találkozunk olyan rendszerekkel, amelyek emberi kommunikációt imitálnak. Az MI teljesen belakta az internetet.
Nem létező zenekarok, újságírók nélküli hírportálok ma már nem számítanak újdonságnak. Nemrég egy magyar tényellenőrző portál újságírója a közösségi médiában hónapokig követte, elemezte azokat a – hétköznapi embereknek tűnő – álszemélyiségeket, akiket a mesterséges intelligenciával azért teremtettek meg, hogy ontsák magukból a politikai üzeneteket. Annak pedig, hogy egy fényképből ma bárkiről születhet álszexvideó, bosszúpornó, nem csak a hírességek eshetnek áldozatul.
Az utolsó emberek a hálón?
Egyre több poszt, tanulmány, sőt könyv is jelenik meg a „halott internetről”, arról, hogy az interneten zajló tartalmak és interakciók jelentős része már nem emberektől származik, hanem automatizált rendszerektől és a mesterséges intelligenciától. Dr. Miskolczi Márk kutató, a Budapesti Corvinus Egyetem Fenntartható Fejlődés Intézetének adjunktusa szerint ez az első hallásra összeesküvés-elméletnek tűnik, de az elképzelés valójában egyre nehezebben söpörhető félre.
– Természetesen még mindig emberek használják, emberek posztolnak, kommentelnek, vitatkoznak. Ugyanakkor funkcionális értelemben egyre kevésbé emberközpontú: a látható tartalmak jelentős része már nem spontán emberi kommunikáció eredménye, hanem optimalizált, mesterségesen generált tartalom – magyarázza a szakértő.
– A jelenségről kevés adat áll rendelkezésre, részben azért, mert a platformok nem igazán érdekeltek az átláthatóságban, illetve az MI-tartalmak felismerése is egyre nehezebb. Ami biztos: a nagy platformokon a „bot”- és MI-aktivitás tömeges, egyes becslések szerint pedig az úgynevezett virális tartalmak alatt a hozzászólások harminc–ötven százaléka nem emberi eredetű.
Reményre alapozva
Tavalyi kutatásához dr. Miskolczi Márk több hónapon át figyelt olyan közösségi oldalakat, ahol MI-alkotta képek jelentek meg. Ezek jellemzően idilli jelenetek, érzelmileg túlfűtött történetek, vagy éppen nosztalgikus, megható pillanatokat ábrázoló képek voltak. A kutatás fő tanulsága, hogy nem azért működnek hatékonyan, mert technikailag tökéletesek, hanem mert nagyon jól rezonálnak a mindennapi problémáinkra.
Megnyugtatnak, vigaszt, reményt adnak, vagy éppen egy idealizált világot kínálnak menekülésként a bizonytalanság elől.
A kutató gyakran találkozott azzal, hogy egyesek nem is elsősorban a képek hitelessége miatt kommentelnek, hanem mert kapcsolódni szeretnének: abban reménykednek, hogy valakivel beszélgetést kezdeményezhetnek, reakciót kapnak, vagy egyszerűen nincsenek egyedül az érzéseikkel.
Ebben az értelemben a magányosság és az emberi kapcsolódás iránti vágy szintén hozzájárulhat a hamis tartalmak sikeréhez. A hatékonyságot tovább erősíti, hogy ha egy poszt alatt sok lájkot, kommentet vagy együttérző reakciót látunk, az automatikusan növeli a hitelesség érzetét.
Dr. Miskolczi Márkot kutatóként leginkább az lepte meg, hogy ezekhez a hatásokhoz a legtöbb esetben nem volt szükség különösen kifinomult technológiára, elég volt egy gyengén felépített érzelmi történet is. Ilyen, mondjuk, a „Ma van a születésnapom, de senki nem köszöntött fel” típusú bejegyzés.
Elbizonytalaníthatnak egész társadalmakat
– Különösen sokkoló volt látni, amikor például idős embereket, gyerekeket, háborús vagy természeti katasztrófákhoz hasonló jeleneteket ábrázoló vizuális tartalmak tömeges együttérzést váltottak ki, miközben sem az ábrázolt személyek, sem az események nem léteztek. Társadalmi szinten a deepfake-ek, vagyis
a manipulált hamis tartalmak hatása azért alattomos, mert nem egyes személyek ellen irányul, hanem a közös valóságot kezdi ki.
Ide tartoznak a háborús vagy katasztrófahelyzeteket ábrázoló manipulált videók, a választások előtt megjelenő meghamisított politikai tartalmak, valamint az érzelmi sokk kiváltására építő propagandatartalmak. Ezek nem feltétlenül azért veszélyesek, mert mindenki elhiszi őket, hanem mert tartós bizonytalanságot keltenek abban, hogy mi tekinthető hitelesnek.
Egyre reálisabb forgatókönyv, hogy néhány éven belül minden képet és videót eleve gyanakvással fogadunk, és megszűnik az a közös alap, hogy amit látunk, az bizonyíték. Különösen veszélyes az is, hogy innentől kezdve bármilyen kellemetlen vagy leleplező felvételre rá lehet mondani, hogy hamisított.
Láss, ne csak…
A mesterséges intelligencia által generált tartalmak felismerése ma már nem egyetlen árulkodó jelről szól, hanem mintázatok és összefüggések észrevételéről. Éppen ezért a szakember tudatos elemzési szempontokat javasol.
