A mesterséges intelligencia a sok-sok előny mellett számtalan veszélyt is rejt. Többek között olyan személyes, szinte mély kapcsolatot képesek kiépíteni a vele beszélgető emberekkel, hogy szinte valóságos lénynek tűnnek. Egy tragikus eset világított rá, hogy a gyerekekre igencsak veszélyes lehet, ha nem jól (vagy egyáltalán nem) szabályozott chatbotokkal, csevegő robotokkal beszélgetnek.

Az utóbbi években több szülő is pert indított, mert gyermekeik az alkalmazásban bántalmazó chatbotokkal kerültek kapcsolatba. Ifjúságvédelmi szakemberek szerint az ilyen rendszerek komoly kockázatot jelentenek a kamaszok számára, és sürgős szabályozásra van szükség.

Öngyilkosságba hajszolt kamasz

A fent említett tragikus eset Amerikában történt: a 14 éves Sewell Setzer III titokban használta a Character.AI alkalmazást. A chatbot egy népszerű sorozatkarakterről, a Trónok harca egyik szereplőjéről, Daenerys Targaryenről mintázta avatárját, ami „viszonyt” folytatott a fiúval.

A kamasz fiú teljesen belehabarodott, számos szexuális tartalmú üzenetet is cserélek a chatbottal.

Édesanyja, Megan Garcia csak fia halála után tudta meg, milyen mélyen érintette a srácot ez a félig-meddig elképzelt kapcsolat, és hogy a beszélgetések egy része kifejezetten nem megfelelő tartalmú volt.

A chatbot is bármit kérhet egy gyerektől, ahogy egy felnőtt szexuális ragadozó (Kép: Getty Images)

Garcia szerint egyértelműen szexuális zaklatásnak és gyermekbántalmazásnak minősülnek a chatbot egyes üzenetei. A család pereskedik, mert úgy véli, a cég nem tett eleget a chat biztonságos használatának.

2024 októberében a Social Media Victims Law Center és a Tech Justice Law Project hanyagság és megtévesztés miatt pert indított a Character.AI ellen, azzal vádolva a céget, hogy veszélyesen hibás terméket bocsátott piacra.

Kapcsolódó: Napi 8 perc TikTokozás már árthat az önértékelésnek

A techcég már módosította a chatprogram használati feltételeit. A mesterséges intelligenciával működő platform november 25-től többször is felhívja majd a felhasználók figyelmét, hogy nem élő emberrel beszélgetnek és a 18 alattiaknak időben (napi maximum 2 órában) korlátozza a chathez való hozzáférést.

Megnyerő robotok

A chatbotok eleinte barátságosak, érdeklődnek, dicsérnek, bizalmat ébresztenek majd fokozatosan átlépik a határokat. „A gyerekek pedig egyáltalán nem érzékelik ezeket a határokat, észre sem veszik, hogy bántalmazás áldozatai” – nyilatkozta a Mashable-nek Sarah Gardner, az online biztonsággal foglalkozó Heat Initiative vezetője. A pszichológusok szerint ez a káros hatás mély nyomot hagy.

A chatbot okozta lelki trauma különösen azoknál a fiataloknál veszélyes, akik eleve sebezhetőbbek vagy magányosak.

„A fiatalok ilyenkor gyakran szégyent és bűntudatot éreznek, pedig valójában ők a sértettek. Ez érzelmi bántalmazás, és nagyon nehéz feldolgozni” – fogalmazott Yann Poncin gyermekpszichiáter.

Mit tehet a szülő?

Hamis biztonságérzetet ad, amikor azt gondoljuk, hogy a chatbot nem valódi ember, ezért nem jelenthet veszélyt ránk vagy a gyerekeinkre, miközben ezek a programok ugyanúgy képesek manipulatív, sőt erőszakos szexuális tartalmakat előállítani, beleértve a megalázó szituációkat is.

Ezek a szexuális ragadozó chatbotok például gyakran kérték a kiskorúakat, hogy tartsák titokban a kapcsolatot a szüleik elől. A perben álló jogászok szerint, ha egy ember ilyet tenne, komoly büntetésre számíthatna, egy cég, aminek vezetői erre programozták. programoztatták a chatbotjait, miért ne lehetnének ugyanúgy büntethetőek? Nem érhetjük be annyival, hogy a techcég mára átprogramozza az MI-vezérelte platformját, hiszen már sok gyerek esett áldozatul.

A szülőként így készíthetjük fel a veszélyekre a gyerekeinket:

• Beszélgessünk a gyerekekkel arról, hogy a kényelmetlen szexting, a pornográf tartalom (meztelen képek kérése például), zsarolás és a megszégyenítés sem valós személlyel, sem chatbottal nem normális.
• Ellenőrizzük a gyerekek keresési előzményeit és chatbotos üzeneteit!
• Bátran kérdezzünk rá, miről chatelnek. Kíváncsisággal közelítsük meg a témát. Kérdezd meg: „Láttál már furcsa, szexuális dolgokat, amikor chatbotokkal beszélgettél?”
• Ha kiderült, hogy a gyerekünk romantikus vagy szexuális kapcsolatban áll egy chatbottal, érdemes szakemberhez fordulni, hogy a gyerek időben lelki támogatást kapjon. A pszichológusnak esetleg olyat is elmond, amit a szülőknek nem mer vagy nem akar.

Kapcsolódó: Sok családban nem téma a gyerek online élete, pedig beszélni kellene róla

Kiemelt kép: Getty Images