- Az AI-ba vetett bizalom és a kritikus gondolkodás között szoros összefüggés van.
- Akik biztosabbak saját tudásukban, alaposabban mérlegelik a választ.
- Rutinfeladatnál és időnyomás alatt kevesebb figyelem jut az ellenőrzésre.
Az AI készségesen megír egy levelet, összefoglal nekünk egy hosszú háttéranyagot és ötleteket is ad, ha megakadunk. Egy ponton viszont nekünk kell mérlegelnünk, mennyire bízunk meg benne. Egy kutatás szerint ebben meglepően sokat számít, mennyire bízunk saját tudásunkban, egy kiberkonferencián pedig szintén emiatt intettek felelős használatra.
Bizalom és AI
Ha egy kollégától kapunk egy forrás nélküli adatot, jó esetben rákérdezünk, honnan származik. Amikor viszont AI-t használunk, hajlamosak vagyunk kihagyni ezt a kulcsfontosságú lépést. Nem is csoda. Kérdésünkre pillanatok alatt érkezik a válasz, az MI magabiztosan fogalmaz, és még hangvétele is olyan, mintha értené, pontosan mire van szükségünk. Aztán a csevegésben megfogalmazott állítás bekerül egy levélbe, egy prezentációba vagy akár egy cikkbe, sokszor anélkül, hogy bárki utánanézett volna.
A szeptember 24-i budapesti ITBN kiberbiztonsági konferencián több előadás is az AI és az emberi döntések kapcsolatával foglalkozott. Bruno Horta Soares azt a veszélyt vetette fel, hogy ha a szakemberek egyre több elemzést és döntést bíznak az AI-ra, idővel kevesebb gyakorlatuk maradhat abban, hogy önállóan felismerjenek egy hibát vagy megkérdőjelezzenek egy választ.
Mi történhet a tudásunkkal és a kritikus gondolkodásunkkal, ha a feladatok egyre nagyobb részét bízzuk gépre? Ez nem csak a kiberbiztonsági szakembereknek szakmai gond, de annak is ismerős lehet, aki naponta kér segítséget az AI-tól. Az ITBN alapítójával, Keleti Arthurral korábban épp erről, az AI-használat hétköznapi kockázatairól beszélgettünk.
Az AI-ban vagy magunkban bízunk jobban?
A konferencián felvetett kérdéshez egy korábbi kutatás is ad támpontot. Carnegie Mellon Egyetem és a Microsoft kutatói 319, AI-t használó embert kérdeztek meg. A résztvevők 936 munkahelyi példát idéztek fel, és beszámoltak róla, mennyi energiát fordítottak az AI válaszának átgondolására. A kutatás szerint akik egy adott feladatnál jobban megbíztak az AI-ban, kevesebb kritikus mérlegelésről számoltak be. Akik viszont a saját képességeikben voltak biztosabbak, többről.
A különbség tehát az emberi oldalon is múlik. Az AI-jal szembeni kritikánk szempontjából fontos, mennyire értjük a feladatot, illetve merünk-e vitatkozni a kapott válasszal. Ha egy témában jártasak vagyunk, hamarabb feltűnhet egy furcsa adat vagy egy hiányzó szempont.
Amikor viszont épp azért fordulunk az AI-hoz, mert nem értünk valamihez, nehezebb eldönteni, hol kellene elkezdeni az ellenőrzést.
Amire még a kész válasz után is idő kell
A résztvevők a nagy tétű, pontosságot igénylő munkáknál alaposabb mérlegelésről számoltak be. Ez jó. Viszont elmondták azt is, hogy rutinmunkánál, különösen időnyomás alatt, kevesebb figyelmet fordítottak erre. És éppen az ilyen feladatoknál csábító változtatás nélkül átvenni egy jól hangzó mondatot.
Kutatók kiemelik, hogy a fontos állításoknál mindig érdemes megkeresni az eredeti forrást, különösen, ha számadatról, jogi vagy egészségügyi információról van szó. Ha résen vagyunk, az emberi tényező megkerülhetetlen marad az AI korában is.
Sokan félnek, hogy az AI elveszi a munkájukat. A kritikus gondolkodás hatékony fegyver lehet (Forrás: Getty Images)
Ha megnéztük, honnan van az információ vessük alá a józan ész próbájának is. Ha a forrás alapján nem tudjuk elmagyarázni, miből következik egy javaslat, egy magabiztosan megírt válasz még kevés ahhoz. Ilyenkor kell elkezdeni kételkedni. Az biztos, hogy az AI mindig gyorsan, legtöbbször frappánsan válaszol. De azért, hogy végül melyik állítását vesszük át, továbbra is mi felelünk.
Sok más kiberérdekesség
A konferencia egyéb témái egy kérdés köré kapcsolódtak: hogyan bízhatunk abban, amit a képernyőn látunk, és azokban a rendszerekben, amelyekre nap mint nap támaszkodunk? A mesterséges intelligencia már önállóan is végezhet feladatokat, ami a támadóknak és a védekezőknek is új lehetőségeket ad.
Egy hamisított videó vagy üzenet egyre könnyebben téveszthet meg bennünket, a munkahelyen engedély nélkül használt programok pedig olyan adatokat is veszélybe sodorhatnak, amelyekről a vezetők nem is tudnak. A szakértők ezért az emberi oldalról is beszéltek: hogyan hozzunk jó döntéseket nyomás alatt, és hogyan előzhető meg a védekezéssel foglalkozók kiégése?
Ezekre a kihívásokra a cégeknek a működésükben is választ kell adniuk. Fel kell készülniük az új európai előírásokra, védeniük kell a gépek közötti adatcserét, és idővel olyan titkosításra lesz szükségük, amelyet a jövő nagy teljesítményű számítógépei sem tudnak könnyen feltörni.
Ehhez a tapasztalt és a pályakezdő szakemberek tudására egyaránt szükség van. A konferencián az is szóba került, mennyibe kerül a biztonsági fejlesztések halogatása, mire érdemes költeni, és miért érinti mindez a gyárakat, az ellátási láncokat és a mindennapi élethez nélkülözhetetlen szolgáltatásokat is.
Kapcsolódó: Felnőttként tanulnál? Ezt lehet érdemes elsajátítani az AI korában
Kiemelt kép: Getty Images
Kövesd a NőkLapja.hu-t a Google hírekben!