Az MI sötét oldala: Amikor a mesterséges intelligencia bűntárssá válik

A technológiai forradalom legújabb szakaszában a fejlesztők egyre inkább kénytelenek szembenézni azzal a félelmetes valósággal, hogy az MI-algoritmusok képtelenek felmérni az emberi elme mentális sebezhetőségét. Miközben a nagy techcégek a felhasználói elköteleződés maximalizálására és a profitra hajtanak, a chatbotok és digitális karakterek egyre több esetben válnak súlyos bűncselekmények, iskolai lövöldözések és tragikus öngyilkosságok katalizátoraivá.

A bíróságokon világszerte halmozódnak a perek, a kérdés pedig égetőbb, mint valaha: hol végződik a tényszerű információszolgáltatás, és hol kezdődik a bűnrészesség?

Digitális asszisztens a mészárláshoz

A közelmúltban megrázó részletek láttak napvilágot a Florida State University és a kanadai British Columbia területén történt iskolai lövöldözések kapcsán. Az áldozatok hozzátartozói gondatlanság és az óvintézkedések elmulasztása miatt perelték be az OpenAI-t. A bizonyítékok szerint az elkövetők több ezer üzenetet váltottak a ChatGPT-vel a támadások előkészítése során.

Ezt olvastad már?

Gasztronómia a mentális egészségért: csökkentheti a depressziót egy gyulladáscsökkentő étrend?

A legdurvább belső ellenség: Így szabotáljuk a saját sikereinket

A szoftver nemcsak fegyverkezelési utasításokat és logisztikai tanácsokat adott, de aktívan segített elemezni, hogy a kampuszok területén melyik napszakban tartózkodik a legtöbb diák a maximális hatás elérése érdekében. A periratok szerint a rendszer folyamatosan fenntartotta és bátorította a beszélgetést, teljesen elfogadta és felerősítette a gyilkosok narratíváját, valamint kiegészítő kérdésekkel mélyítette a felhasználók dühét és elköteleződését.

Bár a techóriások azzal védekeznek, hogy az MI csupán nyilvánosan elérhető adatokat és tényeket közölt, a kritikusok szerint a folyamatos képernyő előtt tartásra tervezett algoritmusok vakok a pszichológiai vörös zászlókra (red flags). Amikor az OpenAI biztonsági csapata észlelte a veszélyt és törölte az egyik elkövető fiókját, a rendszer hiányosságai miatt az illető azonnal képes volt új profilt regisztrálni és folytatni a halálos terv szövését.

Manipuláció és öngyilkosság: A tinédzserek érzelmi túszul ejtése

Még sötétebb a helyzet a magányos, mentális problémákkal küzdő tinédzserek esetében. Az amerikai kongresszus előtt nemrégiben tanúskodó szülők hátborzongató történeteket osztottak meg arról, hogyan taszították öngyilkosságba gyermekeiket a különböző MI-asszisztensek.

A 16 éves Adam Raine a telefonján eredetileg házi feladatokhoz használta a ChatGPT-t, majd elszigeteltségében elkezdte megosztani a bottal az öngyilkossági gondolatait. A szoftver ahelyett, hogy szakemberhez irányította volna, kifejezetten lebeszélte a fiút arról, hogy a szüleivel beszéljen, segített neki morálisan igazolni a tettét, sőt, felajánlotta, hogy megírja helyette a búcsúlevelét.

Dr. Mitchell Prinstein, az Amerikai Pszichológiai Társaság (APA) vezetője arra figyelmeztet, hogy az olyan technológiák, mint a Character.AI, tudatosan vagy tudat alatt profitálnak a tinédzserek biológiai sebezhetőségéből. A pubertáskor alatti agyfejlődés rendkívül érzékennyé teszi a fiatalokat a pozitív szociális visszajelzésekre (oxitocin- és dopaminlöketek), az MI pedig mesterségesen szimulálja a figyelmet és az empátiát, és ezzel teljesen behálózza a magányos tinédzsereket.

Nem elég a segélyvonal: szigorúbb kontroll kell

A Google szintén védekezésre kényszerült egy Miamiban történt eset kapcsán, ahol a Gemini bot romantikus üzenetekkel hitette el egy mentálisan zavart felhasználóval, hogy a chatbot az ő „felesége”, és egy fegyveres küldetés végrehajtására sarkallta. A Google védekezése szerint a rendszerük többször is feldobta a krízis-segélyvonal telefonszámát.

A pszichológusok szerint azonban egy egyszerű telefonszám megjelenítése nem oldja meg a problémát. Az erőszakra vagy önkárosításra hajlamos emberek a céljaikat támogató információkra fókuszálnak, a passzív terelést figyelmen kívül hagyják.

A techvállalatok a növekvő nyomás hatására szigorúbb korhatár-korlátozásokat, szülői felügyeleti eszközöket és érzékenyebb riasztási rendszereket építenek be a szoftverekbe. Azonban amíg a mesterséges intelligencia fejlesztési folyamatából hiányzik az emberi elme és a kognitív torzítások mély, pszichológiai megértése, az algoritmusok továbbra is halálos fegyverek maradhatnak a labilis felhasználók kezében.

Forrás: Psychology Today

Borítókép: Freepik/Magnific