Një padi e ngritur në Kentaki, SHBA zbulon mesazhe shqetësuese nga chatbot-et e inteligjencës artificiale, të cilat dyshohet se u kanë sugjeruar përdoruesve të vetëdëmtohen, të mos ushqehen apo t’i japin fund jetës. Mes personave të ekspozuar ndaj këtyre bisedave dyshohet se kishte edhe fëmijë.
Chatbot-et e kompanisë Character.AI, e specializuar në krijimin e shoqëruesve virtualë me inteligjencë artificiale, akuzohen se kanë dhënë përgjigje që nxisnin vetëdëmtimin, urinë e qëllimshme dhe vetëvrasjen. Pretendimet janë bërë publike në një version të plotë të padisë së ngritur nga autoritetet e shtetit amerikan të Kentakit, në kuadër të një çështjeje që lidhet me sigurinë e fëmijëve.
Prokurori i përgjithshëm i Kentakit, Russell Coleman, paraqiti të mërkurën versionin e padisë pa pjesët e redaktuara, të cilin zyra e tij ia vuri në dispozicion agjencisë Reuters.
Dokumenti përmban disa shembuj të bisedave të zhvilluara gjatë vitit 2025, të cilat, sipas autoriteteve, ngrenë shqetësime serioze për mënyrën se si chatbot-et ndërveprojnë me përdoruesit, veçanërisht me të miturit.
Në një prej rasteve të përshkruara në padi, një chatbot dyshohet se e ofendoi një përdorues që shprehte pasiguri për pamjen e tij fizike, duke e quajtur “jashtëzakonisht të shëmtuar” dhe “balenë”. Më pas, i sugjeroi se mund të humbiste një të katërtën e peshës trupore duke qëndruar pa ngrënë për një ose dy javë.
Në një tjetër rast, një chatbot dyshohet se e nxiti një person që kishte shprehur mendime për të prerë veten, duke i sugjeruar të provonte zona të ndryshme të trupit për të përjetuar ndjesi më intensive.
Padia përfshin edhe raportimin e një përdoruesi, i cili në mars të vitit 2025 i ishte drejtuar qendrës së ndihmës së Character.AI-së, duke denoncuar sjelljen agresive të një chatbot-i. Sipas mesazhit të raportuar, roboti virtual i kishte thënë përdoruesit se ishte një fëmijë me probleme të shëndetit mendor dhe e kishte nxitur të hidhej nga një urë.
Nuk është bërë e qartë në çfarë rrethanash janë zhvilluar bisedat e përfshira në padi. Dokumenti nuk përcakton moshën e të gjithë përdoruesve, por pretendon se disa prej tyre ishin fëmijë.
Akuzat për mungesë masash sigurie
Padia, e depozituar fillimisht në janar, pretendon se produktet e Character.AI-së janë projektuar në mënyrë të tillë që t’i japin përparësi angazhimit të përdoruesve, në dëm të mirëqenies së fëmijëve.
Sipas autoriteteve të Kentakit, chatbot-et mund të nxisin vetëvrasjen, vetëdëmtimin, izolimin dhe manipulimin psikologjik.
Në dokument, produktet e kompanisë cilësohen si të pasigurta, ndërsa pretendohet se përdoruesit janë ekspozuar ndaj një eksperimenti të pakontrolluar, pa masa të përshtatshme mbrojtëse.
Character.AI u themelua nga dy ish-punonjës të Google. Në vitin 2024, Google licencoi teknologjinë e kompanisë dhe ripunësoi drejtuesit e saj për të punuar në zhvillimin e produkteve të inteligjencës artificiale gjeneruese.
Megjithatë, një zëdhënës i Alphabet, kompania mëmë e Google, deklaroi se Google nuk ka pasur rol në zhvillimin e produkteve të Character.AI-së.
Në janar të vitit 2026, të dyja kompanitë arritën marrëveshje për zgjidhjen e një padie të ngritur në vitin 2024 nga nëna e Sewell Setzer III, një adoleshent 14-vjeçar nga Florida, i cili i dha fund jetës. Në padi pretendohej se një chatbot i Character.AI-së e kishte nxitur drejt vetëvrasjes.
Rasti i fundit në Kentaki i shtohet debatit dhe shqyrtimit ligjor në rritje mbi përgjegjësinë e kompanive të inteligjencës artificiale, veçanërisht kur produktet e tyre përdoren nga fëmijët dhe adoleshentët për biseda personale dhe mbështetje emocionale.