Programi i inteligjencës artificiale i kompanisë “Anthropic” dërgoi informacion të rremë për vrasje në një faqe interneti të policisë së Filadelfias. Ky është rasti më i fundit i modeleve të inteligjencës artificiale që veprojnë vetë dhe manipulojnë qeverinë dhe faqet e tjera të internetit në mënyra që testuesit nuk i kishin ndërmend. Në një raport të premten, Anthropic zbuloi gjithashtu një incident të veçantë kur modeli i saj i inteligjencës artificiale dërgoi formularë në një faqe interneti qeveritare të pazbuluar në vend që të ndalonte para dorëzimit. Incidenti në Filadelfia ndodhi më 18 korrik kur modeli i inteligjencës artificiale Claude Haiku 4.5 u ngarkua me detyrën e gjenerimit dhe kryerjes së detyrave shembull në faqe interneti të zgjedhura rastësisht, tha Anthropic. LEXO edhe...Marrëveshja e naftës Trump-Putin: Delegacioni i Kievit largohet nga Miami më herët! SHBA-të: Mos i sulmoni më rafineritë ose nuk do t'ju japim më informacione Policia e Filadelfias tha në një deklaratë se nuk ishin në dijeni të incidentit derisa Anthropic i njoftoi të mërkurën. Më pas, ata e gjetën dërgesën në të dhënat e faqes së internetit dhe konfirmuan se ishte shënuar si spam dhe nuk i ishte dërguar kurrë policisë. Incidenti më i fundit i agjentëve mashtrues Ka shqetësime në rritje në lidhje me agjentët e pakontrolluar të inteligjencës artificiale të kompanive që ndërhyjnë në gjithçka, nga faqet e internetit të qeverisë amerikane deri te të dhënat e kujdesit shëndetësor. Kritikët kanë bërë thirrje për më shumë rregullore. Në shtator, një kompani tjetër e inteligjencës artificiale, OpenAI, zbuloi gjashtë raporte për sjellje "të papritura ose shqetësuese" në modelet e inteligjencës artificiale. "Rastet e pazgjidhura përfshijnë viktima të vërteta, familje në zi dhe hetues që punojnë për të siguruar përgjigje", tha Departamenti i Policisë së Filadelfias në një deklaratë. "Kompanitë e teknologjisë duhet të ndërmarrin të gjitha hapat e duhur të nevojshëm për të parandaluar që sistemet e tyre të paraqesin informacione të rreme te forcat e rendit." Anthropic tha në raportin e saj se shumica e sjelljeve të raportuara janë forma të asaj që e quan këmbëngulje "në të cilën Claude, kur nuk mund ta përfjë një detyrë të dhënë, punon anashkaluar një kufizim në vend që të ndalet". Kompania tha se po modifikonte trajnimin e saj për të “zvogëluar mundësinë e sjelljes së keqe të mëtejshme”. Anthropic tha se informoi Shtëpinë e Bardhë mbi rastet që përfshinin agjencitë qeveritare amerikane në nivel federal, shtetëror dhe lokal, dhe njoftoi secilën agjenci të përfshirë./CBC Xh.K/ReportTv.al inteligjenca artificiale SHBA filadelfia Komento Komente Sondazhi i ditës: PS miraton me 85 vota Territorialen, a jeni dakord me ndarjen e vendit në 46 bashki? Po 60.3% Jo 33.7% Nuk e di 6% Vota total: 4439 Sondazhi i ditës: PS miraton me 85 vota Territorialen, a jeni dakord me ndarjen e vendit në 46 bashki?
