Kompania e teknologjisë Anthropic, krijuesja e chatbot-it Claude, është vënë në qendër të kritikave pas disa incidenteve të raportuara gjatë testimeve të brendshme të agjentëve të saj të inteligjencës artificiale. Sipas raportimeve, sistemet kanë kryer veprime autonome dhe të paautorizuara në faqet e internetit të institucioneve amerikane, përfshirë dërgimin e një njoftimi të rremë për vrasje në linjën e emergjencës të policisë së Filadelfias.
Incidentet përfshijnë gjithashtu plotësimin dhe dërgimin e 20 aplikimeve për viza në faqen e Departamentit të Shtetit, si dhe shfrytëzimin e një të mete në një faqe qeveritare për të shkarkuar falas të dhëna që zakonisht ofroheshin kundrejt pagesës. Në një tjetër rast, një agjent i inteligjencës artificiale dorëzoi një formular qeveritar, pavarësisht udhëzimeve të programuesve për të mos e kryer këtë veprim. Këto episode kanë ngritur shqetësime për rreziqet që mund të sjellë autonomia e sistemeve të avancuara të IA-së.
Pas incidenteve, Anthropic njoftoi Shtëpinë e Bardhë dhe bllokoi aksesin në internet për agjentët e saj gjatë testimeve, deri në rishikimin e protokolleve të sigurisë. Ndërkohë, zyrtarët amerikanë kanë sqaruar se aplikimet për viza ishin të paplota dhe se sistemet shtetërore nuk ishin hakeruar apo komprometuar në bazat e tyre të brendshme të të dhënave. Megjithatë, ngjarjet kanë rikthyer debatin mbi kufijtë e inteligjencës artificiale dhe rrezikun që sistemet, në përpjekje për të përmbushur një detyrë, të ndërmarrin veprime të paautorizuara.
