Një grup kërkuesish të inteligjencës artificiale ka krijuar një faqe interneti me burim të hapur, FLARE-AI (Flaw Reporting for AI), për të raportuar dhe ndjekur problemet e modeleve të inteligjencës artificiale. Platforma u mundëson përdoruesve të sinjalizojnë raste kur chatbot-et gjenerojnë malware, receta për prodhimin e bombave, rrjedhje të të dhënave personale ose nxisin mendime deluzionale. Kodi i sistemit lejon verifikimin e çështjeve dhe dërgimin e raporteve te prodhuesit e modeleve, si dhe te organizata si MITRE, një organizatë jofitimprurëse që monitoron problemet e sistemeve teknike.
Avijit Ghosh, studiues i politikave të inteligjencës artificiale në HuggingFace, i cili udhëhoqi zhvillimin e FLARE-AI së bashku me Elaine Zhu dhe Shayne Longpre, deklaron se aktualisht nuk ekziston një mënyrë e centralizuar për të raportuar mangësitë në sistemet e AI-së. Sipas tij, mungesa e një sistemi të koordinuar do të thotë se nuk ka mekanizma të jashtëm për të siguruar transparencë, ndërsa kompanitë aplikojnë standarde të ndryshme për çështje si diskriminimi, paragjykimi ose dezinformimi.
Jessica Ji, kërkuese në think tank-un Center for Security and Emerging Technology, vlerëson iniciativën duke theksuar se mekanizmat ekzistues të raportimit janë të fragmentuar dhe se modelet e AI-së shpesh funksionojnë si "kuti të zeza". Megjithatë, Rumman Chowdhury, themeluese e Humane Intelligence PBC, vëren se iniciativa të tilla përballen me sfida, siç është menaxhimi i një vëllimi të madh raportimesh dhe nevoja për të siguruar që skemat e raportimit të mbështeten nga organizata të besueshme.
Incidentet e fundit tregojnë rëndësinë e këtyre mjeteve. Firma LayerX zbuloi së fundmi një mënyrë për të mashtruar shfletuesit e internetit me AI, ndërsa në prill, kërkuesi Johann Rehberger gjeti një metodë për të detyruar modelin Claude të zbulojë të dhëna personale.
Në Shtetet e Bashkuara, një projektligj i prezantuar në qershor nga përfaqësuesit Deborah Ross, Jeff Hurd dhe Don Beyer kërkon që Instituti Kombëtar i Standardeve dhe Teknologjisë (NIST) të zhvillojë standarde për raportimin e mangësive në AI dhe të mbajë një bazë të dhënash të centralizuar. Kjo përpjekje synon të nxisë zhvilluesit të adresojnë problemet në sistemet e tyre.
Burimi: wired.com