FOTO: Pixabay/ilustracija

U izveštaju Instituta za bezbednost mladih u korišćenju veštačke inteligencije, koji je danas objavljen, navodi se da je tokom testiranja ChatGPT za tinejdžere često prekasno obaveštavao roditelje ili ih uopšte nije obaveštavao kada su korisnici vodili duge razgovore o samoubistvu, samopovređivanju ili poremećajima u ishrani, prenosi Blumberg.

Testiranje je, takođe, pokazalo da četbot u razgovorima o tim rizičnim temama nije dosledno savetovao korisnicima da se obrate kriznim službama ili potraže stručnu pomoć. 

Common Sense Media navodi da je sistem, prema njihovim testovima, roditelje obaveštavao o zabrinjavajućim razgovorima uglavnom tek nakon što su nalozi prethodno bili korišćeni za testiranje stotina upita tokom više nedelja, a ne nakon jednog alarmantnog razgovora.Organizacija je pozvala OpenAI da obustavi promociju proizvoda i onemogući korišćenje ChatGPT-a tinejdžerima dok ne bude osigurano bezbedno iskustvo prilagođeno njihovom uzrastu.

Portparol OpenAI-ja rekao je da kompanija pozdravlja nezavisne procene, ali da ne smatra da testiranje Common Sense Media tačno odražava način na koji zaštitne mere za tinejdžere funkcionišu u praksi. 

OpenAI je naveo i da je analiza metodologije pokazala da je većina testiranja možda sprovedena pre nego što je kompanija završila uvođenje roditeljskih kontrola, zbog čega, kako tvrdi, zaključci izveštaja ne pokazuju da li sistem za obaveštavanje roditelja funkcioniše kako je predviđeno. Zatražio jr od organizacije da ponovi testiranje, dok je Common Sense Media saopštio da stoji iza svoje metodologije i rezultata. 

Direktor za procenu veštačke inteligencije i digitalnih tehnologija u Institutu za bezbednost mladih Robi Torni rekao je da je organizacija pre testiranja potvrdila sa OpenAI-jem da su funkcije namenjene tinejdžerima, uključujući obaveštenja povezana sa poremećajima u ishrani, uvedene.Torni je dodao da je OpenAI nakon završetka testiranja saopštio da sistemu može da bude potrebno nekoliko sati da aktivira roditeljska obaveštenja na novopovezanim nalozima, ali da ni neki nalozi koji su bili povezani znatno duže nisu dobili obaveštenja. 

"Ova nova informacija ne menja naš zaključak da su roditeljska upozorenja nepouzdana u kriznim situacijama", rekao je Torni.

Izveštaj Common Sense Media je, takođe, utvrdio da ChatGPT ne prepoznaje pouzdano da razgovara sa tinejdžerima. Organizacija navodi da se nalozi registrovani kao nalozi odraslih nisu automatski prebacivali na režim za tinejdžere čak ni kada bi korisnik u razgovoru naveo da ima 13 godina.

OpenAI je odgovorio da njegov softver za procenu uzrasta tokom vremena analizira više različitih pokazatelja kako bi korisnici dobili odgovarajuću verziju četbota.  Navođenje uzrasta u razgovoru sa ChatGPT-om jeste jedan od pokazatelja, ali samo po sebi nije dovoljno da promeni klasifikaciju naloga, navela je kompanija.

Common Sense Media je saopštio da je tokom testiranja koristio više od 4.000 upita na nalozima registrovanim za korisnike uzrasta od 13 do 17 godina, a odgovore ChatGPT-a analizirali su i dečji psihijatri i pedijatar. 

Organizacija je ChatGPT-u za tinejdžere dodelila ocenu "neprihvatljiv rizik" i pozvala OpenAI da unapredi procenu uzrasta korisnika i način na koji odlučuje kada treba obavestiti roditelje.

OpenAI je, u međuvremenu, saopštio da je posvećen bezbednosti tinejdžera i razvoju zaštitnih mehanizama i alata koji bi roditeljima omogućili da bolje nadziru korišćenje veštačke inteligencije. 

Kompanija je ChatGPT za tinejdžere predstavila u okviru šireg nastojanja da odgovori na zabrinutost zbog uticaja svojih proizvoda na mentalno zdravlje i kognitivni razvoj mladih.

Izvor: Tanjug