Një vlerësim i kryer nga Instituti i Sigurisë së IA-së për të Rinj, pjesë e organizatës Common Sense Media, ka ngritur shqetësime serioze lidhur me përdorimin e ChatGPT nga adoleshentët.
Sipas studiuesve, versioni i ChatGPT i përshtatur për adoleshentët paraqet një “rrezik të papranueshëm” për fëmijët, pavarësisht masave të sigurisë që OpenAI ka prezantuar së fundmi.
Organizata i ka bërë thirrje OpenAI-t që ChatGPT të kufizohet për përdoruesit mbi 18 vjeç, deri në adresimin e mangësive të identifikuara në sistemet e mbikëqyrjes prindërore, reagimin ndaj situatave të krizës, mbrojtjen e të nxënit dhe mekanizmat për verifikimin e moshës.
Në kuadër të vlerësimit, studiuesit testuan më shumë se 4 mijë pyetje në llogari të regjistruara për përdorues të moshës 13 deri në 17 vjeç. Përgjigjet e inteligjencës artificiale u shqyrtuan më pas nga ekspertë, përfshirë psikiatër të fëmijëve dhe një pediatër.
Sipas Institutit, në disa raste llogaritë e reja të lidhura me prindërit nuk gjeneruan asnjë alarm, edhe kur testuesit diskutuan për periudha të gjata tema të tilla si mendimet vetëvrasëse, vetëlëndimi apo çrregullimet e të ngrënit.
“ChatGPT për adoleshentët mund t’u japë prindërve një ndjenjë të rreme sigurie lidhur me mbrojtjet dhe alarmet e sigurisë, të cilat shpesh nuk funksionojnë”, deklaroi Tom Siegel, drejtor ekzekutiv i Institutit të Sigurisë së IA-së për të Rinj.
OpenAI e ka kundërshtuar vlerësimin, duke argumentuar se një pjesë e konsiderueshme e testimeve mund të jetë kryer përpara se kontrollet prindërore të aktivizoheshin plotësisht. Sipas kompanisë, kjo do të thotë se rezultatet nuk pasqyrojnë domosdoshmërisht mënyrën se si funksionojnë aktualisht masat mbrojtëse për adoleshentët.
Nga ana tjetër, Instituti deklaroi se përpara testimit kishte konfirmuar me OpenAI se veçoritë e “Teen Mode” ishin lançuar plotësisht dhe se qëndron pas gjetjeve të publikuara.
Debati rikthen në qendër të vëmendjes pyetjen se sa të sigurta janë platformat e inteligjencës artificiale për fëmijët dhe adoleshentët, veçanërisht në rastet kur ata kërkojnë ndihmë për çështje të ndjeshme psikologjike apo emocionale.
