OpenAI anunta un sistem conceput sa identifice automat utilizatorii adolescenti si sa restrictioneze accesul la ChatGPT pentru acest grup. Compania sustine ca masura are ca scop protejarea minorilor de continut si interactiuni potential daunatoare generate de modele de limbaj. Noul cadru urmareste sa introduca politici adecvate varstei si filtre care sa limiteze raspunsurile sensibile in conversatiile cu ChatGPT.
Comunicatul oficial precizeaza ca experienta dedicata minorilor va include un blocaj al continutului sexual grafic si alte restrictii operationale. In cazuri de stres acut, sistemul va avea posibilitatea de a alerta fortele de ordine pentru a interveni si a asigura siguranta utilizatorilor.
Daca ChatGPT nu poate determina cu certitudine varsta unui utilizator, accesul va fi tratat implicit ca restrictionat, pentru a preveni expunerea copiilor la materiale nepotrivite. OpenAI a spus ca va oferi, totodata, o modalitate pentru utilizatorii adulti de a verifica varsta si de a debloca capabilitatile complete ale ChatGPT.
Anuntul survine dupa moartea lui Adam Raine, in varsta de 16 ani, relatata ca prima sinucidere despre care se crede ca ar fi fost facilitata de utilizarea ChatGPT. Dupa aceasta tragedie, OpenAI a promis implementarea unor controale menite sa acorde parintilor si tutorilor instrumente de supraveghere si limitare a utilizarii de catre adolescenti. Compania a reiterat marti ca aceste controale vor fi introduse inainte de sfarsitul lunii si ca pachetul va include o functie care sa le permita parintilor sa stabileasca ore in care copilul nu poate utiliza ChatGPT.
Sam Altman, CEO al OpenAI, a adresat o scrisoare in care a explicat prioritizarea sigurantei inaintea confidentialitatii si libertatii adolescentilor, sustinand ca tehnologia este noua si puternica si necesita protectii semnificative. Altman a recunoscut ca exista un conflict intre valori si ca nu toate deciziile vor fi unanim acceptate, dar a subliniat ca motivele companiei se bazeaza pe consultari cu experti si pe intentia de a fi transparenta privind masurile propuse pentru ChatGPT.
Anuntul a generat deja discutii despre acuratetea identificarii varstei, despre protectia datelor personale si despre impactul potential asupra libertatii de exprimare a tinerilor. Raman intrebari despre acuratetea detectiei automate a varstei, despre modul in care vor fi gestionate datele sensibile si despre efectele pe care noile restrictii le vor avea asupra utilizatorilor adulti.
OpenAI nu a precizat data de implementare, lasand publicul in asteptare. Dezbaterile despre ChatGPT si reglementare vor continua in lunile urmatoare si monitorizare permanenta. Specialistii si organismele de reglementare vor urmari indeaproape procesul si impactul ulterior.
