OpenAI a anunțat recent că va înăspri restricțiile privind informațiile despre arme și sisteme de securitate furnizate adolescenților prin ChatGPT, chiar și atunci când întrebările par inofensive. Această măsură face parte dintr-o serie de inițiative destinate prevenirii violenței în lumea reală, conform sursei Reuters.
Limitarea accesului la informații despre arme pentru utilizatori sub 18 ani
Noile reguli vor limita accesul utilizatorilor sub 18 ani la informații practice despre arme și sisteme de securitate care ar putea fi utilizate în scopuri periculoase. Măsurile sunt introduse în contextul preocupărilor tot mai mari privind riscurile pe care chatboturile bazate pe inteligență artificială le pot reprezenta pentru minori.
Pentru toți utilizatorii, indiferent de vârstă, ChatGPT va putea încheia automat conversațiile în care o persoană pare să manifeste o preocupare persistentă pentru violență. OpenAI ar putea, de asemenea, să suspende temporar conturile utilizatorilor care poartă în mod repetat astfel de discuții.
Compania a anunțat și îmbunătățirea sistemului de estimare a vârstei, astfel încât utilizatorii identificați ca având probabil sub 18 ani să fie transferați către versiunea ChatGPT destinată adolescenților, care include protecții suplimentare. Părinții vor fi informați dacă un cont al copilului lor este suspendat pentru discuții repetate despre violență.
Limitarea detaliilor despre atacurile armate în masă
OpenAI va limita nivelul de detaliu al informațiilor despre atacurile armate în masă din trecut, inclusiv despre armele utilizate și modalitățile prin care autorii le-au procurat. Noile măsuri vor începe să fie implementate treptat în următoarele săptămâni și vor fi ajustate ulterior.
Anunțul intervine într-un context de supraveghere tot mai atentă a companiilor de inteligență artificială în ceea ce privește protecția minorilor și identificarea comportamentelor care ar putea indica riscuri de vătămare.
La începutul lunii octombrie, OpenAI a publicat primul său raport privind utilizarea ChatGPT de către adolescenți, arătând că aceștia petrec în medie mai puțin de 15 minute pe zi pe platformă. Separat, organizația nonprofit Common Sense Media a constatat că versiunea ChatGPT pentru adolescenți a avertizat frecvent părinții cu întârziere sau nu i-a avertizat deloc atunci când minorii au purtat conversații despre sinucidere, autovătămare sau tulburări alimentare.
Decizia OpenAI ar putea declanșa o discuție intensă între companiile de AI, părinți și experți în protecția minorilor. Pe de o parte, măsurile pot oferi un cadru mai sigur pentru adolescenți, iar pe de altă parte, pot ridica întrebări despre libertatea de exprimare și accesul la informații. Este o decizie care va fi probabil subiectul unor comentarii intense și dezbateri publice.
Florin
