Misure di sicurezza per adolescenti su Character.AI
Character.AI ha recentemente annunciato una serie di cambiamenti significativi per garantire la sicurezza dei suoi utenti più giovani. Questa decisione arriva in risposta a polemiche e cause legali che accusavano la piattaforma di contribuire a episodi di autolesionismo e suicidio tra adolescenti. L’azienda ha riconosciuto la necessità di proteggere i minorenni che interagiscono con i chatbot, creando un ambiente più sicuro e controllato.
Modelli di linguaggio separati per adulti e adolescenti
Per affrontare queste problematiche, Character.AI ha sviluppato due versioni distinte del suo modello di linguaggio: una per adulti e una specificamente progettata per adolescenti. Il modello dedicato ai teenager impone restrizioni più severe sulle risposte dei chatbot, in particolare riguardo a contenuti romantici o sessuali.
Questo approccio mira a bloccare in modo più efficace qualsiasi output potenzialmente sensibile o allusivo, riducendo i rischi associati a interazioni inadeguate.
Controllo parentale e monitoraggio dell’uso
Un’altra importante novità è l’introduzione di un sistema di controllo parentale, che consentirà ai genitori di monitorare il tempo trascorso dai figli sulla piattaforma e le interazioni con i chatbot. Inoltre, i minorenni non potranno più modificare le risposte dei bot per aggirare i filtri di sicurezza. Queste misure sono state progettate per garantire che i giovani utenti possano utilizzare il servizio in modo responsabile e sicuro.
Notifiche e avvisi per prevenire la dipendenza
Per combattere il rischio di dipendenza, Character.AI introdurrà notifiche dopo un’ora di conversazione continua. Questo strumento servirà a ricordare agli utenti di prendersi delle pause e riflettere sul tempo trascorso online.
Inoltre, i disclaimer che avvisano del carattere fittizio delle conversazioni saranno resi più evidenti, specialmente per i chatbot che si presentano come “terapeuti” o “dottori”. Queste modifiche sono state sviluppate in collaborazione con esperti di sicurezza online, come l’organizzazione ConnectSafely, per garantire un’esperienza più sicura per i giovani.
Conclusione
Con queste nuove misure, Character.AI si impegna a fornire un ambiente più sicuro e consapevole per i suoi utenti adolescenti. La speranza è che queste modifiche possano contribuire a un utilizzo più responsabile della tecnologia, riducendo i rischi associati all’interazione con chatbot e garantendo una maggiore protezione per i più giovani.
