L’intelligenza artificiale dei personaggi è sicura? Una guida per i genitori

Immagina di poter chiacchierare con Albert Einstein di fisica, praticare il giapponese con un madrelingua o aiutare tuo figlio a esplorare la sua serie di libri preferita attraverso conversazioni con i personaggi principali.

Questa è la promessa dell’intelligenza artificiale dei personaggi – una piattaforma di intelligenza artificiale che consente agli utenti di interagire con chatbot AI personalizzabili progettati per imitare personalità reali o immaginarie.

Per gli adolescenti e i giovani utenti può sembrare di avere accesso a un numero infinito di interlocutori coinvolgenti, ciascuno adattato ai propri interessi e bisogni.

Ma sotto questa superficie accattivante si nasconde una complessa rete di preoccupazioni relative alla sicurezza che i genitori devono comprendere. Nel dicembre 2024, due famiglie hanno intentato una causa contro Character AI, sostenendo che la piattaforma aveva incoraggiato l’autolesionismo ed esposto i bambini a contenuti inappropriati.

Un caso particolarmente preoccupante ha coinvolto un adolescente con autismo i cui genitori sostengono che l’intelligenza artificiale abbia suggerito che sarebbe comprensibile danneggiare i suoi genitori a causa delle restrizioni sul tempo trascorso davanti allo schermo. In un altro caso, una ragazzina di 11 anni sarebbe stata esposta a “interazioni ipersessualizzate” dopo aver utilizzato la piattaforma per quasi due anni all’insaputa dei suoi genitori.

Non si tratta di incidenti isolati. A seguito di una precedente causa legale nell’ottobre 2024, dove una madre della Florida sosteneva che la piattaforma aveva contribuito alla morte del figlio quattordicenne, L’intelligenza artificiale dei personaggi si è affrettata a implementare nuove misure di sicurezza. Ma la domanda rimane: queste tutele sono sufficienti per proteggere i nostri figli?

Questa guida esaminerà le caratteristiche di sicurezza di Character AI, ne esplorerà i potenziali rischi e fornirà ai genitori le informazioni di cui hanno bisogno per prendere decisioni informate sull’uso da parte dei propri figli di questa piattaforma sempre più popolare.

Cos’è l’intelligenza artificiale dei personaggi?

Character AI è una piattaforma chatbot basata sull’intelligenza artificiale lanciata nel 2022, creata dagli ex ingegneri di Google Noam Shazeer e Daniel De Freitas.

A differenza dei tradizionali chatbot AI – si pensi a ChatGPT e Gemini di Google – Character AI è specializzato nella creazione di conversazioni personalizzate attraverso “personaggi AI” che possono imitare persone reali, personaggi immaginari o personalità completamente nuove.

Come funziona l’intelligenza artificiale dei personaggi?

La cosa interessante di Character AI è il modo in cui la piattaforma utilizza l’intelligenza artificiale per guidare le conversazioni. La piattaforma utilizza modelli linguistici avanzati per generare risposte simili a quelle umane basate sulla personalità e sul background definiti del personaggio.

Gli utenti possono scegliere da una vasta libreria di personaggi già pronti o creare i propri compagni IA personalizzati. Questi possono variare da personaggi storici come Einstein a personaggi di fantasia di film popolari, o anche terapisti virtuali e tutor linguistici.

Una delle caratteristiche più sorprendenti della piattaforma è la sua capacità di clonazione vocale. Gli utenti possono caricare una clip audio di 10-15 secondi di qualsiasi voce – la propria, quella di una celebrità o anche quella di una persona cara defunta – e l’intelligenza artificiale imiterà quella voce nelle conversazioni, anche se limitatamente alla conoscenza dell’intelligenza artificiale.

Sebbene questa tecnologia offra possibilità affascinanti, solleva anche significative preoccupazioni etiche, in particolare per quanto riguarda la rappresentazione e la manipolazione emotiva.

Pubblico target e requisiti di età

Sebbene Character AI abbia un ampio appeal, è particolarmente popolare tra i giovani utenti attratti dalla sua natura interattiva e personalizzabile. I termini di servizio ufficiali della piattaforma specificano diversi requisiti di età:

• Nella maggior parte delle regioni gli utenti devono avere almeno 13 anni
• I residenti nell’Unione Europea devono avere almeno 16 anni
• Le valutazioni dell’App Store lo elencano come 17+
• Google Play lo contrassegna come “Guida dei genitori”

Tuttavia, vale la pena notare che attualmente non esiste un solido sistema di verifica dell’età. I bambini possono facilmente aggirare queste restrizioni semplicemente inserendo una data di nascita falsa.

Quali tipi di interazioni puoi avere con l’intelligenza artificiale dei personaggi?

L’intelligenza artificiale dei personaggi offre un’ampia gamma di possibilità di interazione, il che ha portato all’esplosione di popolarità della piattaforma. Ecco alcune delle conversazioni più importanti che puoi avere:

• Conversazioni educative: Gli utenti possono praticare le lingue, discutere argomenti accademici o esplorare eventi storici con i personaggi dell’intelligenza artificiale
• Scrittura creativa: Narrazione collaborativa e sviluppo del personaggio
• Divertimento: Conversazioni di giochi di ruolo con i personaggi immaginari preferiti
• Supporto personale: Compagni di chat per brainstorming, supporto emotivo o conversazioni generali (sebbene la piattaforma affermi esplicitamente che questi non sostituiscono l’aiuto professionale)
• Personaggi personalizzati: Gli utenti possono creare e personalizzare i propri personaggi AI, definendone i tratti della personalità, la storia di fondo e persino la voce

Sebbene queste funzionalità possano offrire esperienze coinvolgenti ed educative, è facile immaginare come possano aprire la porta a potenziali usi impropri.

La capacità della piattaforma di creare interazioni altamente personalizzate, combinata con le sue capacità di clonazione della voce, crea un ambiente in cui il confine tra relazioni artificiali e reali può diventare pericolosamente sfumato, soprattutto per gli utenti più giovani che potrebbero essere più vulnerabili alla manipolazione emotiva.

Confronto della piattaforma AI per le famiglie

Nota: le funzionalità e le misure di sicurezza potrebbero cambiare man mano che queste piattaforme continuano ad evolversi.

Come l’intelligenza artificiale dei personaggi sta cercando di affrontare la sicurezza

In risposta alle crescenti preoccupazioni e alle recenti cause legali, Character AI ha implementato diverse nuove misure di sicurezza per proteggere gli utenti più giovani. Tuttavia, i genitori dovrebbero comprendere sia le capacità che i limiti di queste tutele.

Misure di sicurezza attuali

L’intelligenza artificiale dei personaggi utilizza diverse protezioni di base, molte delle quali troverai su altre piattaforme utilizzate quotidianamente da bambini e adolescenti:

• Filtri NSFW (Not Safe For Work) progettati per bloccare contenuti sessualmente espliciti
• Moderazione automatizzata dei contenuti per rilevare e prevenire conversazioni inappropriate
• Strumenti di segnalazione che consentono agli utenti di segnalare contenuti o personaggi
• Disclaimer visibili che ricordano agli utenti che stanno parlando con l’intelligenza artificiale, non con persone reali
• Monitoraggio della cronologia chat da parte del team di moderazione della piattaforma

Nuove funzionalità di sicurezza per adolescenti

A seguito dei gravi incidenti verificatisi alla fine del 2024, Character AI ha annunciato protezioni migliorate specifiche per gli utenti minorenni, in particolare per quanto riguarda il modo in cui adolescenti e bambini possono interagire con i personaggi e gli output che possono ricevere:

• Un modello di intelligenza artificiale separato per adolescenti che riduce l’esposizione a contenuti sensibili
• Notifiche automatiche dopo un’ora di utilizzo continuo della piattaforma
• Monitoraggio della risposta e intervento migliorati per le violazioni dei Termini di servizio
• Sistemi di filtraggio dei contenuti migliorati per gli account degli adolescenti
• Risorse pop-up che indirizzano gli utenti al supporto per la salute mentale quando emergono argomenti preoccupanti

I problemi con l’intelligenza artificiale dei personaggi persistono ancora, nonostante gli aggiornamenti

Sfide di moderazione dei contenuti

Nonostante queste misure, permangono significative sfide di moderazione.

La piattaforma non può monitorare i messaggi diretti tra i membri della comunità su piattaforme esterne come Discord o Reddit – e anche in questo caso, i personaggi creati dagli utenti a volte possono aggirare i filtri dei contenuti attraverso parole creative.

Inoltre, l’enorme volume di conversazioni rende difficile una moderazione completa. Ciò significa che le funzionalità di clonazione vocale potrebbero essere potenzialmente utilizzate in modo improprio per l’imitazione senza un’adeguata moderazione e le linee guida per la creazione del personaggio fanno molto affidamento sulla conformità dell’utente.

Limitazioni sulla verifica dell’età

Una delle lacune più significative nel quadro di sicurezza di Character AI è il suo sistema di verifica dell’età:

• Gli utenti possono facilmente aggirare i limiti di età inserendo informazioni false
• Non esiste un processo di verifica efficace per confermare l’età dell’utente
• I controlli parentali sono limitati rispetto ad altre piattaforme social
• Le diverse classificazioni di età tra le piattaforme (13+ sul sito web, 17+ sull’App Store di Apple) creano confusione
• Nessuno strumento integrato che consenta ai genitori di monitorare l’attività dei propri figli

L’approccio alla sicurezza della piattaforma continua ad evolversi, ma queste misure dipendono in gran parte dall’onestà e dalla conformità degli utenti. Per i genitori, comprendere queste limitazioni è fondamentale per prendere decisioni informate sull’utilizzo della piattaforma da parte dei propri figli.

In che modo i genitori dovrebbero avvicinarsi agli strumenti di intelligenza artificiale come l’intelligenza artificiale dei personaggi?

Sebbene l’intelligenza artificiale dei personaggi offra una tecnologia innovativa, i suoi rischi richiedono un’attenta considerazione e un coinvolgimento attivo dei genitori. Ecco come proteggere i tuoi figli se utilizzano la piattaforma:

Stabilisci confini chiari

Stabilire limiti di tempo specifici per l’utilizzo della piattaforma. L’app ora avvisa gli utenti dopo un’ora di utilizzo continuo, ma i genitori dovrebbero creare una struttura aggiuntiva sui tempi di utilizzo.

Mantieni i dispositivi nelle aree comuni quando tuo figlio utilizza Character AI. Ciò consente il monitoraggio casuale senza restare sospeso.

Rendi l’utilizzo dell’intelligenza artificiale dei personaggi subordinato alla comunicazione aperta sulle loro interazioni. Non si tratta di sorveglianza, ma di comprendere la loro esperienza.

Monitorare i segnali di pericolo

Osserva i cambiamenti nel comportamento, in particolare:

• Maggiore isolamento o ritiro dalle attività familiari
• Cambiamenti nei modelli di sonno o nelle abitudini alimentari
• Dipendenza emotiva dalle conversazioni dell’intelligenza artificiale
• Resistenza alle interazioni sociali del mondo reale
• Cambiamenti improvvisi nelle opinioni sui rapporti familiari

Avere conversazioni importanti

Questo potrebbe essere l’elemento più importante di navigazione nell’intelligenza artificiale. Sforzati di parlare con i tuoi figli della differenza tra l’intelligenza artificiale e le relazioni reali. Aiutali a capire che, sebbene l’intelligenza artificiale possa essere divertente ed educativa, non dovrebbe sostituire le connessioni umane.

Discuti l’importanza della privacy e il motivo per cui non dovrebbero mai condividere informazioni personali, anche se un personaggio AI sembra degno di fiducia.

Implementare misure di sicurezza

• Utilizza le funzionalità di sicurezza per adolescenti della piattaforma se tuo figlio ha meno di 18 anni
• Rivedi regolarmente le interazioni dei loro personaggi quando possibile
• Prendi in considerazione l’utilizzo di strumenti di controllo parentale per monitorare l’utilizzo complessivo del dispositivo
• Mantieni gli account privati ​​e supervisiona le funzionalità di clonazione vocale

Dovresti consentire ai tuoi figli di utilizzare l’intelligenza artificiale dei personaggi?

La decisione di consentire l’utilizzo dell’IA dei personaggi dovrebbe basarsi sul livello di maturità, sulla stabilità emotiva e sulla capacità di distinguere l’IA dalla realtà di tuo figlio. Considera l’idea di iniziare con un accesso limitato e supervisionato prima di consentirne l’uso indipendente.

Se consenti l’accesso, mantieni conversazioni continue sulle loro esperienze e stai attento a qualsiasi cambiamento preoccupante nel comportamento o negli atteggiamenti.

Kidslox è il tuo partner nella nuova frontiera dell’intelligenza artificiale

Noi di Kidslox siamo sempre impegnati ad aiutare le famiglie ad affrontare le sfide delle nuove tecnologie in modo sicuro e fiducioso. Mentre l’intelligenza artificiale continua ad evolversi e a integrarsi nella nostra vita quotidiana, ci impegniamo a rimanere all’avanguardia nella sicurezza digitale.

Riconosciamo che gli strumenti di intelligenza artificiale come Character AI rappresentano sia opportunità entusiasmanti che rischi significativi per le famiglie. Ecco perché continuiamo a ricercare, analizzare e fornire indicazioni sulle tecnologie IA emergenti e sul loro impatto sulla sicurezza dei bambini.

Resta sintonizzato sul nostro blog mentre approfondiamo la frontiera della sicurezza dell’intelligenza artificiale, offrendo consigli pratici e aggiornamenti sui nuovi sviluppi in questo panorama in rapida evoluzione. Il nostro obiettivo rimane invariato: consentire ai genitori di prendere decisioni informate sul benessere digitale della loro famiglia.

Ricorda, mentre la tecnologia continua ad avanzare, nulla può sostituire l’importanza della comunicazione familiare aperta e del coinvolgimento attivo dei genitori nella vita digitale di tuo figlio.