Quando il quindicenne Nate Bronstein si tolse la vita cyberbullismo implacabile attraverso Snapchat, e Matthew Minor, 12 anni, morì tentare una pericolosa sfida TikTok, i genitori di tutto il Paese – e di tutto il mondo – hanno chiesto risposte ai dirigenti tecnologici che sembrano anteporre il profitto alla sicurezza sulle loro piattaforme.
Questi tragici casi, molti dei quali sono stati evidenziati in recenti udienze al Senato – esporre una realtà pericolosa: i sistemi di moderazione dei contenuti delle piattaforme di social media non mantengono i nostri figli sufficientemente al sicuro.
Prendiamo il recente – e altamente controverso – discorso di Meta passaggio dal fact-checking alle “community notes” O Le battaglie in corso di TikTok con pericolose sfide virali, ed è chiaro che la maggior parte di queste piattaforme popolari sta facendo ben poco per contribuire a ridurre i rischi.
Sono state introdotte nuove leggi statali per forzare il dibattito sulla regolamentazione dell’accesso ai social media da parte dei minori. Tuttavia, i genitori rimangono in prima linea in un mondo di crescenti minacce digitali e di mutevoli politiche relative alle piattaforme.
La domanda non è solo se i social media siano più sicuri per i nostri figli – la questione è se gli stessi sistemi destinati a proteggerli funzionano o meno.
Dati recenti mostra che il 90% degli adolescenti utilizza attivamente YouTube. Il 60% è molto coinvolto su TikTok, Instagram e Snapchat. Queste statistiche sottolineano la necessità di capire come funziona la moderazione dei contenuti – e dove fallisce – è diventato essenziale.
E con le piattaforme che apporteranno cambiamenti significativi ai loro approcci di moderazione nel 2025, i genitori hanno bisogno di un quadro chiaro di ciò che è Veramente accadendo dietro le quinte.
Che cos’è la moderazione dei contenuti e perché è importante?
La moderazione dei contenuti è come avere guardie di sicurezza digitali che vigilano su ciò che viene pubblicato sulle piattaforme di social media.
Gli strumenti di moderazione, come il filtraggio dei contenuti, l’analisi e le funzionalità di intelligenza artificiale, sono essenziali per migliorare l’efficienza e l’efficacia della moderazione dei contenuti. Anche se non sono perfetti, svolgono un ruolo chiave nel tenere il materiale più pericoloso lontano dalle piattaforme pubbliche.
Queste “guardie” funzionano in tre modi principali:
- Moderazione automatizzata, che utilizza le tecnologie di intelligenza artificiale per valutare gli invii rispetto a regole stabilite per decisioni più rapide e accurate
- Revisione umana per affrontare eventuali contenuti potenzialmente offensivi che potrebbero aggirare l’automazione
- Segnalazione da parte della community per segnalare contenuti inappropriati.
Monitoraggio dei contenuti tramite sistemi di moderazione automatizzati
Considerali come cani da guardia dell’intelligenza artificiale che scansionano post, immagini e video 24 ore su 24, 7 giorni su 7. Sono programmati per individuare problemi evidenti come contenuti espliciti, violenza o schemi di truffa noti.
Vengono utilizzati modelli linguistici di grandi dimensioni per migliorare l’accuratezza dei sistemi di moderazione fornendo una seconda opinione su contenuti potenzialmente problematici, riducendo potenzialmente il rischio di censura errata e migliorando le pratiche di moderazione generali.
Sebbene questi sistemi possano elaborare rapidamente milioni di post, non sono perfetti – possono trascurare problemi sottili o talvolta segnalare per errore contenuti innocenti.
Rimozione manuale dei contenuti tramite moderatori umani
Quando l’algoritmo non riesce a tenere il passo, le piattaforme si affidano a persone reali che esaminano i contenuti segnalati ed esprimono giudizi.
Per esempio, Bluesky ha recentemente quadruplicato il suo team di moderazione umana portandolo a 100 persone dopo aver scoperto l’aumento dei contenuti dannosi. Questi moderatori si occupano di “casi limite” – situazioni che non sono in bianco e nero – e aiutano a migliorare i sistemi automatizzati. Questo approccio ibrido garantisce che i contenuti moderati migliorino la qualità dei contenuti generati dagli utenti, influenzando in modo significativo le decisioni di acquisto dei consumatori.
Moderazione in crowdsourcing tramite reporting della community
A volte, i migliori moderatori sono gli utenti stessi. La moderazione distribuita è un approccio guidato dalla comunità in cui i membri partecipano attivamente alla revisione e alla votazione dei contenuti per garantire che aderiscano alle linee guida stabilite. Quando vedi un pulsante “Segnala” su un post, fa parte del sistema di moderazione che consente agli utenti di lavorare insieme per moderare contenuti inappropriati o disinformazione.
Meta (ex Facebook) si è recentemente spostata verso questo approccio con il suo sistema di “note della community”, anche se molti esperti temono che questo dia troppa responsabilità agli utenti – e potrebbe portare a una mancanza di supervisione sui rischi più sottili – ma comunque pericolosi – dei contenuti online.
La moderazione tradizionale sta deludendo i nostri figli
Quindi, con questi tre cani da guardia in atto, perché si verificano ancora tragedie e perché continua a circolare la disinformazione?
La sfida non è solo individuare contenuti scadenti, ma riguarda anche la scala. Considera questi numeri:
- Gli utenti di Instagram condividono oltre 95 milioni di foto ogni giorno
- TikTok vede circa 2,5 miliardi di video scaricati ogni giorno
- YouTube ha 500 ore di video caricate ogni minuto
La post moderazione consente agli utenti di inviare contenuti senza previa approvazione, garantendo la pubblicazione in tempo reale e filtrando successivamente il materiale inappropriato.
Anche con l’intelligenza artificiale avanzata e migliaia di moderatori umani, le piattaforme faticano a catturare tutto ciò che è pericoloso o inappropriato prima che i nostri figli lo vedano. E le recenti udienze al Senato hanno rivelato una verità preoccupante: molte piattaforme danno priorità all’impegno e al profitto rispetto alla sicurezza.
Come ha sottolineato la senatrice Marsha Blackburn a Mark Zuckerberg di Meta, l’azienda valuta ogni utente adolescente a circa $ 270 di entrate a vita – portando ad algoritmi che privilegiano i contenuti coinvolgenti rispetto a quelli sicuri.
Cos’è la sezione 230?
Probabilmente ultimamente hai sentito politici e organi di stampa parlare della “Sezione 230”, con molti che chiedono al Congresso di abrogare la legge.
La sezione 230 fa parte dell’ Legge sulla decenza delle comunicazioni, approvato nel 1996. Consideralo come uno scudo che protegge le piattaforme di social media dall’essere citate in giudizio per i contenuti pubblicati dai loro utenti. La legge sostanzialmente dice che piattaforme come Instagram o TikTok sono più simili a biblioteche che a editori: non sono legalmente responsabili di ciò che le persone pubblicano sui loro siti.
Quando fu scritta la legge, Internet era agli albori. L’obiettivo era aiutare le piattaforme online a crescere senza il timore di essere denunciati ogni volta che un utente pubblicava qualcosa di problematico. Tuttavia, critici come l’ex segretario di Stato americano Hillary Clinton lo sostengono questa protezione è diventata un problema nel 2025, soprattutto quando si tratta della sicurezza dei bambini.
Perché? Perché le piattaforme possono affermare di non essere legalmente responsabili anche quando contenuti dannosi destinati ai bambini si diffondono sul loro orologio.
- Se qualcuno pubblica contenuti pericolosi che danneggiano un bambino, è difficile ritenere la piattaforma legalmente responsabile
- Le piattaforme possono scegliere quanta moderazione dei contenuti vogliono fare
- Non esiste alcun obbligo legale per le piattaforme di proteggere in modo proattivo i giovani utenti
Ciò significa che la maggior parte delle piattaforme si nasconde dietro la Sezione 230 anziché investire in solide misure di sicurezza. Come dimostra il passaggio di Meta dal fact-checking alle “note della community”, le piattaforme spesso scelgono meno moderazione quando non sono legalmente obbligate a fare di più.
Dove la moderazione fallisce: i veri pericoli scivolano via
I sistemi di moderazione dei contenuti spesso lottano con diverse aree chiave che influiscono direttamente sulla sicurezza dei bambini. I sistemi devono bilanciare la necessità di proteggere i giovani utenti dai contenuti dannosi garantendo al tempo stesso la libera espressione.
Dopotutto, la libera espressione facilita il dialogo aperto e consente alle persone di condividere i propri pensieri senza indebite restrizioni. Tuttavia, la gestione efficace dei contenuti in un ambiente online diversificato presenta sfide significative.
C’è anche il problema dell’eccessiva censura. Nei loro sforzi per gestire i contenuti dannosi, i sistemi di moderazione a volte finiscono per censurare troppi contenuti innocui. Questa censura eccessiva frustra gli utenti e ostacola l’intenzione di consentire la libera espressione.
Quindi, cosa sta effettivamente sfuggendo alle fessure?
“Sfide” e tendenze pericolose
Mentre le piattaforme possono facilmente rilevare e bloccare contenuti dannosi noti, nuove tendenze pericolose possono diffondersi rapidamente prima di essere identificate. Il tragico caso di Matthew Minor evidenzia quanto velocemente queste sfide possano diventare virali.
Le piattaforme spesso cercano di recuperare terreno, implementando i blocchi solo dopo che il danno si è già verificato, consentendo a tutti i tipi di pericolo di proliferare:
- “Sfide di soffocamento” che si diffondono su TikTok
- Acrobazie pericolose promosse come “divertimento innocuo”
- Tendenze virali che incoraggiano comportamenti a rischio
- Sfide che sembrano innocenti ma nascondono pericoli
Cyberbullismo e molestie
A differenza dei contenuti espliciti, bullismo può essere sottile e dipendente dal contesto. I sistemi automatizzati per la moderazione dei contenuti dei social media sono limitati dalla loro programmazione e spesso non riescono a:
- All’interno battute usate come armi
- Minacce o intimidazioni indirette
- Campagne di molestie coordinate
- Abuso di messaggi privati
- “Pile-on” in cui più utenti prendono di mira una persona
- Schermate condivise fuori contesto
- Account falsi creati per molestare individui specifici
Contenuti sull’impatto sulla salute mentale
Ricerche recenti mostrano che le lacune nel modo in cui le piattaforme gestiscono i contenuti possono influire sul benessere mentale degli adolescenti. Tutti i tipi di contenuti potrebbero influenzare la salute mentale, dal cyberbullismo ai post sull’autolesionismo o sui disturbi alimentari.
Sebbene alcune piattaforme dispongano di politiche per affrontare questo tipo di contenuti, queste potrebbero non essere applicate o monitorate in modo efficace. Il contenuto può includere:
- Post che promuovono standard corporei non realistici
- Contenuti che esaltano i disturbi alimentari
- Materiale che incoraggia l’autolesionismo
- Dinamiche sociali “Confronta e dispera”.
- Post che normalizzano l’ansia e la depressione senza offrire supporto
- Contenuti che promuovono l’isolamento o meccanismi di coping malsani
- Comunità “pro-ana” o “pro-mia” che possono eludere il rilevamento utilizzando parole in codice
Il problema dell’algoritmo
Forse la cosa più preoccupante è il modo in cui funzionano i sistemi di raccomandazione. Anche con la moderazione dei contenuti in atto, gli algoritmi della piattaforma possono spingere gli adolescenti verso contenuti sempre più estremi e creare “tane di coniglio” di materiale dannoso.
Ciò può servire ad amplificare i contenuti che scatenano ansia o depressione, soprattutto perché le piattaforme lavorano per dare priorità al coinvolgimento rispetto al benessere mentale. Ciò, a sua volta, significa che gli utenti vulnerabili con annunci pubblicitari potenzialmente dannosi e alcune piattaforme possono consigliare contenuti proprio nel momento sbagliato (come a tarda notte, quando gli adolescenti sono più vulnerabili).
Agire: soluzioni per i genitori nel 2025
Controlli della piattaforma integrati per proteggere bambini e adolescenti
Sapevi che tutte le principali piattaforme stanno ora lavorando per offrire migliori controlli parentali? TikTok, ad esempio, limita utenti specifici di età inferiore ai 18-60 minuti di tempo di visualizzazione giornaliero. Instagram fornisce strumenti per monitorare il tempo trascorso e limitare i messaggi diretti.
Ma ecco il problema: solo il 2% circa degli account degli adolescenti sono effettivamente collegati alle funzionalità di supervisione dei genitori, il che rende il tuo coinvolgimento ancora più importante. Prenditi un momento oggi per configurarli; sono la base per un utilizzo più sicuro dei social media.
Comunicazione aperta: oltre la battaglia temporale sullo schermo
Invece di concentrarti esclusivamente sulle restrizioni, crea un ambiente in cui i tuoi figli si sentano a proprio agio nel discutere delle loro esperienze online. Fai domande come:
- Cosa va di moda oggi sui social?
- Hai visto qualcosa che ti ha messo a disagio?
- Sai cosa fare se qualcuno è vittima di bullismo online?
- Di quali account o creatori di contenuti ti fidi di più?
Insegnare l’alfabetizzazione digitale: essere la prima linea di difesa di tuo figlio
Individuazione di contenuti dannosi
I bambini devono sviluppare un “sistema di allarme rapido” per aiutare a moderare i contenuti e identificare materiale potenzialmente pericoloso. Insegna loro a fare una pausa prima di affrontare sfide virali o contenuti di tendenza.
Mostra loro come porre domande critiche:
- Chi ha pubblicato questo?
- Qual è la loro motivazione?
- Potrebbe essere pericoloso?
Questo impegno intenzionale funziona davvero. Studi recenti mostrano che i ragazzi che sviluppano questa mentalità interrogativa hanno meno probabilità di partecipare a comportamenti online rischiosi.
Comprendere la manipolazione digitale
Aiuta i tuoi figli a riconoscere le tattiche di manipolazione più comuni utilizzate online. Dai titoli clickbait alle foto filtrate, capire come progettare i contenuti per il coinvolgimento li aiuta a mantenere una prospettiva più sana.
Insegna loro la FOMO (Fear of Missing Out) e come viene spesso utilizzata per farli scorrere, nonché come le piattaforme li vedono come opportunità di guadagno.
Realtà vs Social Media
Intrattieni conversazioni regolari sulla differenza tra la vita curata sui social media e la realtà.
Mostra loro come influencer e celebrità spesso presentano versioni altamente modificate delle loro vite. Potrebbero essere meno propensi a fare confronti malsani quando capiscono che la maggior parte dei contenuti dei social media è organizzata con cura.
Fare scelte informate
Consenti ai tuoi figli di essere consumatori consapevoli dei social media. Insegna loro a controllare regolarmente il loro feed: quali account li fanno sentire bene? Quali li fanno sentire ansiosi o inadeguati?
Guidali nella cura della loro esperienza sui social media per supportare il loro benessere mentale e apri la strada al tuo impegno con la tecnologia.
Il movimento “Slow Social”: creazione di confini sani
C’è un nuovo movimento tra le famiglie che cercano di creare un rapporto più sano con la tecnologia e i social media: il movimento “Slow Social”. Questo approccio incoraggia le persone a stabilire dei limiti riguardo all’uso della tecnologia, inclusa la limitazione del tempo trascorso davanti allo schermo e le pause dai social media.
Zone libere dalla tecnologia
Designa aree specifiche della tua casa come spazi privi di dispositivi. Il tavolo da pranzo e le camere da letto sono buoni punti di partenza. La ricerca mostra che avere questi confini chiari aiuta a ridurre il controllo compulsivo e migliora la comunicazione familiare.
Pasti senza dispositivi
Rendi i pasti un rifugio dai social media. Studio dopo studio mostra che le famiglie che mangiano insieme senza dispositivi presenti riferiscono relazioni più forti e una migliore comunicazione. Inoltre, offre a tutti la possibilità di esercitarsi a essere pienamente presenti gli uni con gli altri.
Stazione di ricarica familiare
Vuoi contribuire a ridurre il rischio dei social media e della tecnologia? Crea una posizione di ricarica centrale fuori dalle camere da letto di tutti.
Questo semplice cambiamento può migliorare notevolmente la qualità del sonno eliminando la tentazione di scorrere a tarda notte. Considera l’idea di rendere un rituale familiare quello di “mettere i dispositivi a letto” a un’ora prestabilita ogni notte.
Tempo sociale programmato
Collabora con i tuoi figli per stabilire orari specifici per l’utilizzo dei social media. Invece di controllare costantemente, incoraggiali a suddividere il tempo trascorso sui social media in periodi definiti. Questa routine può aiutarli a sviluppare modelli di utilizzo più sani e a concentrarsi meglio durante altre attività.
Protocollo del tramonto digitale
Implementare a routine del “tramonto digitale”. dove gli schermi vengono spenti 1-2 ore prima di andare a dormire. La ricerca mostra che questo non solo migliora la qualità del sonno, ma aiuta anche a ridurre l’ansia e la FOMO. Usa invece questo tempo per attività familiari, lettura o relax.
Il punto è: la moderazione non è sufficiente, ma puoi aiutare
Mentre le piattaforme di social media continuano ad affrontare le sfide della moderazione dei contenuti, la realtà è chiara: non possiamo fare affidamento esclusivamente sulle aziende tecnologiche per mantenere i nostri figli al sicuro online.
I tragici casi a cui abbiamo assistito negli ultimi anni dimostrano che il coinvolgimento dei genitori, combinato con gli strumenti e le strategie giuste, rimane fondamentale per proteggere i nostri figli nell’era digitale.
In qualità di soluzione leader per il controllo parentale, Kidslox aiuta a colmare il divario tra la moderazione della piattaforma e la supervisione dei genitori. Con funzionalità come il monitoraggio multipiattaforma, limiti di tempo personalizzabili e avvisi di attività istantanei, Kidslox offre ai genitori gli strumenti di cui hanno bisogno per creare un ambiente digitale più sicuro per i propri figli.
Sappiamo che ogni famiglia è diversa. Piuttosto che un approccio unico per tutti, Kidslox è progettato per offrire controlli flessibili che crescono con tuo figlio, aiutandoti a navigare nelle complessità della sicurezza online a ogni età e fase. In un mondo in cui la moderazione della piattaforma continua a non essere all’altezza, Kidslox è il tuo partner nella genitorialità digitale.
Rimani informato, coinvolto e, soprattutto, mantieni viva la conversazione con i tuoi figli. La sicurezza online di tutti inizia dalla presa di posizione di ognuno di noi.
Vuoi saperne di più sui pericoli dei social media e su come creare un ambiente digitale più sano per la tua famiglia? Dai un’occhiata alle nostre risorse e guide più recenti – e scopri come i controlli parentali possono fare molto per proteggere la tua famiglia dai rischi online.
