Коли 15-річний Нейт Бронштейн покінчив життя самогубством невпинне кіберзалякування через Snapchat, а 12-річний Метью Мінор помер спробувати небезпечний виклик TikTok, батьки по всій країні – і в усьому світі – вимагали відповідей від керівників технічних компаній, які, здається, ставлять прибуток вище безпеки на своїх платформах.
Ці трагічні випадки, багато з яких були висвітлені в останні слухання в Сенаті – розкрийте небезпечну реальність: системи модерації вмісту платформ соціальних мереж недостатньо забезпечують безпеку наших дітей.
Візьміть нещодавню – і дуже суперечливу – перехід від перевірки фактів до «нотаток спільноти» або Постійні битви TikTok із небезпечними вірусними проблемами, і стає зрозуміло, що більшість із цих популярних платформ мало роблять для зменшення ризиків.
Нові державні закони були введені, щоб змусити говорити про регулювання доступу до соціальних мереж для неповнолітніх. Проте батьки залишаються на передовій у світі зростаючих цифрових загроз і зміни політики платформи.
Питання полягає не лише в тому, чи безпечні соціальні мережі для наших дітей – це те, чи працюють взагалі системи, призначені для їх захисту.
Останні дані показує, що 90% підлітків активно використовують YouTube. 60% активно користуються TikTok, Instagram і Snapchat. Ці статистичні дані підкреслюють необхідність розуміти, як працює модерація вмісту – і де вона зазнає невдачі – стала важливою.
У зв’язку з тим, що у 2025 році платформи внесуть значні зміни у свої підходи до модерування, батькам потрібна чітка картина того, що насправді що відбувається за лаштунками.
Що таке модерація вмісту та чому це важливо?
Модерація вмісту схожа на те, що цифрові охоронці слідкують за тим, що публікується на платформах соціальних мереж.
Інструменти модерації, такі як фільтрація вмісту, аналітика та можливості штучного інтелекту, є важливими для підвищення ефективності та результативності модерування вмісту. Незважаючи на те, що вони не ідеальні, вони відіграють ключову роль у запобіганні найнебезпечніших матеріалів на публічних платформах.
Ці «охоронці» працюють трьома основними способами:
- Автоматизована модерація, яка використовує технології штучного інтелекту для перевірки поданих матеріалів на відповідність встановленим правилам для швидшого й точнішого прийняття рішень
- Людський аналіз для розгляду будь-якого потенційно образливого вмісту, який може обійти автоматизацію
- Спільнота повідомляє про невідповідний вміст.
Моніторинг вмісту за допомогою автоматизованих систем модерації
Подумайте про них як про спостерігачів штучного інтелекту, які цілодобово сканують публікації, зображення та відео. Вони запрограмовані на виявлення очевидних проблем, як-от відвертий вміст, насильство чи відомі схеми шахрайства.
Великі мовні моделі використовуються для підвищення точності систем модерації шляхом надання іншої думки щодо потенційно проблемного вмісту, потенційно знижуючи ризик помилкової цензури та покращуючи загальну практику модерації.
Хоча ці системи можуть швидко обробляти мільйони дописів, вони не ідеальні – вони можуть пропустити тонкі проблеми або іноді помилково позначити невинний вміст.
Видалення вмісту вручну за допомогою модераторів
Коли алгоритм не встигає, платформи покладаються на реальних людей, які переглядають позначений вміст і роблять висновки.
Наприклад, Bluesky нещодавно збільшив свою команду модераторів учетверо до 100 осіб після виявлення збільшення шкідливого вмісту. Ці модератори мають справу з «крайовими випадками» — ситуаціями, які не є чорно-білими — і допомагають покращити автоматизовані системи. Цей гібридний підхід гарантує, що модерований вміст покращує якість контенту, створеного користувачами, значно впливаючи на рішення споживачів про покупку.
Краудсорсингове модерування через звіти спільноти
Іноді найкращими модераторами є самі користувачі. Розподілена модерація – це підхід, керований спільнотою, коли учасники активно беруть участь у перегляді та голосуванні за вміст, щоб переконатися, що він відповідає встановленим інструкціям. Коли ви бачите кнопку «Поскаржитися» на публікації, це частина системи модерації, яка дозволяє користувачам працювати разом, щоб модерувати неприйнятний вміст або дезінформацію.
Meta (раніше Facebook) нещодавно перейшла до цього підходу зі своєю системою «нотаток спільноти», хоча багато експертів стурбовані тим, що це покладає надто велику відповідальність на користувачів і може призвести до відсутності нагляду за більш тонкими, але все ще небезпечними, ризиками онлайн-контенту.
Традиційна помірність підводить наших дітей
Отже, з цими трьома спостерігачами на місці, чому все ще трапляються трагедії та чому все ще поширюється дезінформація?
Завдання полягає не лише у виявленні поганого вмісту, а й у масштабі. Розглянемо ці числа:
- Користувачі Instagram щодня діляться понад 95 мільйонами фотографій
- Щодня TikTok завантажує близько 2,5 мільярдів відео
- Щохвилини на YouTube завантажується 500 годин відео
Модерація дописів дозволяє користувачам надсилати вміст без попереднього схвалення, забезпечуючи публікацію в реальному часі, водночас відфільтровуючи неприйнятні матеріали згодом.
Навіть із передовим штучним інтелектом і тисячами людей-модераторів платформам важко вловити все небезпечне чи недоречне, перш ніж це побачать наші діти. І нещодавні слухання в Сенаті виявили тривожну правду: багато платформ надають перевагу залученню та прибутку над безпекою.
Як зазначила сенатор Марша Блекберн Марку Цукербергу з Meta, компанія оцінює кожного користувача-підлітка приблизно в 270 доларів за все життя – створюють алгоритми, які віддають перевагу цікавому вмісту, а не безпечному.
Що таке розділ 230?
Ви, мабуть, нещодавно чули, як політики та ЗМІ говорять про «розділ 230», і багато хто закликає Конгрес скасувати закон.
Розділ 230 є частиною Закон про комунікаційну порядність, прийнятий у 1996 році. Думайте про це як про щит, який захищає платформи соціальних мереж від позовів за вміст, який публікують їхні користувачі. По суті, закон говорить, що такі платформи, як Instagram або TikTok, більше схожі на бібліотеки, ніж на видавців – вони не несуть юридичної відповідальності за те, що люди публікують на їхніх сайтах.
Коли писався закон, Інтернет був у зародковому стані. Мета полягала в тому, щоб допомогти онлайн-платформам розвиватися, не боячись отримати позов щоразу, коли користувач публікує щось проблемне. Однак такі критики, як колишній держсекретар США Гілларі Клінтон, стверджують це цей захист став проблемою у 2025 році, особливо коли йдеться про безпеку дітей.
чому Оскільки платформи можуть стверджувати, що вони не несуть юридичної відповідальності, навіть якщо шкідливий вміст, орієнтований на дітей, поширюється на їхніх годинниках.
- Якщо хтось розміщує небезпечний вміст, який шкодить дитині, платформу важко притягнути до юридичної відповідальності
- Платформи можуть вибирати, скільки або як мало модерувати вміст
- Немає законодавчої вимоги до платформ проактивно захищати молодих користувачів
Це означає, що більшість платформ ховаються за розділом 230, а не інвестують у надійні заходи безпеки. Як показує перехід Meta від перевірки фактів до «приміток спільноти», платформи часто вибирають меншу модерацію, коли вони не зобов’язані робити більше.
Де поміркованості не вистачає: реальні небезпеки прослизають
Системи модерації вмісту часто мають проблеми з кількома ключовими напрямками, які безпосередньо впливають на безпеку дітей. Системи повинні збалансувати потребу захисту молодих користувачів від шкідливого контенту, а також забезпечувати свободу слова.
Зрештою, вільне вираження думок сприяє відкритому діалогу та дозволяє людям ділитися своїми думками без зайвих обмежень. Однак ефективне керування вмістом у різноманітному онлайн-середовищі представляє значні проблеми.
Існує також проблема надмірної цензури. Намагаючись керувати шкідливим вмістом, системи модерації іноді цензурують занадто багато нешкідливого вмісту. Ця надмірна цензура розчаровує користувачів і перешкоджає наміру дозволити вільне самовираження.
Отже, що насправді прослизає крізь щілини?
Небезпечні «виклики» та тенденції
Хоча платформи можуть легко виявляти та блокувати відомий шкідливий вміст, нові небезпечні тенденції можуть швидко поширюватися, перш ніж їх виявлять. Трагічний випадок Метью Майнора показує, як швидко ці виклики можуть стати вірусними.
Платформи часто наздоганяють, впроваджуючи блокування лише після того, як вже сталася шкода, що дозволяє поширювати всі види небезпеки:
- «Задушливі виклики», які поширилися по TikTok
- Небезпечні трюки рекламують як “нешкідливу розвагу”
- Вірусні тренди, що заохочують до ризикованої поведінки
- Виклики, які здаються невинними, але мають приховану небезпеку
Кіберзалякування та переслідування
На відміну від відвертого вмісту, знущання може бути непомітним і залежати від контексту. Автоматизовані системи модерації вмісту соціальних мереж обмежені програмуванням і часто пропускають:
- Внутрішні жарти, які використовуються як зброя
- Непрямі погрози або залякування
- Скоординовані кампанії переслідування
- Зловживання приватними повідомленнями
- «Нагромадження», коли кілька користувачів націлені на одну людину
- Знімки екрана поділилися поза контекстом
- Підроблені облікові записи, створені для переслідування конкретних осіб
Контент про вплив на психічне здоров’я
Останні дослідження показують, що прогалини в тому, як платформи обробляють контент, можуть вплинути на психічний стан підлітків. Будь-який вміст може вплинути на психічне здоров’я, від кіберзалякування до публікацій про самоушкодження чи розлади харчування.
Незважаючи на те, що на деяких платформах діють політики щодо такого типу вмісту, вони можуть не застосовуватися чи контролюватися ефективно. Вміст може включати:
- Пости, що рекламують нереалістичні стандарти тіла
- Контент, що прославляє розлади харчової поведінки
- Матеріал, що заохочує до самоушкодження
- Соціальна динаміка «Порівняй і зневірися».
- Дописи, які нормалізують стан тривоги та депресії, не пропонуючи підтримки
- Вміст, який пропагує ізоляцію або нездорові механізми подолання
- Спільноти «Pro-ana» або «pro-mia», які можуть уникнути виявлення за допомогою кодових слів
Проблема алгоритму
Можливо, найбільше викликає занепокоєння те, як працюють системи рекомендацій. Навіть за наявності модерації вмісту алгоритми платформи можуть підштовхувати підлітків до все більш екстремального контенту та створювати «кролячі нори» шкідливого матеріалу.
Це може служити для посилення вмісту, який викликає тривогу або депресію, особливо оскільки платформи працюють над пріоритетом залучення, а не психічного благополуччя. Це, у свою чергу, означає, що вразливі користувачі з потенційно шкідливою рекламою та деякими платформами можуть рекомендувати вміст зовсім не в той час (наприклад, пізно ввечері, коли підлітки найбільш вразливі).
Вжиття заходів: рішення для батьків у 2025 році
Вбудовані елементи керування платформи для захисту дітей і підлітків
Чи знаєте ви, що зараз кожна велика платформа працює над покращенням батьківського контролю? TikTok, наприклад, обмежує певних користувачів молодше 18 до 60 хвилин щоденного часу перед екраном. Instagram надає інструменти для моніторингу витраченого часу та обмеження прямих повідомлень.
Але тут є заковика: лише близько 2% підліткових облікових записів насправді пов’язані з функціями батьківського нагляду, що робить вашу участь ще важливішою. Знайдіть хвилинку сьогодні, щоб налаштувати їх; вони є вашою основою для безпечнішого використання соціальних мереж.
Відкрите спілкування: за межами битви за екранний час
Замість того, щоб зосереджуватися лише на обмеженнях, створіть середовище, де ваші діти почуватимуться комфортно, обговорюючи свій досвід в Інтернеті. Ставте такі запитання:
- Що сьогодні в тренді в соціальних мережах?
- Ви бачили щось таке, що викликало у вас дискомфорт?
- Чи знаєте ви, що робити, якщо когось знущаються в Інтернеті?
- Яким обліковим записам або авторам контенту ви найбільше довіряєте?
Навчання цифровій грамотності: бути першою лінією захисту вашої дитини
Виявлення шкідливого вмісту
Діти повинні розробити «систему раннього попередження», щоб допомогти модерувати вміст і ідентифікувати потенційно небезпечний матеріал. Навчіть їх робити паузу перед тим, як розпочати вірусні виклики чи популярний контент.
Покажіть їм, як задавати критичні запитання:
- Хто це опублікував?
- Яка їхня мотивація?
- Чи може це бути небезпечним?
Це навмисне залучення насправді працює. Останні дослідження показують що діти, у яких розвивається таке ставливе мислення, менш схильні до ризикованої поведінки в Інтернеті.
Розуміння цифрових маніпуляцій
Допоможіть своїм дітям розпізнати поширені тактики маніпулювання в Інтернеті. Розуміння того, як контент можна створити для залучення, допомагає їм зберігати здоровішу перспективу: від заголовків-приманок до відфільтрованих фотографій.
Розкажіть їм про FOMO (Fear of Missing Out) і про те, як його часто використовують, щоб заставити їх прокручувати, а також про те, як платформи сприймають їх як можливість заробляти гроші.
Реальність проти соціальних мереж
Проводьте регулярні розмови про різницю між підібраним життям у соціальних мережах і реальністю.
Покажіть їм, як впливові особи та знаменитості часто представляють сильно відредаговані версії свого життя. Вони менш схильні робити нездорові порівняння, коли розуміють, що більшість контенту в соціальних мережах ретельно підготовлено.
Зробити усвідомлений вибір
Допоможіть своїм дітям бути свідомими споживачами соціальних мереж. Навчіть їх регулярно перевіряти свій канал: які облікові записи викликають у них задоволення? Які з них викликають у них відчуття тривоги чи неадекватності?
Допоможіть їм налагодити їхній досвід роботи в соціальних мережах, щоб підтримувати їхнє психічне благополуччя – і лідируйте у своїй взаємодії з технологіями.
«Повільний соціальний» рух: створення здорових кордонів
Існує новий рух серед сімей, які прагнуть створити здоровіші стосунки з технологіями та соціальними мережами: рух «Slow Social». Цей підхід заохочує людей встановлювати межі щодо використання технологій, зокрема обмежувати час перед екраном і робити перерви в соціальних мережах.
Безтехнічні зони
Визначте певні зони у вашому домі як місця, вільні від пристроїв. Обідній стіл і спальні — хороші місця для початку. Дослідження показують, що наявність цих чітких меж допомагає зменшити нав’язливу перевірку та покращує сімейне спілкування.
Харчування без пристрою
Зробіть час їжі святинею з соціальних мереж. Дослідження за дослідженням показує, що сім’ї, які їдять разом без пристроїв, повідомляють про міцніші стосунки та краще спілкування. Крім того, це дає кожному шанс попрактикуватися в повній присутності один з одним.
Сімейна зарядна станція
Хочете допомогти зменшити ризик соціальних мереж і технологій? Створіть центральну зарядну станцію за межами спалень кожного.
Ця проста зміна може значно покращити якість сну, усунувши спокусу прокручувати пізню ніч. Подумайте про те, щоб зробити сімейним ритуалом «кладати пристрої спати» щовечора у визначений час.
Запланований соціальний час
Попрацюйте зі своїми дітьми, щоб визначити конкретні години для використання соціальних мереж. Замість того, щоб постійно перевіряти, заохочуйте їх розподіляти час у соціальних мережах на певні періоди. Ця процедура може допомогти їм виробити здоровіші моделі користування та краще зосередитися під час інших видів діяльності.
Протокол цифрового заходу
Реалізувати a «цифровий захід». де екрани вимикаються за 1-2 години до сну. Дослідження показують, що це не тільки покращує якість сну, але й допомагає зменшити тривогу та FOMO. Використовуйте цей час для сімейних заходів, читання або відпочинку.
Підсумок: поміркованості недостатньо, але ви можете допомогти
Хоча платформи соціальних медіа продовжують боротися з проблемами модерації вмісту, реальність очевидна: ми не можемо покладатися лише на технологічні компанії, щоб забезпечити безпеку наших дітей в Інтернеті.
Трагічні випадки, які ми бачили в останні роки, показують, що участь батьків у поєднанні з правильними інструментами та стратегіями залишається вирішальною для захисту наших дітей у цифрову епоху.
Як провідне рішення для батьківського контролю, Kidslox допомагає подолати розрив між модерацією платформи та батьківським наглядом. Завдяки таким функціям, як міжплатформний моніторинг, настроювані часові обмеження та миттєві сповіщення про активність, Kidslox надає батькам інструменти, необхідні для створення безпечнішого цифрового середовища для своїх дітей.
Ми знаємо, що кожна сім’я різна. Замість універсального підходу Kidslox пропонує гнучкі засоби керування, які розвиваються разом з вашою дитиною, допомагаючи вам орієнтуватися в складнощах онлайн-безпеки в будь-якому віці та на будь-якому етапі. У світі, де модерація платформи все ще недостатня, Kidslox є вашим партнером у цифровому вихованні дітей.
Будьте в курсі подій, будьте залучені та, що найважливіше, продовжуйте спілкуватися зі своїми дітьми. Безпека кожного в Інтернеті починається з того, що кожен із нас займає позицію.
Хочете дізнатися більше про небезпеки соціальних мереж і про те, як ви можете створити здоровіше цифрове середовище для вашої родини? Перегляньте наші останні ресурси та посібники – і подивіться, як батьківський контроль може значно допомогти захистити вашу родину від онлайн-ризиків.
