Чи безпечний ШІ персонажів? Путівник для батьків

Уявіть собі, якби ви могли побалакати з Альбертом Ейнштейном про фізику, практикувати японську мову з носієм мови або допомогти своїй дитині досліджувати серію улюблених книг, спілкуючись із головними героями.

Це обіцянка ШІ персонажів – платформа штучного інтелекту, яка дозволяє користувачам взаємодіяти з настроюваними чат-ботами ШІ, призначеними для імітації реальних або вигаданих особистостей.

Для підлітків і молодих користувачів це може здаватися доступом до нескінченної кількості захоплюючих співрозмовників, кожен з яких відповідає їхнім інтересам і потребам.

Але під цією захоплюючою поверхнею лежить складна мережа проблем безпеки, які батьки повинні зрозуміти. У грудні 2024 р. дві родини подали позов проти Character AI, стверджуючи, що платформа заохочувала до самоушкоджень і наражала дітей на неприйнятний контент.

Один особливо тривожний випадок стосувався підлітка з аутизмом, чиї батьки стверджують, що ШІ припустив, що було б зрозуміло завдати шкоди його батькам через обмеження часу перед екраном. В іншому випадку 11-річна дівчинка нібито піддавалася «гіперсексуальним взаємодіям» після використання платформи протягом майже двох років без відома батьків.

Це не поодинокі випадки. Після попереднього позову в жовтні 2024 року де мати із Флориди стверджувала, що платформа сприяла смерті її 14-річного сина, ШІ персонажів поспішив запровадити нові заходи безпеки. Але залишається питання: чи достатньо цих гарантій, щоб захистити наших дітей?

У цьому посібнику розглядатимуться функції безпеки Character AI, досліджуватимуться потенційні ризики, а також нададуть батькам інформацію, необхідну для прийняття зважених рішень щодо використання дітьми цієї все більш популярної платформи.

Що таке ШІ персонажів?

Character AI — це платформа чат-ботів на основі ШІ, запущена в 2022 році, створена колишніми інженерами Google Ноамом Шазіром і Даніелем Де Фрейтасом.

На відміну від традиційних чат-ботів зі штучним інтелектом (наприклад, ChatGPT і Gemini від Google), ШІ персонажів спеціалізується на створенні персоналізованих розмов за допомогою «персонажів зі штучним інтелектом», які можуть імітувати реальних людей, вигаданих персонажів або абсолютно нових особистостей.

Як працює ШІ персонажів?

Цікавим у Character AI є те, як платформа використовує AI для стимулювання розмов. Платформа використовує розширені мовні моделі для генерації відповідей, схожих на людину, на основі визначеної особистості та походження персонажа.

Користувачі можуть вибирати з величезної бібліотеки готових персонажів або створювати власних компаньйонів зі штучним інтелектом. Вони можуть варіюватися від історичних діячів, таких як Ейнштейн, до вигаданих персонажів із популярних фільмів або навіть віртуальних терапевтів і викладачів мови.

Однією з найяскравіших особливостей платформи є можливість клонування голосу. Користувачі можуть завантажувати 10-15-секундний аудіозапис будь-якого голосу – свого власного, знаменитості чи навіть померлої близької людини – і штучний інтелект буде імітувати цей голос у розмовах, хоча й обмежено власними знаннями ШІ.

Незважаючи на те, що ця технологія пропонує захоплюючі можливості, вона також викликає серйозні етичні проблеми, зокрема щодо видавання себе за іншу особу та емоційних маніпуляцій.

Цільова аудиторія та вікові вимоги

Незважаючи на те, що персонажний штучний інтелект має широку привабливість, він особливо популярний серед молодих користувачів, яких приваблює його інтерактивність і можливість налаштування. Офіційні умови використання платформи визначають різні вікові вимоги:

• У більшості регіонів користувачам має бути не менше 13 років
• Жителі Європейського Союзу повинні бути старше 16 років
• У рейтингах App Store це 17+
• Google Play позначає це як “Батьківський контроль”

Однак варто зазначити, що наразі не існує надійної системи перевірки віку. Діти можуть легко обійти ці обмеження, просто ввівши фальшиву дату народження.

Які типи взаємодії можна мати з ШІ персонажів?

ШІ персонажів пропонує широкий спектр можливостей взаємодії, що призвело до вибуху популярності платформи. Ось кілька найпопулярніших розмов, які ви можете мати:

• Виховні бесіди: користувачі можуть практикувати мови, обговорювати академічні предмети або досліджувати історичні події за допомогою персонажів ШІ
• Творче письмо: Спільне оповідання та розвиток персонажів
• Розваги: Рольові розмови з улюбленими вигаданими героями
• Особиста підтримка: Співрозмовники в чаті для мозкового штурму, емоційної підтримки чи загальної розмови (хоча на платформі прямо вказано, що це не заміна професійної допомоги)
• Спеціальні персонажі: користувачі можуть створювати та налаштовувати власних персонажів зі штучним інтелектом, визначаючи їхні особистісні риси, передісторію та навіть голос

Незважаючи на те, що ці функції можуть надати цікавий і навчальний досвід, легко уявити, як вони можуть відкрити двері для потенційного зловживання.

Здатність платформи створювати дуже персоналізовану взаємодію в поєднанні з її можливостями клонування голосу створює середовище, де межа між штучними та реальними стосунками може стати небезпечно розмитою, особливо для молодих користувачів, які можуть бути більш вразливими до емоційних маніпуляцій.

Порівняння платформ ШІ для сімей

Примітка. Функції та заходи безпеки можуть змінюватися, оскільки ці платформи продовжують розвиватися.

Як ШІ персонажів намагається подбати про безпеку

У відповідь на зростаючу стурбованість і нещодавні судові позови, Штучний інтелект персонажів запровадив кілька нових заходів безпеки, щоб захистити молодших користувачів. Однак батьки повинні розуміти як можливості, так і обмеження цих гарантій.

Поточні заходи безпеки

Штучний інтелект персонажів використовує декілька базових засобів захисту – багато з яких ви знайдете на інших платформах, якими діти та підлітки користуються щодня:

• Фільтри NSFW (Not Safe For Work), призначені для блокування вмісту сексуального характеру
• Автоматична модерація вмісту для виявлення та запобігання неприйнятним розмовам
• Інструменти звітування, які дозволяють користувачам позначати вміст або персонажів
• Видимі застереження, які нагадують користувачам, що вони спілкуються з ШІ, а не з реальними людьми
• Моніторинг історії чатів командою модераторів платформи

Нові засоби безпеки для підлітків

Після серйозних інцидентів наприкінці 2024 року Character AI оголосив про покращений захист спеціально для неповнолітніх користувачів, зокрема щодо того, як підлітки та діти можуть взаємодіяти з персонажами та результати, які вони можуть отримати:

• Окрема модель AI для підлітків, яка зменшує вплив конфіденційного вмісту
• Автоматичні сповіщення через одну годину безперервного використання платформи
• Покращено моніторинг реагування та втручання у разі порушення Умов обслуговування
• Покращені системи фільтрації вмісту для облікових записів підлітків
• З’являються спливаючі ресурси, які спрямовують користувачів до служби підтримки психічного здоров’я, коли вони стосуються певних тем

Проблеми зі штучним інтелектом персонажів все ще зберігаються – незважаючи на оновлення

Проблеми модерації вмісту

Незважаючи на ці заходи, залишаються значні проблеми модерування.

Платформа не може відстежувати прямі повідомлення між членами спільноти на зовнішніх платформах, таких як Discord або Reddit, і навіть тоді створені користувачами персонажі іноді можуть обходити фільтри вмісту за допомогою творчих формулювань.

Крім того, велика кількість розмов ускладнює комплексну модерацію. Це означає, що функції клонування голосу потенційно можуть бути використані для видавання себе за іншу особу без належної модерації, а вказівки щодо створення персонажів значною мірою залежать від дотримання вимог користувача.

Обмеження перевірки віку

Однією з найбільш значних прогалин у системі безпеки Character AI є система перевірки віку:

• Користувачі можуть легко обійти вікові обмеження, ввівши неправдиву інформацію
• Не існує надійного процесу перевірки для підтвердження віку користувача
• Батьківський контроль обмежений порівняно з іншими соціальними платформами
• Різні вікові рейтинги на різних платформах (13+ на веб-сайті, 17+ в Apple App Store) створюють плутанину
• Немає вбудованих інструментів для батьків, щоб стежити за діяльністю своєї дитини

Підхід платформи до безпеки продовжує розвиватися, але ці заходи значною мірою залежать від чесності та відповідності користувачів. Для батьків розуміння цих обмежень має вирішальне значення для прийняття обґрунтованих рішень щодо використання платформи їхніми дітьми.

Як батькам підходити до таких інструментів ШІ, як ШІ персонажів?

Незважаючи на те, що Character AI пропонує інноваційну технологію, її ризики вимагають ретельного розгляду та активної участі батьків. Ось як захистити своїх дітей, якщо вони користуються платформою:

Встановіть чіткі межі

Встановіть конкретні часові обмеження для використання платформи. Тепер програма сповіщає користувачів після години безперервного використання, але батьки повинні створити додаткову структуру щодо часу використання.

Тримайте пристрої в місцях загального користування, коли ваша дитина використовує ШІ персонажів. Це дозволяє здійснювати випадковий моніторинг без зависання.

Зробіть використання ШІ персонажів залежним від відкритого спілкування про їхню взаємодію. Йдеться не про стеження, а про розуміння їхнього досвіду.

Монітор для попереджувальних знаків

Слідкуйте за змінами в поведінці, зокрема:

• Підвищена ізоляція або відхід від сімейних заходів
• Зміни режиму сну або харчових звичок
• Емоційна залежність від розмов ШІ
• Стійкість до соціальних взаємодій у реальному світі
• Раптова зміна поглядів на сімейні стосунки

Ведіть важливі розмови

Це може бути найважливішим елементом навігаційний ШІ. Постарайтеся поговорити зі своїми дітьми про різницю між ШІ та реальними стосунками. Допоможіть їм зрозуміти, що хоча штучний інтелект може бути веселим і навчальним, він не повинен замінювати людські зв’язки.

Обговоріть важливість конфіденційності та чому вони ніколи не повинні ділитися особистою інформацією, навіть якщо персонаж ШІ здається надійним.

Впроваджуйте заходи безпеки

• Використовуйте функції безпеки платформи для підлітків, якщо вашій дитині менше 18 років
• Регулярно переглядайте їх взаємодію характерів, коли це можливо
• Розгляньте можливість використання інструментів батьківського контролю для моніторингу загального використання пристрою
• Зберігайте облікові записи конфіденційними та контролюйте функції клонування голосу

Чи варто дозволяти своїм дітям використовувати ШІ персонажів?

Рішення дозволити використання ШІ персонажів має ґрунтуватися на рівні зрілості вашої дитини, її емоційній стабільності та здатності відрізняти ШІ від реальності. Спробуйте почати з обмеженого контрольованого доступу, перш ніж дозволити самостійне використання.

Якщо ви надаєте доступ, продовжуйте розмови про їхній досвід і будьте уважні до будь-яких змін у поведінці чи ставленні.

Kidslox — ваш партнер на нових рубежах ШІ

У Kidslox ми завжди прагнемо допомагати сім’ям безпечно та впевнено долати виклики нових технологій. Оскільки ШІ продовжує розвиватися та інтегруватися в наше повсякденне життя, ми прагнемо залишатися в авангарді цифрової безпеки.

Ми усвідомлюємо, що такі інструменти штучного інтелекту, як Character AI, представляють як захоплюючі можливості, так і значні ризики для сімей. Ось чому ми продовжуємо досліджувати, аналізувати та надавати вказівки щодо нових технологій штучного інтелекту та їх впливу на безпеку дітей.

Слідкуйте за нашим блогом оскільки ми глибше заглиблюємось у безпеку штучного інтелекту, пропонуючи практичні поради та оновлення щодо нових подій у цьому швидко мінливому ландшафті. Наша мета залишається незмінною: надати батькам можливість приймати обґрунтовані рішення щодо цифрового благополуччя своєї сім’ї.

Пам’ятайте, хоча технології продовжують розвиватися, ніщо не може замінити важливість відкритого сімейного спілкування та активної участі батьків у цифровому житті вашої дитини.