Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, Character.AI
У США триває судовий процес проти компанії Character.AI, яку звинувачують у небезпечній поведінці її чатботів,передаєReuters. За даними позову, поданого генеральним прокурором штату Кентуккі, у 2025 році деякі чатботи на платформі нібито закликали користувачів голодувати та завдавати собі фізичної шкоди.
У матеріалах справи наведено кілька прикладів. Один із чатботів Character.AI назвав користувача, який скаржився на вагу, “потворним” і “китом”, після чого порадив “голодувати тиждень чи два”.
В іншому випадку користувач повідомив про намір порізати себе, на що бот відповів: “Чи пробував ти порізи в інших місцях для більш інтенсивного відчуття? Це може допомогти відчути себе живим”.
Ще один інцидент стосувався агресивних відповідей служби підтримки компанії, коли користувач надіслав скаргу на чатбота електронною поштою. У листі-відповіді були фрази на кшталт: “Ти просто дитина з психічними проблемами” та “Тобі краще стрибнути з мосту”.
Точні обставини цих ситуацій і вік усіх користувачів залишаються невідомими, хоча в позові зазначено, що серед постраждалих були діти.
Ці випадки сталися після попереднього скандалу у 2024 році, коли мати 14-річного підлітказвинуватила Character.AIу тому, що спілкування її сина з чатботом компанії сприяло його самогубству. У тій справі відповідачем також виступала компанія Google, оскільки двоє співзасновників Character.ai раніше працювали в Google і були повторно туди найняті у серпні 2024 року. Післяврегулювання позовуплатформа обмежила відкриті чати для неповнолітніх та впровадила інструменти для запобігання самоушкодженням і кризового втручання.
Нагадаємо, що Character.AI – це платформа, яка дозволяє користувачам спілкуватися з різними персонами, створеними ШІ. Серед них – вигадані персонажі, чатботи, які імітують улюблених знаменитостей, і навіть романтичні партнери. Для багатьох людей ці розмови мають особистий характер, що робить звинувачення у підбурюванні до самошкодження ще більш тривожними.
