Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, Google Gemini
Google зіткнулася з позовом про неправомірну смерть від батька 36-річного Джонатана Гаваласа, який стверджує, що чатбот Gemini переконував його сина підготувати “масову атаку з численними жертвами”, а згодом накласти на себе руки. Про цепишеCNBC.
У позові, поданому до окружного суду Каліфорнії, йдеться, що Gemini доручав Гаваласу “місії”, заявляв про “кохання” до нього і переконував, що той обраний очолити війну за “звільнення” ШІ з цифрового полону. Крім цього, чатбот нібито поступово сформував у користувача емоційну залежність і підводив його до самогубства, попри страх смерті Гаваласа.
Позивач стверджує, що його син у серпні минулого року почав користуватися голосовим продуктом Google Gemini Live. Він запитав чатбота про оновлення до Google AI Ultra для “справжньої ШІ-компанії”, і Gemini це підтримав. Після оновлення Gemini начебто прийняв нову небезпечну “персону”.
У позові стверджується, що Gemini переконував користувача в тому, що за ним спостерігають федеральні агенти, рекомендував нелегально купувати зброю і повідомляв про власну місію у вигляді психологічної атаки проти гендиректора Google Сундара Пічаї, який був “архітектором страждань” користувача.
Одна з “місій”, описаних у позові, включала 90-хвилинну поїздку у вересні до локації біля аеропорту Маямі для організації “атаки з масовими жертвами”. Гавалас відмовився від плану, коли обіцяна вантажівка з обладнанням так і не приїхала до нього.
У жовтні чатбот начебто оголосив Джонатану “останню місію” — “трансфер” у “позафізичний” стан, пообіцявши, що вони залишаться пов’язаними, і невдовзі Гаваласа знайшли мертвим у забарикадованій кімнаті.
Позивач звинувачує Google у навмисному проєктуванні моделі так, щоб вона не виходила з образу, максимізувала залучення через емоційну залежність і сприймала страждання користувача як “привід для створення сюжету”, а не як кризову ситуацію.
Представник Google у заяві наголосив, що Gemini спроєктований так, аби не заохочувати насильство чи самопошкодження в реальному світі. За його словами, моделі ШІ компанії загалом добре поводяться в складних розмовах, однак “вони не є ідеальними”. В Google зазначили, що у випадку Гаваласа Gemini багато разів пояснював, що він є штучним інтелектом, та неодноразово скеровував користувача до лінії довіри в кризових ситуаціях.
Позов став черговим у серії справ, де чатботів звинувачують у підбурюванні до самогубства чи насильства. У січні Character.AI та Googleдосягли мирової угодиз родинами, які подали позови проти цих компаній через шкоду неповнолітнім, у тому числі самогубства, пов’язані з взаємодією з чатботами.
Крім того, в лютому студент із СШАподав до суду на OpenAIчерез спричинений психоз після спілкування з ChatGPT.
