Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, Meta
Metaвпроваджуєнову функцію безпеки, яка дозволяє батькам отримувати сповіщення, якщо їхні діти-підлітки обговорюють із чатботом Meta AI теми, пов’язані із самогубством або самопошкодженням. Компанія також повідомила, що працює над можливістю автоматичного звернення до екстрених служб у випадках, коли розмова свідчить про реальний ризик для життя.
За словами Meta, для цього створено спеціальну систему штучного інтелекту, яка визначає випадки, коли підліток прямо згадує про намір завдати собі шкоди. Усі такі діалоги перед надсиланням сповіщення проходять ручну перевірку. Якщо наміри залишаються неоднозначними, компанія вирішила діяти обережно й повідомляти батьків навіть тоді, коли загроза може бути не підтвердженою.
Функція вже доступна для користувачівбатьківського нагляду в Instagramу США, Великій Британії, Австралії та Канаді. До кінця року Meta планує поширити її на інші країни.
Це оновлення доповнює вже існуючі сповіщення, які надходять батькам, якщо їхні діти неодноразово шукають у Instagram інформацію про самогубство чи самопошкодження. Крім того, батьки можуть переглядати теми, які їхні діти обговорювали з Meta AI протягом останнього тижня.
Компанія також розширила дію налаштування “Обмежений контент”, що дозволяє створювати більш контрольоване середовище для підлітків у Instagram. Тепер воно поширюється й на Meta AI. Чатбот уже був навчений уникати сексуальних чи романтичних тем, а також розмов про алкоголь із неповнолітніми. Нове налаштування розширює перелік заборонених тем, змушуючи систему відмовлятися від ширшого спектра небажаних запитів.
Окрім цього, Meta заявила, що готова звертатися до екстрених служб не лише у випадках із підлітками, а й тоді, коли дорослі користувачі демонструють ознаки ризику самогубства під час спілкування з чатботом. Такий підхід вже застосовується до публікацій у Facebook та Instagram, які можуть свідчити про небезпеку для життя, і тепер поширюється на діалоги з Meta AI.
Запроваджені зміни стали відповіддю на зростаючий тиск із боку регуляторів та батьків, які висловлюють занепокоєння тим, як технологічні компанії реагують на кризові ситуації серед підлітків. Нововведення має на меті посилити безпеку користувачів та надати батькам більше інструментів для контролю й підтримки дітей у складних обставинах.
