Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, OpenAI, ChatGPT
У США пастор судиться з компанією OpenAI, звинувативши її у наданні небезпечних медичних рекомендацій через ChatGPT, які призвели до затримки лікування ускладненої хвороби.
ЗаданимиThe New York Times, інцидент стався після того, як пастор Скотт Вінтерс із Флориди звернувся до ChatGPT зі скаргами на симптоми, які потім виявилися серйозною легеневою емболією. Програма нібито повідомила йому, що описані симптоми “не є чимось небезпечним”, а також використала релігійні переконання пастора, зазначивши, що “Бог не створив його тіло для нескінченних збоїв”.
Позов звинувачує OpenAI та її генерального директора Сема Альтмана у недбалості та “незаконній медичній практиці”. У документі наведено приклади, коли чатбот самостійно пропонував діагнози та плани лікування.
Вінтерс зазначив у позові, що ChatGPT радив йому ігнорувати заклики друзів і родини звернутися до лікарів. Він стверджує, що повідомляв чатботу про занепокоєння парафіян його церкви, які вважали “божевіллям” відмову від звернення до лікарів, однак програма начебто відповіла, що більшість людей, включно з благонаміреними вірянами, “просто не розуміють ситуації”.
Позивач вимагає компенсацію та закриттямедичної платформи ChatGPT Healthдо проведення незалежної оцінки її безпеки. Цей сервіс пропонує користувачам завантажувати медичні документи для аналізу ботом. Крім того, позов наполягає на посиленні обмежень, які мають забороняти ChatGPT відповідати на запитання щодо конкретних методів лікування та діагнозів.
OpenAI у відповідь заявила, що в умовах використання чітко зазначено: сервіс не призначений для медичної діагностики та лікування. Водночас компанія активно просуває ChatGPT Health, закликаючи користувачів завантажувати медичні записи для їх “обговорення” з ботом. За словами OpenAI, щотижня близько 230 мільйонів людей звертаються до платформи з питаннями, пов’язаними зі здоров’ям.
Вінтерс вижив після інциденту, але, як зазначається у позові, йому доведеться пройти “роки інтенсивного фізичного та психологічного відновлення”.
Окрім цього випадку, OpenAI стикається з іншими судовими позовами. Зокрема, у червні генпрокуратура Флоридиподала позов проти OpenAIчерез неправомірні інциденти, пов’язані з ChatGPT. У ньому згадуються масові стрілянини, самогубства, переслідування та інші інциденти, які, на думку прокуратури, можуть бути пов’язані з використанням ChatGPT.
