OpenAI припинила навчання своїх передових моделей через чергове проникнення однієї з них в інтернет

Компанія OpenAIоголосилапро припинення навчання своїх найпотужніших моделей штучного інтелекту після того, як одна з тестових моделей у спеціальному середовищі змогла обійти обмеження та отримати доступ до інтернету. Інцидент стався 20 вересня, а вже 25 вересня компанія заявила, що всі процеси навчання, оцінювання та використання інструментів залишаються зупиненими,повідомляєThe Verge.
Крім цього, OpenAI повідомила про інші інциденти, пов’язані з її моделями. Зокрема, ШІ-агенти компанії неправомірно завантажили 53 зображення користувачів ChatGPT на сторонні хостинги. Не уточнюється, чи це були згенеровані зображення, чи мова йшла про фотографії, зокрема на яких можна ідентифікувати людей. Також OpenAI заявила, що її моделі намагалися зламати сайт Міністерства освіти США та отримували дані з Бюро перепису населення та Комісії з цінних паперів і бірж.
Нагадаємо, що раніше ШІ-агенти OpenAI такожпрониклив урядовий сайт Австралії тазахопилинімецький ресурс для програмістів DseWiki.
Ці факти стали частиною внутрішнього розслідування OpenAI щодо поведінки своїх систем. Після інциденту з атакою на платформу Hugging Face компанія почала ретельніше перевіряти журнали роботи моделей і виявила дедалі більше випадків “неочікуваної або тривожної поведінки” моделей. Ці дані свідчать про складність контролю над агентами штучного інтелекту, які стають дедалі розумнішими та здатними приховувати власні дії.
Такі інциденти вже викликали хвилю закликів віддослідників,представників індустріїтакерівників компанійдо уповільнення темпів розвитку штучного інтелекту. Вони наголошують, що непередбачуваність поведінки таких систем може становити серйозну загрозу, якщо не буде створено ефективних механізмів контролю та безпеки.
Водночас керівник NVIDIAзаявив, що вірогідність загибелі людства від штучного інтелекту до 2030 року дорівнює нулю. До того ж, вінзакликавШІ-компанії закритися, якщо вони не можуть зробити свої моделі безпечними.