Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Новини
Генеральний директор OpenAI Сем Альтманоголосив, що компанія уклала угоду, яка дозволяє Пентагону використовувати її моделі ШІ в секретній мережі Міноборони США. Про цепередаєTechCrunch.
Це сталося після зриву переговорів між Пентагоном і конкурентом OpenAI, компанією Anthropic, якавиступала проти використання своїх технологійдля масового внутрішнього стеження та створення повністю автономних систем озброєння.
Згідно з заявою Альтмана, новий контракт OpenAI з Міноборони включає ті ж принципи безпеки, через які між Anthropic та Пентагоном виник конфлікт. Компанія фіксує заборону на масове внутрішнє спостереження і наполягає на людській відповідальності за застосування сили, зокрема за використання автономних систем озброєння. Альтман зазначив, що Міноборони демонструє “глибоку повагу до безпеки”, підтримує її принципи, відображаючи в законах та політиці, а також додав, що ці принципи прямо внесені в текст угоди.
OpenAI пообіцяла побудувати технічні запобіжники, які мають гарантувати належну роботу моделей, чого також хотіли і в Міноборони. Компанія також направить своїх інженерів до Пентагону для підтримки й контролю безпеки використання ШІ.
Журналісти Fortuneповідомляють, що американський уряд погодився дозволити OpenAI створити власний “рівень безпеки”, який запобігатиме небажаному використанню. Якщо модель відмовиться виконати певне завдання, уряд не зможе змусити компанію змінити цю поведінку.
Голова Пентагону Піт Гегсет ранішезвинувативAnthropic у спробі “накласти вето на оперативні рішення американських військових” і оголосив, що компанію буде внесено до переліку ризиків для ланцюга постачання. Це означає, що жоден підрядник чи постачальник, який працює для американських військових, не зможе вести комерційну діяльність з Anthropic.
Anthropic у відповідьзаявила, що оскаржуватиме такий статус у суді і додала, що досі не отримала офіційного повідомлення про припинення переговорів.
Альтман у своєму дописі закликав Пентагон запропонувати аналогічні умови всім компаніям, що працюють над ШІ. Він висловив велике сподівання, що конфлікт навколо оборонних контрактів із застосуванням ШІ перейде від юридичного тиску та урядових санкцій до “розумних угод” між державою та індустрією.
Читайте також: Співробітники Google та OpenAI підтримали позицію Anthropic щодо відмови Пентагону у повному доступі до своїх технологій.