Автор: Іван Д’яконов
Категорії: Штучний інтелект, США
Компанія Anthropic допомагає Агентству національної безпеки (АНБ) США впроваджувати свою передову модель штучного інтелекту Mythos для проведення наступальних кібероперацій, відправляючи своїх інженерів для роботи безпосередньо у відомстві.
Джерело:Financial Timesз посиланням на поінформовані джерела
Деталі:За словами двох співрозмовників видання, Anthropic направила до АНБ близько півдюжини інженерів передового розгортання (forward-deployed engineers). Вони мають навчити співробітників спецслужби користуватися технологією та налаштувати модель під конкретні завдання.
Наразі залишається незрозумілим, чи допомагають фахівці компанії в активних операціях. Проте джерела видання зазначають, що модель Mythos може бути корисною для проникнення в комп’ютерні мережі супротивників, зокрема Китаю чи Ірану.
“Найкращий спосіб створити надійний захист – це підготувати потужний напад”, – зазначило джерело, близьке до Anthropic, додавши, що супротивники, ймовірно, розробляють власні наступальні технології на базі ШІ.
“Якщо Mythos не використовуватиметься для створення атакуючих агентів, супротивники знайдуть спосіб це зробити”, – заявив він.
Така співпраця відбувається на тлі судового спору Anthropic з Міністерством оборони США щодо того, як його технології використовуються у військових операціях. Компанія намагалася обмежити застосування своїх ШІ-моделей Claude для масового стеження за американськими громадянами та розробки смертоносних автономних дронів. Через це Пентагон визнав ШІ-лабораторію “ризиком для ланцюга постачання”. Anthropic оскаржила це рішення в суді, оскільки такий статус загрожує її чинним контрактам.
ЗгодомAnthropic представила модель Claude Mythos, яка здатна виявляти та використовувати вразливості у програмному забезпеченні.Цього тижня компанія оголосила, щонадасть доступ до цієї моделі150 організаціям у 15 країнах.
У вівторок президент ДональдТрамп підписав указ, який запроваджує добровільний механізм, за яким розробники ШІ можуть надавати нові моделі для перевірки безпеки перед публічним релізом. Указ також зобов’язує федеральні відомства розробити методи оцінки кіберможливостей ШІ-систем і створити “координаційний центр із кібербезпеки ШІ”.
