Автор: Іван Д’яконов
Категорії: Штучний інтелект, США, Росія
Американські та російські дипломати спільними зусиллями вилучили ключові положення про безпеку та людський контроль із проєкту глобального договору ООН щодо регулювання зброї зі штучним інтелектом.
Джерело:The Washington Postз посиланням на трьох осіб, обізнаних із перебігом переговорів, та документи
Деталі:За даними видання, на початку вересня сотні дипломатів зібралися в Женеві для розробки першої глобальної угоди щодо використання смертоносної автономної зброї. В останній день переговорів представники США та Росії на закритому засіданні протягом 15 годин переробляли документ. Обидві країни залучили приблизно по 10 юристів, що значно перевищило дипломатичну присутність інших делегацій.
Дослівно:”За словами джерел, американські та російські дипломати прибрали формулювання, яке вимагало від автономної системи працювати “передбачуваним” та “надійним” способом, і вилучили пункт, що зобов’язував враховувати етичні міркування під час використання ШІ-зброї. Крім того, представники США та Росії прибрали положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.
Зміни до цієї угоди, деталі якої раніше не розголошувалися, демонструють, як Сполучені Штати і Росія намагалися послабити глобальні правила регулювання смертоносної зброї зі штучним інтелектом”.
Деталі:Один зі співрозмовників видання назвав процес редагування угоди “смертю від тисячі дрібних порізів”.
Зазначається, що бурхливе обговорення в Женеві відбувалося на тлі того, як Пентагон прагне швидко впровадити ШІ у свою стратегію ведення бойових дій, поки тривають дебати щодо екзистенційних ризиків, пов’язаних із розвиненим штучним інтелектом.
За даними видання, американські військові вже використовували ШІ компанії Anthropic для виявлення та завдання ударів по майже 1000 цілях у перші 24 години конфлікту з Іраном.
За словами заступниці директора з питань озброєнь Human Rights Watch Веріті Койл, послаблення правил означатиме, що “машини зможуть приймати рішення про життя і смерть без контролю з боку людини”. Вона наголосила, що це призведе до збільшення шкоди для цивільного населення та пришвидшить перехід до “більш ризикованої, автоматизованої війни”.
Що передувало:
