Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, OpenAI, Кібербезпека
OpenAIповідомилапро виявлення іранських та російських масштабних операцій впливу, у яких штучний інтелект ChatGPT застосовувався для створення фейкових журналістських персон, поширення матеріалів пропагандистського характеру та інших зловмисних дій.
За даними звіту, іранська кампанія отримала назву Bogus Bylines. У її межах було опубліковано або передруковано майже 100 статей у близько десяти виданнях по всьому світу. Основна тематика цих матеріалів стосувалася конфлікту між США та Іраном.
Особливістю операції стало використання ChatGPT не лише для написання текстів, а й для адаптації їх під вимоги конкретних редакцій. Виконавці просили систему перевіряти англомовні чернетки відповідно до стандартів подання матеріалів у різних виданнях та пропонувати правки. Після цього ChatGPT формував електронні листи для редакторів, що значно спрощувало процес масового надсилання статей.
Для створення видимості достовірності було створено сім вигаданих журналістських осіб. Деякі з них мали профілі у соціальних мережах, а одному з таких авторів ChatGPT також написав біографію. Це дозволяло матеріалам виглядати як звичайні авторські публікації, що підвищувало довіру редакцій.
Кампанія діяла через канали, якими редакції зазвичай отримують матеріали від позаштатних авторів. Так, The Washington Postповідомило, що одна зі статей потрапила до газети Port St. Joe Star через організацію PeaceVoice, з якою видання співпрацювало тривалий час. Через цю довіру редактор не перевірив особу автора та походження тексту. Згодом деякі публікації були видалені, а PeaceVoice посилила політику щодо використання ШІ.
OpenAI заблокувала акаунти, які брали участь у операції Bogus Bylines та передала інформацію про них відповідним органам.
Паралельно OpenAI припинила діяльність пов’язаної з Росією кампанії Dark Clark, яка працювала в Латинській Америці. Група створила фіктивну організацію під назвою “Центр соціальних досліджень” та за допомогою ChatGPT керувала завданнями, залучаючи місцевих працівників, які не підозрювали про роботу на іноземних кураторів. Ця мережа поширювала сфабриковані аудіозаписи та вигадані історії в Болівії та Еквадорі, що потім змусило місцевих урядовців виходити з офіційними спростуваннями.
OpenAI оцінила обидві операції як надзвичайно успішні порівняно зі звичайними спам-кампаніями. У компанії наголошують, що для редакцій головним висновком має стати необхідність ретельніше перевіряти не лише зміст матеріалів, які надходять, а й особу авторів та джерел, що їх надсилають.
