Автор: Влад Черевко Цікавлюся різного роду електронікою і технологіями з початку 2000-х. Регулярно стежу за технологічними новинами світу і сам пишу матеріали про це.
Категорії: Штучний інтелект, Кібербезпека, OpenAI Codex, Claude Code, Хакерські атаки
Дослідники з кібербезпеки OALABSповідомилипро випадок, коли недосвідчений кіберзлочинець зміг проникнути до систем 14 компаній та викрасти їхні конфіденційні дані, застосовуючи агентів Anthropic Claude Code та OpenAI Codex. Про цепишеTechRadar Pro зпосиланнямна Helpnet Security.
За словами OALABS, аналіз робочого каталогу зловмисника показав, що для зламу він в основному використовував лише відносно прості та нечіткі запити у Claude, тоді як основну роботу виконував сам агент. Штучний інтелект займався пошуком відкритих сервісів, виявленням вразливостей, написанням експлойтів, перевіркою доступу та збором інформації. Таким чином, навіть без глибоких технічних знань нападник отримав можливість організувати масштабні атаки.
У ході розслідування OALABS не знайшли доказів того, що викрадені дані були використані для отримання прибутку — їх не продавали в даркнеті та не застосовували для шантажу компаній. Водночас було встановлено особу та місцезнаходження хакера.
Зазначається, що зловмисник не запускав агентів на власній інфраструктурі, а використовував сторонній сервер. Коли власники цього сервера виявили підозрілу активність, вони завантажили весь робочий каталог хакера і передали його дослідникам. Завдяки цьому OALABS отримали доступ до повних логів сесій, включно із запитами, інструментами, внутрішніми процесами моделей та зафіксованими порушеннями політик.
Загалом було проаналізовано понад 1000 сесій, що показали, як легко зловмисник обходив більшість захисних механізмів агентів. За весь час Claude зафіксував лише дев’ять порушень політики безпеки, а Codex — одне, і в більшості випадків хакер обходив блоки моделей зміною формулювання запиту. Зокрема, він стверджував, що проводить авторизовані тести на проникнення або дослідження в сфері кібербезпеки. Ці формулювання, до слова, також застосовують і легальні фахівці галузі.
Серед сесій також виявили резюме нападника з повним ім’ям, історію його освіти та профіль у LinkedIn, а також його IP‑адресу, яка вказувала на перебування в Аддіс‑Абебі, Ефіопія.
Дослідники наголосили, що цей випадок свідчить про суттєве зниження бар’єру для входу у сферу кіберзлочинності завдяки генеративним моделям і що спільнота безпеки через це має активізуватися.
Експерти зазначають, що оскільки термінологію легітимних тестувальників та кіберзлочинців неможливо чітко розмежувати для алгоритмів ШІ, просте посилення відмов у моделях лише зашкодить фахівцям із захисту, тоді як зловмисники перейдуть на старіші або менш обмежені моделі.
