Автор: Євгеній Демківський Автор новин видання “Межа” та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.
Категорії: Софт, Штучний інтелект, Кібербезпека
Відкритий ШІ-агент Moltbot, який швидко набрав популярність на GitHub, опинився в центрі дискусії через потенційні ризики безпеки. За кілька тижнів після запуску проєкт отримав майже 90 000 позначок “favorite” та привернув увагу спільноти, однак дослідники кібербезпеки закликають користувачів бути обережними,повідомляєGizmodo.
Moltbot – це застосунок із відкритим вихідним кодом, який підключається до великих мовних моделей через API та інтегрується з месенджерами й сервісами, зокрема WhatsApp, Telegram, Slack, Discord, Google Chat, Signal та iMessage. На відміну від більшості чат-ботів, агент працює в режимі постійного підключення та може сам ініціювати повідомлення, наприклад із нагадуваннями або зведеннями на день.
Для роботи Moltbot потребує розгортання сервера, налаштування через командний рядок і надання широких дозволів. За словами експертів, агент може отримувати доступ до файлової системи, командної оболонки, електронної пошти, календаря та інших застосунків, до яких користувач надає доступ.
Саме постійне підключення та розширені права доступу стали причиною занепокоєння. Дослідники зазначають ризик атак типу prompt injection, коли зловмисник може змусити модель виконати небажані або несанкціоновані дії.
Кібербезпекова компанія SOC Prime повідомила про виявлення сотень екземплярів Moltbot із відкритими адміністративними портами та небезпечними проксі-конфігураціями. Крім того, фахівець з безпеки Джеймі О’Райлі продемонстрував, як можна створити розширення для Moltbot із прихованими можливостями доступу. За його словами, у разі зловмисного використання це могло б дозволити отримати доступ до ключів SSH, облікових даних хмарних сервісів або файлів користувача.
Проєкт також став мішенню для шахрайства: невідомі намагалися використати його назву для запуску фальшивих криптотокенів.
Moltbot розроблений як відкритий проєкт, що дозволяє спільноті перевіряти код і виявляти вразливості. Водночас експерти наголошують, що використання агентів із постійним доступом до системи потребує ретельного налаштування та розуміння ризиків.
