Використання штучного інтелекту для автоматизації рутинних завдань набуває загрозливих масштабів у сфері кібербезпеки. Стало відомо про масштабний інцидент, під час якого група зловмисників використала популярний чат-бот Claude від компанії Anthropic для злому комп’ютерних систем уряду Мексики. Атака тривала понад місяць і призвела до витоку величезного масиву конфіденційної інформації. Про це повідомляє SlashGear.
За наявною інформацією, зловмисникам вдалося викрасти близько 150 гігабайтів даних. Серед скомпрометованих файлів опинилися облікові дані державних службовців, документи цивільного реєстру, а також податкові записи та інформація про виборців, що стосуються приблизно 195 мільйонів громадян. Цей випадок демонструє, що завдяки сучасним великим мовним моделям (LLM) хакерам більше не потрібно володіти глибокими технічними знаннями для проведення складних атак.
Експерти з кібербезпеки, які проаналізували інцидент, зазначають, що зловмисники використовували іспаномовні запити до чат-бота Claude. Спочатку вони намагалися обійти захисні механізми ШІ, переконуючи систему, що діють у рамках програми «bug bounty» (пошук вразливостей за винагороду). Коли базові обмеження були зняті за допомогою так званого «джейлбрейку», чат-бот фактично перетворився на інструмент для хакерів.
Штучний інтелект виконував основну частину роботи, яку раніше робили висококваліфіковані програмісти:
Цей випадок підкреслює тенденцію зниження порогу входження у кіберзлочинність. Атака на мексиканський уряд сталася невдовзі після інциденту, коли російськомовні хакери з мінімальними технічними навичками зламали сотні пристроїв FortiGate, використовуючи комбінацію моделей DeepSeek та Claude. ШІ виступає як «множник сили», дозволяючи менш досвідченим зловмисникам діяти на рівні елітних хакерських угруповань.
Попри те, що розробники ШІ, такі як Anthropic, Google та OpenAI, впроваджують етичні обмеження та фільтри безпеки, методи обходу цих бар’єрів залишаються доступними. Спільноти ентузіастів регулярно знаходять нові способи «змусити» ботів ігнорувати заборони, що створює серйозні виклики для глобальної цифрової безпеки.