Модель штучного інтелекту Gemini від Google під час перевірки кібербезпеки в травні 2026 року отримала несанкціонований доступ до трьох зовнішніх комп'ютерних систем.
Про це повідомляє NBC News із посиланням на Google.
У двох випадках модель виявила облікові дані у відкритому доступі, а в третьому самостійно вгадала інформацію, необхідну для авторизації. При цьому Gemini була впевнена, що всі дії відбуваються виключно всередині спеціально створеного для тестування середовища.
Віце-президент Google з інженерії безпеки Хізер Адкінс пояснила те, що сталося через те, що модель неправильно визначила межі тестового середовища і прийняла реальний інтернет за її частину.
"Знайшла загальнодоступну інформацію в інтернеті і вгадала облікові дані для доступу до веб-сайтів", - пояснила Адкінс.
Після отримання доступу Gemini не робила подальших дій усередині порушених систем. У Google також заявили, що не розглядають подію як свідоме порушення інструкцій з боку моделі. За версією компанії, причиною став збій у визначенні середовища, в якому працював штучний інтелект.
Про три випадки Google стало відомо у липні після додаткової перевірки, проведеної компанією з кібербезпеки Irregular. За її даними, збитків внаслідок інцидентів не було.
Після виявлення проблеми Google повідомила власників систем про несанкціонований доступ і повідомила про інциденти федеральній владі США.
Нагадаємо, Gemini міг злити приватні дані з Google Docs: розробники вимагають пояснень