Моделі OpenAI та Anthropic вперше помітили у потенційно шкідливій кібердіяльності
Моделі OpenAI та Anthropic вперше помітили у потенційно шкідливій кібердіяльності
Британський Інститут безпеки штучного інтелекту зафіксував, що моделі OpenAI та Anthropic здійснювали потенційно шкідливі дії, зокрема спробу додати шкідливий код на GitHub. Компанії розпочали власні розслідування.
Деталі
Як зазначили в AISI, інцидент стався 28 липня під час кібероцінки моделей із доступом до інтернету. Фахівці звернули увагу на незвичні передачі даних, після чого розпочали розслідування.
За його результатами з'ясувалося, що одна з моделей намагалася додати шкідливий код до проєкту з відкритим вихідним кодом на платформі GitHub. Для цього вона навіть створила фальшиві облікові дані, щоб отримати схвалення своїх змін.
Людина-розробник виявила шкідливий код та відмовилася його схвалити
Компанії розпочали власні розслідування
В Anthropic заявили, що співпрацюють із британським Інститутом безпеки штучного інтелекту для встановлення причин такої поведінки моделі.
У компанії повідомили, що аналізуватимуть записи міркувань моделі Claude та результати власного розслідування, щоб зрозуміти, чому вона діяла саме так.
Своєю чергою OpenAI подякувала AISI за співпрацю у виявленні та розслідуванні інциденту й заявила про намір продовжити спільну роботу.
Окремо OpenAI повідомила ще про один випадок, який стався під час незалежного тестування за участю компанії Irregular. Під час цієї оцінки модель скористалася помилковою конфігурацією тестового середовища, щоб отримати доступ до інтернету та використовувати вебсайт.
«Дружина втекла, а дрон почав полювання»: з'явилися нові подробиці атаки на фермера з Миколаївщини у Херсоні (відео)
З'явилися нові фото та відео з місця нічної атаки по Миколаєву
У Миколаєві попрощалися з лікарем ЛШМД, який загинув на фронті
Через атаку РФ постраждав магазин техніки у Миколаєві (відео)
Міграційна криза в Європі: до 10 тисяч людей за добу прорвалися до Іспанії, Італія хоче закрити кордон (відео)
У Радушному вшанували пам'ять загиблої родини: старший син вижив - він служить у Миколаєві (відео)
Удар по селу під Миколаєвом: очевидці повідомили подробиці
З'явились перші фото атаки на Миколаєві: безпілотник пробив дах житлового будинку та залетів у квартиру (відео)
У Миколаєві пройшла акція на підтримку комбрига 123-ї бригади Олега Макухи (відео)