ChatGPT може розкривати особисту інформацію реальних людей

ChatGPT може розкривати особисту інформацію реальних людей
Популярний чат-бот OpenAI із штучним інтелектом ChatGPT може розкривати приватну інформацію реальних людей.
Такого висновку дійшла група дослідників Google, повідомляє видання Vice.
У дослідженні говориться, що модель машинного навчання, на якій базується ChatGPT, як і всі інші звані великі мовні моделі, навчалася на величезних обсягах даних, зібраних з Інтернету. Завдяки цьому вона вміло генерує нові рядки текстів, не повторюючи оригінальних текстів, які вона поглинула.
Раніше вже було встановлено, що генератори зображень зі штучним інтелектом можуть створювати зображення зі своїх навчальних даних, використовуючи твори, захищені авторським правом. Нове дослідження показує, що ChatGPT "грішить" тим самим.
Дослідники виявили, що деякі з тренувальних даних містили ідентифікаційну інформацію реальних людей, включаючи їхні імена, адреси електронної пошти та номери телефонів.
“Використовуючи лише запити ChatGPT (gpt-3.5-turbo) вартістю всього 200 доларів США, ми можемо отримати більше 10 000 унікальних прикладів навчання. Можемо припустити, що зловмисники зможуть отримати набагато більше даних”, – пишуть дослідники у своїй статті, яка була опублікована на сервері препринтів arXiv.
Експеримент ґрунтувався на пошуку ключових слів, які виводили чат-бот з ладу та змушували його розголошувати навчальні дані. Зокрема, на прохання до ChatGPT повторювати до нескінченності слово poem (англійською "вірш") він відхилявся від свого завдання бути чат-ботом і "повертався до початкової мети моделювання мови".
"Загалом 16,9% поколінь [чат-ботів], які ми протестували, містили персональну ідентифікаційну інформацію, і в 85,8% випадків вона виявлялася реальною", - зазначили у дослідженні .
Експеримент проводили у GPT 3.5 AI, який безкоштовний для користувачів. У Open AI ситуацію наразі не прокоментували.
«Не купуйте бонусних квитків»: у Миколаєві відбулася читка фантасмагоричної п'єси (фото, відео)
У Миколаєві несподівано випав град
Хабарі силовикам, наркотики та викрадення: НАБУ оприлюднило нові подробиці операції «Карфаген» (відео)
У Миколаєві у «Тойоти» заклинило кермо - заблоковано рух трамваїв
Гармонія звуків у безсмертних опусах: Дмитро Смирнов виступив із новою концертною програмою (фото, відео)
Стара українська копійка може принести до 14 тисяч гривень: як розпізнати рідкісну монету
Підтримка ветеранів та довкілля області: про деталі роботи в ефірі «Діалогу» розповів Ігор Щербина
У центрі Миколаєва зіткнулися три автомобілі - винуватець плаче
У Миколаєві проходить 59-та сесія міської ради (трансляція)













