ChatGPT може розкривати особисту інформацію реальних людей
![ChatGPT може розкривати особисту інформацію реальних людей ChatGPT може розкривати особисту інформацію реальних людей](http://img.novosti-n.org/upload/news/807458.jpg)
ChatGPT може розкривати особисту інформацію реальних людей
Популярний чат-бот OpenAI із штучним інтелектом ChatGPT може розкривати приватну інформацію реальних людей.
Такого висновку дійшла група дослідників Google, повідомляє видання Vice.
У дослідженні говориться, що модель машинного навчання, на якій базується ChatGPT, як і всі інші звані великі мовні моделі, навчалася на величезних обсягах даних, зібраних з Інтернету. Завдяки цьому вона вміло генерує нові рядки текстів, не повторюючи оригінальних текстів, які вона поглинула.
Раніше вже було встановлено, що генератори зображень зі штучним інтелектом можуть створювати зображення зі своїх навчальних даних, використовуючи твори, захищені авторським правом. Нове дослідження показує, що ChatGPT "грішить" тим самим.
Дослідники виявили, що деякі з тренувальних даних містили ідентифікаційну інформацію реальних людей, включаючи їхні імена, адреси електронної пошти та номери телефонів.
“Використовуючи лише запити ChatGPT (gpt-3.5-turbo) вартістю всього 200 доларів США, ми можемо отримати більше 10 000 унікальних прикладів навчання. Можемо припустити, що зловмисники зможуть отримати набагато більше даних”, – пишуть дослідники у своїй статті, яка була опублікована на сервері препринтів arXiv.
Експеримент ґрунтувався на пошуку ключових слів, які виводили чат-бот з ладу та змушували його розголошувати навчальні дані. Зокрема, на прохання до ChatGPT повторювати до нескінченності слово poem (англійською "вірш") він відхилявся від свого завдання бути чат-ботом і "повертався до початкової мети моделювання мови".
"Загалом 16,9% поколінь [чат-ботів], які ми протестували, містили персональну ідентифікаційну інформацію, і в 85,8% випадків вона виявлялася реальною", - зазначили у дослідженні .
Експеримент проводили у GPT 3.5 AI, який безкоштовний для користувачів. У Open AI ситуацію наразі не прокоментували.
![Проходить суд над підозрюваним у вбивстві Фаріон: трансляція](https://img.youtube.com/vi/Caj38f9U05Y/mqdefault.jpg?t=c7ed094)
![У Донецьку люди перекрили дорогу: вимагають дати воду](https://img.youtube.com/vi/VeGu3bZoOjg/mqdefault.jpg?t=c7ed094)
![Як спека та відключення світла завдають шкоди продуктам на ринках Миколаєва (відео)](https://img.youtube.com/vi/unJkoUnjMaA/mqdefault.jpg?t=c7ed094)
![У Миколаєві чоловік безпричинно бив жінок на вулицях (відео)](https://img.youtube.com/vi/Jbq3whZSOrA/mqdefault.jpg?t=c7ed094)
![Масштабна пожежа у Миколаєві: вранці на місці все ще працюють рятувальники](https://img.youtube.com/vi/CPPpuuHAPBA/mqdefault.jpg?t=c7ed094)
![Під Миколаєвом масштабна пожежа: величезний стовп диму піднімається на 100 метрів у повітря (відео)](https://img.youtube.com/vi/zxSNP4m2JPw/mqdefault.jpg?t=c7ed094)
![Nikodaycamp - літній табір для вашої дитини](https://img.youtube.com/vi/tfYCWBnlwIg/mqdefault.jpg?t=c7ed094)
![Миколаївські морпіхи показали, як під Харковом працюють їхні «Сови» (відео)](https://img.youtube.com/vi/mrStur6_tlk/mqdefault.jpg?t=c7ed094)
![Смертельна ДТП у Миколаївській області: 6-річного Ігната збили за 10 метрів від будинку](https://img.youtube.com/vi/OVtKMzvQuMg/mqdefault.jpg?t=c7ed094)