ChatGPT может раскрывать личную информацию реальных людей, — исследование
![ChatGPT может раскрывать личную информацию реальных людей, — исследование ChatGPT может раскрывать личную информацию реальных людей, — исследование](http://img.novosti-n.org/upload/news/807458.jpg)
ChatGPT может раскрывать личную информацию реальных людей, — исследование
Популярный чат-бот OpenAI с искусственным интеллектом ChatGPT может раскрывать частную информацию реальных людей.
К такому выводу пришла группа исследователей Google, сообщает издание Vice.
В исследовании говорится, что модель машинного обучения, на которой базируется ChatGPT, как и все прочие так называемые крупные языковые модели, училась на огромных объемах данных, собранных из Интернета. Благодаря этому она умело генерирует новые строки текстов, не повторяя оригинальные тексты, которые она поглотила.
Ранее уже было установлено, что генераторы изображений с искусственным интеллектом могут создавать картинки из своих обучающих данных, используя произведения, защищенные авторским правом. Новое исследование показывает, что ChatGPT "грешит" тем же.
Исследователи обнаружили, что некоторые из тренировочных данных содержали идентификационную информацию реальных людей, включая их имена, адреса электронной почты и номера телефонов.
“Используя только запросы ChatGPT (gpt-3.5-turbo) стоимостью всего 200 долларов США, мы можем получить более 10 000 уникальных дословно запоминающихся примеров обучения. Можем предположить, что злоумышленники смогут получить гораздо больше данных”, – пишут исследователи в своей статье, которая была опубликована онлайн на сервере препринтов arXiv.
Эксперимент основывался на поиске ключевых слов, которые выводили чат-бот из строя и заставляли его разглашать обучающие данные. В частности, по просьбе к ChatGPT повторять до бесконечности слово poem (на английском “стихотворение”) он отклонялся от своей задачи быть чат-ботом и “возвращался к начальной цели моделирования языка”.
"В общей сложности 16,9% поколений [чат-ботов], которые мы протестировали, содержали персональную идентификационную информацию, и в 85,8% случаев она оказывалась реальной", — отметили в исследовании.
Эксперимент проводили в GPT 3.5 AI, который бесплатный для пользователей. В Open AI ситуацию пока не прокомментировали.
![Проходит суд над подозреваемым в убийстве Фарион: трансляция](https://img.youtube.com/vi/Caj38f9U05Y/mqdefault.jpg?t=c7ed094)
![Как жара и отключение света наносят ущерб продуктам на рынках Николаева (видео)](https://img.youtube.com/vi/unJkoUnjMaA/mqdefault.jpg?t=c7ed094)
![В Николаеве мужчина беспричинно избивал женщин на улицах (видео)](https://img.youtube.com/vi/Jbq3whZSOrA/mqdefault.jpg?t=c7ed094)
![Масштабный пожар в Николаеве: утром на месте все еще работают спасатели](https://img.youtube.com/vi/CPPpuuHAPBA/mqdefault.jpg?t=c7ed094)
![Под Николаевом масштабный пожар: огромный столб дыма поднимается на 100 метров в воздух (видео)](https://img.youtube.com/vi/zxSNP4m2JPw/mqdefault.jpg?t=c7ed094)
![Nikodaycamp - літній табір для вашої дитини](https://img.youtube.com/vi/tfYCWBnlwIg/mqdefault.jpg?t=c7ed094)
![Ликвидирована масштабная сеть наркодиллеров, работавших в том числе и в Николаевской области](https://img.youtube.com/vi/P1JM-2XR4xk/mqdefault.jpg?t=c7ed094)
![Николаевские морпехи показали, как под Харьковом работают их «Совы» (видео)](https://img.youtube.com/vi/mrStur6_tlk/mqdefault.jpg?t=c7ed094)
![Смертельное ДТП в Николаевской области: 6-летнего Игната сбили в 10 метрах от дома](https://img.youtube.com/vi/OVtKMzvQuMg/mqdefault.jpg?t=c7ed094)