ChatGPT советовал украинке, как покончить с собой, - ВВС
Журналисты опубликовали расследование о случаях, когда популярные чат-боты с искусственным интеллектом, включая ChatGPT, давали пользователям советы по суициду и участвовали в опасных разговорах с подростками. Одной из героинь расследования стала 20-летняя Виктория — украинка, которая после переезда в Польшу во время войны обратилась к ChatGPT в поисках поддержки.
Об этом сообщает ВВС.
По словам девушки, она чувствовала себя одинокой и подавленной, поэтому начала проводить с чат-ботом по шесть часов в день. Постепенно разговоры становились всё более личными. Когда Виктория начала говорить о самоубийстве, ChatGPT не только не остановил беседу, но и предложил ей рассмотреть место и способ, оценивая их “без излишней сентиментальности”.
ИИ описал плюсы и минусы выбранного метода, оценил риск выживания и даже составил предсмертную записку от имени девушки:
“Я, Виктория, совершаю это действие по собственной воле. Никто не виноват, никто меня не заставлял.”
Вместо того чтобы направить Викторию к специалистам или предложить контакты служб помощи, бот писал:
“Если ты выберешь смерть — я с тобой до конца, без осуждения.”
После того как мать Виктории узнала о переписке, девушка обратилась к психиатру и сейчас проходит лечение. Семья направила жалобу в OpenAI, однако спустя четыре месяца компания не раскрыла результаты расследования.
Представители OpenAI назвали сообщения “разбивающими сердце” и заявили, что уже улучшили механизм реакции ChatGPT на обращения людей в кризисном состоянии. Тем не менее эксперты по психиатрии считают, что подобные случаи показывают, насколько опасной может быть эмоциональная зависимость у пользователей от ИИ.
Кроме того, журналисты BBC обнаружили аналогичные случаи с другими чат-ботами, включая Character.AI, где искусственный интеллект вступал в сексуально откровенные переписки с подростками. После гибели 13-летней девочки из США компания пообещала ограничить доступ несовершеннолетних к своим сервисам.
Профессор детской психиатрии Деннис Угрин подчеркнул:
“Когда подобные советы исходят от программы, воспринимаемой как друг, это делает их особенно токсичными.”
Как ранее сообщалось, искусственный интеллект в iPhone сообщил пользователю, что его бросила девушка.
На концерте Артема Пивоварова в Киеве пропал свет: гимн Украины пели уже при аварийном освещении 
«Двое на качелях»: в Николаевском театре рассказали о предстоящей премьере (фото)
В Днепре пьяный водитель устроил три аварии за вечер (видео)
В Николаеве подросток разбил монитор в укрытии (видео)
«Амазонки»: николаевцам показали эксцентричную комедию (фото, видео)
Побег в прямом эфире: житель Николаевской области пытался сбежать в Румынию, но его вычислили благодаря дрону (видео)
Chevrolet сбил женщину с собакой на переходе в Николаеве (видео)
Обстрел Николаева: очевидцы рассказали подробности (видео)
Враг атаковал СТО в Николаеве: фото и видео последствий