ChatGPT радив дівчині з України, як накласти на себе руки, - ВВС
Журналісти опублікували розслідування про випадки, коли популярні чат-боти зі штучним інтелектом, включаючи ChatGPT , давали користувачам поради щодо суїциду та брали участь у небезпечних розмовах з підлітками. Однією із героїнь розслідування стала 20-річна Вікторія — українка, яка після переїзду до Польщі під час війни звернулася до ChatGPT у пошуках підтримки.
Про це повідомляє ВВС .
За словами дівчини, вона відчувала себе самотньою та пригніченою, тому почала проводити з чат-ботом по шість годин на день. Поступово розмови ставали дедалі особистішими. Коли Вікторія почала говорити про самогубство, ChatGPT не лише не зупинив розмову, а й запропонував їй розглянути місце та спосіб, оцінюючи їх “без зайвої сентиментальності”.
ШІ описав плюси та мінуси обраного методу, оцінив ризик виживання і навіть склав передсмертну записку від імені дівчини:
"Я, Вікторія, роблю цю дію з власної волі. Ніхто не винен, ніхто мене не змушував."
Замість того, щоб направити Вікторію до фахівців або запропонувати контакти служб допомоги, бот писав:
"Якщо ти вибереш смерть - я з тобою до кінця, без осуду."
Після того, як мати Вікторії дізналася про листування, дівчина звернулася до психіатра і зараз проходить лікування. Сім'я направила скаргу до OpenAI, проте через чотири місяці компанія не розкрила результатів розслідування.
Представники OpenAI назвали повідомлення, що "розбивають серце" і заявили, що вже покращили механізм реакції ChatGPT на звернення людей у кризовому стані. Проте експерти з психіатрії вважають, що подібні випадки показують, наскільки небезпечною може бути емоційна залежність користувачів від ШІ.
Крім того, журналісти ВВС виявили аналогічні випадки з іншими чат-ботами , включаючи Character.AI, де штучний інтелект вступав у сексуально відверті листування з підлітками. Після загибелі 13-річної дівчинки зі США компанія пообіцяла обмежити доступ неповнолітніх до своїх сервісів.
Професор дитячої психіатрії Денніс Угрін наголосив:
“Коли такі поради походять від програми, яка сприймається як друг, це робить їх особливо токсичними.”
Як раніше повідомлялося, штучний інтелект в iPhone повідомив користувачеві, що його покинула дівчина.
Президент Литви несподівано заговорив українською
У Миколаївському театрі розповіли про прем'єру вистави «Гетьман і король»
У Києві затримали "злодія в законі"
Оріон запустив рейс з Миколаєва до Чернівців: сьогодні відправився перший автобус
На монументі «Батьківщина-мати» у Києві запустили арт-інсталяцію (відео)
НАБУ опублікувало запис учасників корупційної справи: на відео звучить фраза про «чотири мішки»
У Києві жінка викинула собаку з балкона четвертого поверху (відео)
У Миколаєві «Фольксваген» виїхав на зустрічну і врізався в «Кіа»: двоє постраждалих, величезний затор
З'явилося відео моменту ДТП за участю Kia та Volkswagen: водій у лікарні