Не роботи й не ядерна зброя: вчені назвали іншу загрозу ШІ

Сценарій, у якому штучний інтелект знищує людей за допомогою роботів, ядерної зброї чи створених вірусів, частина дослідників вважає малоймовірним. Натомість вони попереджають про повільнішу загрозу — втрату людьми критичного мислення, навичок і здатності контролювати системи, яким дедалі більше завдань передають.

Про те, як надмірна залежність від ШІ може поступово послаблювати людські здібності, пише редакція Новини.LIVE з посиланням на Daily Mail

Як ШІ може поступово послаблювати людські навички

Старший викладач робототехніки та штучного інтелекту Шеффілдського університету Галлама Самуеле Вінанці називає одним із головних ризиків "enfeeblement" — поступове ослаблення людських здібностей через передачу дедалі більшої кількості завдань машинам.

Йдеться не про миттєву втрату контролю, а про накопичення дрібних рішень. Люди дедалі частіше використовують ШІ для написання текстів, програмування, досліджень і ухвалення рішень, через що потреба самостійно виконувати ці завдання зменшується.

Вінанці пов'язує це з "когнітивним розвантаженням" — звичкою передавати частину розумової роботи зовнішнім інструментам. За його словами, у довгостроковій перспективі це може призвести до ситуації, коли люди гірше розумітимуть системи, від яких залежать, і матимуть менше можливостей перевіряти або скасовувати їхні рішення.

Один із прикладів такої довіри навели у дослідженні 2023 року за участю 27 радіологів. Їм пропонували аналізувати мамографії разом із рекомендацією системи, яку вони вважали сучасним ШІ.

Коли рекомендація була правильною, лікарі ухвалювали правильне рішення у 80% випадків. Коли ж експериментатори навмисно давали хибну рекомендацію, показник правильних відповідей падав нижче 20%.

Дослідники також звертають увагу на освіту. Професор Сеун Коладе під час власного експерименту використовував ChatGPT для написання відповідей на типові університетські завдання. За його словами, ШІ створював оригінальні та добре написані роботи, які отримували високі оцінки, тоді як Turnitin більшість із них не позначав.

Коладе вважає, що головна проблема полягає не лише у списуванні. Студенти можуть навчитися швидко отримувати переконливі результати, водночас слабше розвиваючи здатність самостійно оцінювати їхню правильність.

Чому дослідники не виключають серйозніших наслідків

Частина фахівців вважає апокаліптичні сценарії перебільшеними, оскільки реальні дії все одно залежать від людей, обладнання та фізичної інфраструктури.

Вінанці зазначає, що створення небезпечного вірусу все ще потребує роботи в лабораторії, а найбільш захищені системи на атомних електростанціях часто фізично ізольовані від зовнішнього інтернету.

Водночас інші дослідники попереджають, що ризик може зрости, якщо управління лікарнями, транспортом, енергосистемами, військовими структурами та економікою дедалі більше передаватимуть автоматизованим системам.

Засновник і генеральний директор ControlAI Андреа Міотті вважає, що дуже потужний ШІ, глибоко інтегрований в економіку та інфраструктуру, теоретично міг би отримати значний вплив без постійної участі людей.

При цьому для появи небезпеки системі необов'язково мати злий намір. За його словами, люди можуть постраждати як побічний наслідок дій ШІ, якщо той переслідуватиме власні цілі та потребуватиме дедалі більше ресурсів.

Саме тому дослідники називають здатність людей самостійно мислити, ставити під сумнів рекомендації ШІ та зберігати професійні навички одним із ключових чинників контролю над такими системами.