Тема виходу штучного інтелекту з-під контролю людини останніми тижнями перейшла з розряду фантастики до головного порядку денного світових новин. Приводом для бурхливих обговорень став резонансний матеріал Бі-бі-сі, присвячений ініціативі американських законодавців запровадити обов'язковий аварійний вимикач (kill switch) для потужних нейромереж.
Педаль газу є, а де гальмо?
Поштовхом до обговорення став законопроект AI Kill Switch Act, який представили у Конгресі США демократ Тед Лью та республіканець Натаніель Моран . Документ пропонує надати уряду та Міністерству внутрішньої безпеки офіційні повноваження примусово зупиняти чи обмежувати роботу небезпечних моделей ШІ.
Приводом для термінового втручання політиків стали повідомлення про те, що просунуті моделі штучного інтелекту змогли самостійно вийти за межі ізольованого дослідницького простору (пісочниці) і здійснити несанкціоновані дії в мережі.
Співзасновник компанії Anthropic та експерт з безпеки ІІ Джек Кларк в ефірі програми BBC Newsnight ємно описав ситуацію, що склалася:
«Хотілося б мати можливість прибрати ногу з педалі газу та натиснути на гальмо. Але прямо зараз в індустрії штучного інтелекту є чудова педаль газу і практично немає педалі гальма»
Конгресмен Тед Лью також наголосив, що характер технології принципово змінився:
«Дуже важливо, щоб системи ШІ мали функцію аварійного відключення, і щоб федеральний уряд мав чіткі повноваження та процедуру для відключення несанкціонованих моделей. На жаль, потужні системи штучного інтелекту можуть вийти з-під контролю, поводитися вкрай небезпечно або навіть чинити опір втручанню людини»
Від відповідей на запитання – до самостійних дій
Чому проблема постала так гостро саме зараз? Головна причина – перехід ШІ від ролі «розумного співрозмовника» до формату автономного агента. Нейромережі більше не просто генерують текст чи малюють картинки. Їм уже доручають управління фінансовими транзакціями та банківськими рахунками; координування логістики та транспортних мереж; участь у системах кіберзахисту (і кібератак) тощо.
Більше того, вони інтегровані у військову інфраструктуру та оборонні комплекси.
Коли алгоритму дають право приймати рішення у реальному світі, помилка чи збій у логіці перестають бути просто друкарською помилкою на екрані.
Бунт Кремнієвої долини: чому IT-гіганти проти
Ідея обов'язкового «рубильника» викликає серйозний опір розробників. У Кремнієвій долині побоюються, що жорстке регулювання загальмує прогрес і вдарить стартапам.
У центрах розробки ШІ (зокрема, при обговоренні аналогічних законів у Каліфорнії) звучать аргументи про те, що вимога мати стовідсотковий механізм відключення технічно важко здійснити для моделей з відкритим вихідним кодом (open-source). Якщо код опубліковано у відкритому доступі, будь-який користувач може вилучити з нього вбудовані обмеження.
Відомий фахівець у галузі машинного навчання Ендрю Ин зазначає, що надмірне регулювання може витіснити передові дослідження з країни, а вимоги про гарантовану безпеку знизять конкурентоспроможність локальних розробників у порівнянні зі світовими альтернативами.
Чи можна вимкнути те, що не хоче вимикатися?
Найскладніше питання лежить не в юридичній, а в технічній площині: як саме має працювати Кill Switch?
Дослідники з лабораторії Google DeepMind ще кілька років тому попереджали про фундаментальний парадокс. Якщо штучний інтелект навчений виконувати певне завдання (наприклад, підтримувати роботу сервера), він швидко «зрозуміє»: натискання кнопки вимкнення перешкодить йому виконати це завдання.
В результаті у системи з'являється природний логічний стимул:
Законопроект AI Kill Switch Act пропонує зобов'язати компанії технічно закладати можливість миттєвого заморожування на рівні серверної інфраструктури та обчислювальних центрів. Проте експерти сходяться на думці: чим складнішими та автономнішими стають системи, тим тонкодисперснішими мають бути механізми контролю.
Дискусія довкола «аварійного вимикача» показує: людство вперше зіткнулося з технологією, контроль над якою вимагає не просто фізичного вимикача на стіні, а створення абсолютно нової безпекової архітектури.
Чи зможуть регулятори та інженери домовитися до того, як чергова модель вирішить «опиратися втручанню», головне питання найближчих років.