Катастрофа вже зовсім близько: творці штучного інтелекту прийшли до ООН з повинною

Світ підійшов до межі, за якою фантастика стрімко стає суворою реальністю. У штаб-квартирі ООН розігралася сцена, більше схожа на сюжет голлівудського трилера: архітектори цифрової революції, батьки-засновники провідних ШІ-імперій прийшли до Ради Безпеки з повинною та закликом про допомогу.

Про те, чому творці ІІ прийшли до ООН з проханням про допомогу, пише The New York Times

Сем Альтман із OpenAI та Даріо Амодеї з Anthropic відкрито заявили світовим лідерам: технологія, яку вони випустили з лабораторій Кремнієвої долини, стрімко виходить з-під контролю. І якщо людство не схаменеться прямо зараз, наслідки будуть катастрофічними.

"Ми на порозі хаосу": про що попереджали технарі

Голоси творців ШІ звучали напрочуд похмуро на тлі звичного для ООН дипломатичного оптимізму. Їхні застереження різко контрастували з недавніми заявами Білого дому, де будь-які спроби обмежити технологію таврують не інакше як «глобалістськими схемами».

Математика катастрофи від Альтмана . Виступаючи із трибуни ООН, Сем Альтман відкинув технологічний оптимізм. Кого турбують відсотки ймовірності загибелі цивілізації?

«Не має значення, чи оцінюють люди ризик катастрофи в 10%, 1%, 12% або 0,1%, — карбував слова глава OpenAI. — Жоден із цих рівнів навіть близько неприйнятний»

Світ, за його словами, стоїть перед вибором: або новий ренесанс відкриттів, або промислова революція, яка несе хаос та потрясіння.

Жорсткий вердикт Амодеї. Даріо Амодеї пішов ще далі, попередивши відеозв'язок, що штучний інтелект ось-ось перетвориться на екзистенційну загрозу для всього людства. Його рецепт простий і лякаючий: темпи гонки потрібно негайно зменшити, а індустрію обкласти жорсткими червоними лініями. Першим кроком має стати абсолютна заборона використання ШІ у створенні біологічної зброї.

Найдивовижніше в цій історії те, що компанії, чия ринкова вартість обчислюється трильйонами доларів і які зараз рвуться на біржі, самі благають про нагляд.

Сем Альтман, закликаючи демократичні держави взяти кермо влади в свої руки, зізнався:

«Якщо штучному інтелекту судилося бути демократичним, найважливіші рішення не можуть ухвалюватися лише лабораторіями в Сан-Франциско»

Поки світ горить, політики сперечаються про юрисдикцію

Але чи почули їх ті, хто ухвалює реальні рішення? На жаль, ні. Засідання Ради безпеки ООН оприлюднило глибокий розкол серед світових держав.

США виступили категорично проти будь-якого наднаціонального контролю. Представник Білого дому Майкл Краціос прямо заявив: Рада безпеки не має права наглядати за тим, чого банально не розуміє. Китай традиційно підтримав суверенне право кожної країни розвивати алгоритми так, як їй заманеться, а Росія взагалі засумнівалася, чи має Рада Безпеки взагалі повноваження розмірковувати про штучний інтелект.

І лише глава британського МЗС Едвард Мілібенд обложив скептиків залізним аргументом:

«Не можна складати з себе відповідальність перед громадянами: найперший обов'язок уряду — захищати людей, і на приватні компанії його не перекладеш, про що б не йшлося»

На краю пропасть

Іронія долі досягла піку: творці цифрового розуму б'ють на сполох і вимагають ланцюгів для свого дітища, а політики відмахуються від загрози заради технологічної переваги.

Кораблі під назвою «США» та «Китай» продовжують мчати на повній швидкості в туман цифрової невідомості, задерши люки та затикаючи вуха від криків власних штурманів. Питання лише в тому, чи ми встигнемо згорнути до того, як цей гігантський автопілот остаточно перехопить штурвал у людства?

Як ви вважаєте, чи здатні амбіції наддержав поступитися інстинктом самозбереження до того, як ІІ стане некерованим?