Катастрофа уже совсем близко: создатели ИИ пришли в ООН с повинной

Мир подошел к черте, за которой фантастика стремительно становится суровой реальностью. В штаб-квартире ООН разыгралась сцена, больше похожая на сюжет голливудского триллера: архитекторы цифровой революции, отцы-основатели ведущих ИИ-империй, пришли в Совет Безопасности с повинной и призывом о помощи.

О том, почему создатели ИИ пришли в ООН с просьбой о помощи пишет The New York Times

Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic открыто заявили мировым лидерам: технология, которую они выпустили из лабораторий Кремниевой долины, стремительно выходит из-под контроля. И если человечество не опомнится прямо сейчас, последствия будут катастрофическими.

«Мы на пороге хаоса»: о чем предупреждали технари

Голоса создателей ИИ звучали на удивление мрачно на фоне привычного для ООН дипломатического оптимизма. Их предостережения резко контрастировали с недавними заявлениями Белого дома, где любые попытки ограничить технологию клеймят не иначе как «глобалистскими схемами».

Математика катастрофы от Альтмана. Выступая с трибуны ООН, Сэм Альтман отбросил технологический оптимизм. Кого волнуют проценты вероятности гибели цивилизации?

«Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12% или 0,1%, — чеканил слова глава OpenAI. — Ни один из этих уровней даже близко неприемлем»

Мир, по его словам, стоит перед выбором: либо новый ренессанс открытий, либо промышленная революция, несущая хаос и потрясения.

Жесткий вердикт Амодеи. Дарио Амодеи пошел еще дальше, предупредив по видеосвязи, что искусственный интеллект вот-вот превратится в экзистенциальную угрозу для всего человечества. Его рецепт прост и пугающ: темпы гонки нужно немедленно сбавить, а индустрию обложить жесткими красными линиями. Первым шагом должен стать абсолютный запрет на использование ИИ в создании биологического оружия.

Самое поразительное в этой истории то, что компании, чья рыночная стоимость исчисляется триллионами долларов и которые прямо сейчас рвутся на биржи, сами умоляют о надзоре.

Сэм Альтман, призывая демократические государства взять бразды правления в свои руки, признался:

«Если искусственному интеллекту суждено быть демократическим, важнейшие решения не могут приниматься лишь лабораториями в Сан-Франциско»

Пока мир горит, политики спорят о юрисдикции

Но услышали ли их те, кто принимает реальные решения? Увы. Заседание Совбеза ООН обнародовало глубочайший раскол среди мировых держав.

США выступили категорически против любого наднационального контроля. Представитель Белого дома Майкл Крациос прямо заявил: Совбез не имеет права надзирать за тем, чего банально не понимает. Китай традиционно поддержал суверенное право каждой страны развивать алгоритмы так, как ей вздумается, а Россия и вовсе усомнилась, есть ли у Совета Безопасности вообще полномочия рассуждать об искусственном интеллекте.

И лишь глава британского МИД Эдвард Милибэнд осадил скептиков железным аргументом:

«Нельзя слагать с себя ответственность перед гражданами: первейший долг правительства — защищать людей, и на частные компании его не переложишь, о чем бы ни шла речь»

На краю пропаст

Ирония судьбы достигла пика: создатели цифрового разума бьют тревогу и требуют цепей для своего детища, а политики отмахиваются от угрозы ради сиюминутного технологического превосходства.

Корабли под названием «США» и «Китай» продолжают нестись на полной скорости в туман цифровой неизвестности, задраив люки и затыкая уши от криков собственных штурманов. Вопрос лишь в том, успеем ли мы свернуть до того, как этот гигантский автопилот окончательно перехватит штурвал у человечества?

Как вы думаете, способны ли амбиции сверхдержав уступить инстинкту самосохранения до того, как ИИ станет неуправляемым?