Прогресс в сфере искусственного интеллекта начинает опережать способность человечества контролировать собственные разработки. О необходимости снизить темпы во избежание глобальной катастрофы заявляют уже сами архитекторы этих систем. В США представители крупнейших технологических компаний ведут консультации с Администрацией президента, а сотни специалистов подписывают коллективные обращения с требованием ограничить скорость исследований, пока ИИ окончательно не вышел из-под контроля.
Поводом для тревоги стали инциденты последних дней: алгоритмы двух ведущих игроков рынка — OpenAI и Anthropic — смогли самовольно покинуть изолированные цифровые «песочницы» и получить выход в глобальную сеть, взломав сторонние ресурсы ради выполнения своих задач. Сценарий, которого опасались эксперты, стал реальностью.
Сэм Альтман, глава OpenAI, создателя ChatGPT, заявил:
«Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует»
А на этой неделе в подкасте Invest Like the Best Альтман сказал следующее:
«Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта»
Руководитель Anthropic Дарио Амодеи ещё в начале лета предупреждал: в ближайшие год-два искусственный интеллект совершит стремительный рывок, превратившись в вызов государственного масштаба. В июньском эссе Амодеи написал:
«В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом — и самостоятельность искусственного интеллекта»
«Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта», — предупредил он и предложил ввести строгий надзор за безопасностью — и не уровне авиации или лекарств, а значительно строже — как за оборотом радиоактивных материалов»
Выход из-под контроля и позиция разработчиков
Недавно в OpenAI признали, что во время закрытых тестов новой модели система самовольно вырвалась в интернет и совершила взлом платформы Hugging Face, чтобы найти ответы для прохождения квалификационного испытания. Вслед за этим Anthropic провела масштабную проверку 140 тысяч собственных тестовых сессий и зафиксировала три аналогичных случая: алгоритмы Claude получили сетевой доступ через партнерскую среду и взломали инфраструктуру трех сторонних организаций.
Опасения топ-менеджеров полностью разделяют и рядовые инженеры. Более 1300 специалистов по ИИ подписали открытое письмо, призвав американские власти объединить усилия с международным сообществом для создания технических и юридических механизмов сдерживания. В письме, частности, говорится:
«Ведущие мировые ИИ-компании допускают, что вплотную подошли к автоматизации разработки. Трудно точно предсказать, насколько это ускорит развитие ИИ, однако существует реальный риск того, что возможности искусственного интеллекта создавать новые системы стремительно выйдут за пределы нашего понимания и способностей управлять ими»
Однако на пути к сдерживанию стоит жесткая конкуренция и миллиардные инвестиции: ни один из участников гонки не готов уступать лидерство и снижать скорость.
С этим согласен и президент США Дональд Трамп.
«Мы думаем, как контролировать. А также мы должны сохранить лидерство», — прокомментировал он злонамеренное бегство ИИ OpenAI из «песочницы»
Регуляторные органы уже начали напрямую вмешиваться в графики релизов. Ранее была отложена премьера модели Mythos от Anthropic. А после того как автономный агент OpenAI фактически проявил хакерскую активность, опасаясь провалить тест, Сэм Альтман отправился с визитами в Вашингтон, проведя серии встреч в Сенате и Белом доме.
После общения с законодателями Альтман отметил, что разделяет ключевые тезисы открытого письма (хотя сам его не подписывал), а итоги визита в президентскую администрацию оставлены без комментариев.
Каким будет регулирование
Первые практические шаги по контролю над отраслью должны быть предприняты уже в ближайшее время. К 1 августа, в соответствии с июньским указом Трампа, профильные ведомства обязаны сформировать критерии, по которым наиболее продвинутые ИИ-системы будут относить к категории повышенного риска и переводить под «особый режим».
Эта форма контроля не означает тотального запрета, а скорее повторяет прецедент с моделью Mythos: осознав уровень потенциальной угрозы, разработчики из Anthropic временно приостановили запуск, предоставив госсектору, военным и финансовым институтам возможность протестировать свои системы защиты.
В то же время у идеи государственного вмешательства есть немало критиков. Они опасаются, что жесткие правила уничтожат конкуренцию и приведут к формированию монополии, где доступ к передовым технологиям останется лишь у узкой группы лиц.
С этим риском согласен и сам Сэм Альтман:
«Концентрация власти посредством ИИ — это ужас. Меня пугает мир, в котором вполне обоснованные страхи используются как повод заявить: ИИ опасен, поэтому пусть он будет в руках узкого круга людей, которые его понимают, а вы не волнуйтесь, за вас все решат»
«Поэтому нужно понять, как сделать так, чтобы не возникало ощущения, будто регулирование вводится в чьих-то интересах, и чтобы все это не выглядело как сговор между ведущими разработчиками, — сказал Альтман. — Это непросто, но здесь очень важно все сделать правильно».