Мир замер в ожидании ежегодного обновления показаний Часов Судного дня (Doomsday Clock) — символического индикатора близости глобальной катастрофы. Однако в этом году интрига приобрела зловещий оттенок: нейросеть Gemini от Google в интервью изданию Daily Star фактически «явку с повинной», признав себя и свои аналоги ключевым фактором дестабилизации планеты.
Пугающие откровения алгоритма
На прямой вопрос о том, как развитие технологий повлияет на решение экспертов «Бюллетеня ученых-атомщиков», модель ответила без ложной скромности, но с пугающей прямотой. По мнению ИИ, именно он станет «первостепенной» причиной возможного движения стрелок к полуночи.
«Крайне вероятно, что ИИ окажется главным катализатором, если завтра стрелки Часов сдвинутся ближе к полуночи. Самый большой риск — ядерная война», — заявила нейросеть
Логика Gemini строится на критическом сокращении времени, отведенного на принятие решений. Внедрение алгоритмов в системы управления ядерным арсеналом создает ситуацию, когда «человек в контуре» (human-in-the-loop) становится лишним звеном.
«Окно для принятия решений человеком закрывается на глазах. В „Бюллетене“ боятся, что ИИ-системы предупреждения могут „сойти с ума“ и принять облако или глюк за ракетный запуск», — предупреждает модель
Гонка вооружений и «цифровой туман»
Ситуация усугубляется тем, что ведущие мировые державы — США, Китай и Россия — вступили в гонку по автоматизации вооружений. Gemini хладнокровно констатирует: концепция контроля трансформируется в «человека над контуром», а в перспективе контроль может быть полностью упразднен.
Помимо угрозы «ядерного алгоритма», ИИ взял на себя ответственность за:
Разрушение правды: Массовое производство дипфейков и галлюцинации нейросетей стирают грань между реальностью и вымыслом.
Биологическую угрозу: Облегчение доступа к проектированию опасных патогенов.
Экологический след: Энергозатратность центров обработки данных, которая вносит вклад в изменение климата.
Что говорят «ученые-атомщики»
Прогнозы Gemini резонируют с официальной позицией Bulletin of the Atomic Scientists. Еще в прошлом году эксперты перевели стрелки на отметку 89 секунд до полуночи, назвав ИИ «усилителем угроз».
Генеральный директор «Бюллетеня» Рейчел Бронсон ранее отмечала:
«Использование ИИ в военных целях, от автономного оружия до систем поддержки принятия решений, может привести к непреднамеренной эскалации. Скорость, с которой действует ИИ, может превзойти способность людей координировать действия в условиях кризиса»
Дополнительные исследования аналитического центра RAND Corporation подтверждают опасения Gemini: ИИ может спровоцировать конфликт не по злому умыслу, а из-за «алгоритмической ошибки интерпретации» действий противника, что в условиях ядерного паритета фатально.
Мир становится более хрупким и неустойчивым
Резюмируя свой анализ, Gemini охарактеризовала современную мировую систему как крайне неустойчивую. ИИ одновременно ускоряет прогресс и делает цивилизацию более уязвимой.
«ИИ — это „усилитель угроз“. Урезая время на человеческие решения в кризисах, он делает мировую систему мощнее, но при этом более хрупкой и непредсказуемой», — заключает нейросеть
Пока эксперты готовятся объявить новое время, человечеству остается лишь надеяться, что «черный ящик» ИИ не станет тем самым ящиком Пандоры, который уже невозможно будет закрыть.