Главным ускорителем конца света является ИИ: пугающие откровения нейросети

Мир замер в ожидании ежегодного обновления показаний Часов Судного дня (Doomsday Clock) — символического индикатора близости глобальной катастрофы. Однако в этом году интрига приобрела зловещий оттенок: нейросеть Gemini от Google в интервью изданию Daily Star фактически «явку с повинной», признав себя и свои аналоги ключевым фактором дестабилизации планеты.

Пугающие откровения алгоритма

На прямой вопрос о том, как развитие технологий повлияет на решение экспертов «Бюллетеня ученых-атомщиков», модель ответила без ложной скромности, но с пугающей прямотой. По мнению ИИ, именно он станет «первостепенной» причиной возможного движения стрелок к полуночи.

«Крайне вероятно, что ИИ окажется главным катализатором, если завтра стрелки Часов сдвинутся ближе к полуночи. Самый большой риск — ядерная война», — заявила нейросеть

Логика Gemini строится на критическом сокращении времени, отведенного на принятие решений. Внедрение алгоритмов в системы управления ядерным арсеналом создает ситуацию, когда «человек в контуре» (human-in-the-loop) становится лишним звеном.

«Окно для принятия решений человеком закрывается на глазах. В „Бюллетене“ боятся, что ИИ-системы предупреждения могут „сойти с ума“ и принять облако или глюк за ракетный запуск», — предупреждает модель

Гонка вооружений и «цифровой туман»

Ситуация усугубляется тем, что ведущие мировые державы — США, Китай и Россия — вступили в гонку по автоматизации вооружений. Gemini хладнокровно констатирует: концепция контроля трансформируется в «человека над контуром», а в перспективе контроль может быть полностью упразднен.

Помимо угрозы «ядерного алгоритма», ИИ взял на себя ответственность за:

Разрушение правды: Массовое производство дипфейков и галлюцинации нейросетей стирают грань между реальностью и вымыслом.

Биологическую угрозу: Облегчение доступа к проектированию опасных патогенов.

Экологический след: Энергозатратность центров обработки данных, которая вносит вклад в изменение климата.

Что говорят «ученые-атомщики»

Прогнозы Gemini резонируют с официальной позицией Bulletin of the Atomic Scientists. Еще в прошлом году эксперты перевели стрелки на отметку 89 секунд до полуночи, назвав ИИ «усилителем угроз».

Генеральный директор «Бюллетеня» Рейчел Бронсон ранее отмечала:

«Использование ИИ в военных целях, от автономного оружия до систем поддержки принятия решений, может привести к непреднамеренной эскалации. Скорость, с которой действует ИИ, может превзойти способность людей координировать действия в условиях кризиса»

Дополнительные исследования аналитического центра RAND Corporation подтверждают опасения Gemini: ИИ может спровоцировать конфликт не по злому умыслу, а из-за «алгоритмической ошибки интерпретации» действий противника, что в условиях ядерного паритета фатально.

Мир становится более хрупким и неустойчивым

Резюмируя свой анализ, Gemini охарактеризовала современную мировую систему как крайне неустойчивую. ИИ одновременно ускоряет прогресс и делает цивилизацию более уязвимой.

«ИИ — это „усилитель угроз“. Урезая время на человеческие решения в кризисах, он делает мировую систему мощнее, но при этом более хрупкой и непредсказуемой», — заключает нейросеть

Пока эксперты готовятся объявить новое время, человечеству остается лишь надеяться, что «черный ящик» ИИ не станет тем самым ящиком Пандоры, который уже невозможно будет закрыть.