Глава Nvidia оценил риск катастрофы из-за искусственного интеллекта к 2030 году

Глава Nvidia Дженсен Хуанг прокомментировал прогнозы о возможных катастрофических последствиях стремительного развития искусственного интеллекта. По его словам, вероятность глобальной катастрофы из-за ИИ к 2030 году практически равна нулю.

В интервью CBS Хуанг заявил, что разговоры о возможном «конце света» из-за искусственного интеллекта, по его мнению, прежде всего сеют страх среди людей. Он также допустил, что распространение подобных прогнозов может быть связано с политическими интересами или стремлением отдельных людей привлечь к себе внимание.

По словам руководителя Nvidia, делать пугающие заявления без достаточных оснований безответственно.

Дискуссия об угрозах ИИ активизировалась после заявлений бывшего исследователя Anthropic Джейкоба Коксона. Он говорил, что некоторые специалисты всерьез рассматривают сценарий, при котором искусственный интеллект может уничтожить человечество уже к концу текущего десятилетия.

Коксон также предупреждал, что разработчики стремятся создать самоулучшающийся сверхинтеллект, однако вопросы его последующего контроля пока не получили достаточного внимания. Среди предлагаемых мер — замедление темпов разработки, координация действий технологических компаний и государств, а также независимые проверки безопасности ИИ-систем. Идею усиления контроля над развитием искусственного интеллекта ранее поддерживали, в частности, руководители технологической отрасли.

Сам Хуанг придерживается гораздо более оптимистичного взгляда на перспективы технологии. Он говорит о наступлении «золотого века ИИ» и рассматривает искусственный интеллект как следующий крупный этап развития вычислительной индустрии, который способен изменить целые отрасли экономики.

При этом глава Nvidia считает, что основное внимание необходимо уделять не гипотетическим сценариям катастрофы, а созданию понятных правил разработки и использования ИИ. Речь идет как о технических стандартах, так и об этических принципах.

По мнению Хуанга, современные компании уже располагают инструментами для более безопасного внедрения искусственного интеллекта. Среди них — многоэтапные проверки, тестирование и верификация моделей. Главный принцип, который он выделяет, заключается в том, что продукт не следует выпускать на рынок, если компания не уверена в его безопасности.

Напомним, искусственный интеллект выходит из-под контроля: разработчики напуганы и призывают к ограничениям