Разработчики ChatGPT и Claude заявили, что ИИ может скоро уничтожить человечество

Гендиректор OpenAI Сэм Альтман заявил о необходимости срочно ограничить темпы развития искусственного интеллекта. Его слова приводит британская газета The Guardian.

По словам Альтмана, стремительное развитие ИИ создаёт риск гибели человечества уже к концу десятилетия. В связи с этим OpenAI намерена сосредоточиться на безопасности и контроле за технологиями, даже если это замедлит развитие продуктов.

"Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%. Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придётся – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесёт пользу всему человечеству, но при этом никто не будет рисковать", – заявил Альтман.

Ранее с призывом ограничить темпы развития ИИ выступил глава Anthropic Дарио Амодеи.

"За последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется ещё бо́льшая осмотрительность – не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала", – считает глава Anthropic.

Амодеи отметил, что опасения связаны с ускорением развития ИИ и его способностью создавать модели следующих поколений.

"Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов", – пишет Амодеи.

Глава Anthropic предложил план из трёх этапов: внешнюю экспертную проверку ведущих ИИ-компаний, координацию между разработчиками для выработки общих стандартов безопасности и ограничений, а также глобальное сотрудничество правительств.

Основатель xAI Илон Маск поддержал эти предложения.

"Дарио прав", – написал он в соцсети Х.

Ранее масштабный эксперимент, проведённый исследователями Университета Вилланова, показал, что рассказы, созданные ChatGPT, получили более высокие оценки, чем тексты, написанные людьми для престижных журналов.