Художественная литература, созданная искусственным интеллектом, заполняет сайты

Рассказ под названием «Последняя надежда» впервые попал на стол Шейли Уильямс в начале января. Уильямс, редактор журнала Asimov's Science Fiction, просмотрел историю и передал ее.

Сначала она не очень об этом думала; она ежедневно читает и отвечает писателям, которые являются частью ее работы, получая от 700 до 750 историй в месяц. Но когда через пару недель появился другой рассказ под названием «Последняя надежда» от писателя с другим именем, Уильямс заподозрил. Когда через несколько дней появилась еще одна "Последняя надежда", Уильямс сразу поняла, что у нее проблемы.

«Это как вершина айсберга», — говорит Уильямс.

С момента первого представления Уильямс получил более 20 рассказов под названием «Последняя надежда», каждый из которых происходит от разных имен авторов и электронных адресов. Уильямс считает, что все они были созданы с помощью инструментов искусственного интеллекта вместе с сотнями других подобных материалов, в последние месяцы переполнявших небольшие издатели.

В январе Азимов получил около 900 историй для рассмотрения, и планирует получить 1000 в этом месяце. Уильямс говорит, что почти все увеличение можно отнести к произведениям, которые, кажется, были созданы искусственным интеллектом, и она прочла так много, что теперь часто может с первых нескольких слов понять, не может ли что-нибудь написать человек.

Кроме повторяющихся названий, есть имена персонажей, которые часто появляются, говорит Уильямс. Иногда рукопись будет содержать название, отличное от указанного в онлайн-форме. Имена авторов часто выглядят как объединение имени и фамилии. В необязательных сопроводительных письмах некоторые авторы включают в себя инструкции о том, как перечислить им деньги за свою историю, которая еще не была принята. Иногда субмитер даже не потрудился заменить «имя» своим собственным.

Используя ChatGPT, The Verge удалось воспроизвести некоторые элементы материалов, которые видел Вильямс. Подсказка написать краткий научно-фантастический рассказ — а также скопированная и вставленная информация из инструкций по представлению Азимова — породила рассказ с десятками подобных названий подряд, например «Последнее эхо», «Последнее сообщение», «Последний день Осень», « Последний путешественник».

Уилламс и его команда научились распознавать работы, созданные искусственным интеллектом, но наплыв заявок все равно огорчает. Такие торговые точки, как Азимов, переполнены друзьями из искусственного интеллекта, отнимая время редакторов и читателей и потенциально вытесняя настоящие материалы новых авторов. И проблема может только усугубиться, поскольку широкая доступность ботов для написания произведений создает новый жанр схем быстрого обогащения, где литературные журналы с открытыми публикациями оказываются на новом месте для спама, пытающегося обмануть система.

«Я просто просматриваю их так быстро, как только могу», — говорит Уильямс о фрагментах, созданных, по ее мнению, искусственным интеллектом. «Столько времени нужно, чтобы загрузить заявку, открыть ее и просмотреть. И я бы лучше потратил это время на законные представления».

Для некоторых редакторов наплыв созданных искусственным интеллектом материалов заставил их прекратить прием новых работ.

На прошлой неделе научно-популярный журнал Clarkesworld объявил, что временно закрывает представление через поток работ, созданных ИИ. В предыдущей публикации в блоге редактор Нил Кларк отметил, что журнал вынужден был запретить резкий рост количества авторов, поскольку они присылали истории, созданные с помощью автоматизированных инструментов. Только в феврале Clarkesworld получил 700 материалов, написанных людьми, и 500 историй, созданных на машине, говорит Кларк.

Кларк считает, что сообщения со спамом поступают от людей, желающих быстро заработать, и которые нашли Clarkesworld и другие публикации через влиятельных людей и веб-сайты. Например, один веб-сайт наполнен статьями о SEO-приманке и ключевыми словами о маркетинге, написании и бизнесе и обещает помочь читателям быстро заработать деньги. Статья на сайте содержит перечень почти двух десятков литературных журналов и веб-сайтов — в том числе Clarkesworld и Asimov's, а также более крупные издания, например BBC — с указанием ставок оплаты труда и деталей представления. Статья поощряет читателей использовать инструменты искусственного интеллекта, чтобы помочь им и содержит аффилированные маркетинговые ссылки на Jasper, программное обеспечение для написания искусственного интеллекта.

Большинство изданий платят небольшие ставки за слово, примерно от 8 до 10 центов, в то время как другие платят фиксированную плату до нескольких сотен долларов за принятые статьи. В своем блоге Кларк написал, что «высокий процент мошеннических материалов» поступает из некоторых регионов, но отказался назвать их, опасаясь, что это может назвать авторов из этих стран мошенниками.

Но возможность получения вознаграждения является важным фактором: в некоторых случаях Кларк переписывался с людьми, которым запретили присылать работы, созданные ИИ, говоря, что им нужны деньги. Другой редактор рассказал The Verge, что еще до появления историй, созданных искусственным интеллектом, они получали материалы и электронные письма от авторов из стран, где стоимость жизни ниже, а гонорар за публикацию в 80 долларов гораздо выше, чем в США.

Кларк, разработавший систему представления, используемую его журналом, описал усилия спамеров с искусственным интеллектом как «нелегантные» — сравнив заметки с другими редакторами, Кларк смог увидеть, что та же работа направлялась с одного IP-адреса в несколько публикаций. с интервалом в несколько минут, часто в том порядке, когда журналы появляются в списках.

«Если бы это были люди из сообщества [научной фантастики и фэнтези], они бы знали, что это не сработает. Им сразу станет очевидно, что они не могут этого сделать и ожидают, что это сработает», — говорит Кларк.

Проблема выходит за пределы публикаций научной фантастики и фэнтези. Flash Fiction Online принимает различные жанры, включая ужасы и литературную фантастику. 14 февраля издание добавило в форму представления сообщения: «Мы стремимся публиковать истории, написанные и отредактированные людьми. Мы оставляем за собой право отклонить любое представление, которое, по нашему мнению, было в основном сгенерировано или создано программным обеспечением для моделирования языка, ChatGPT, чат-ботами или другими приложениями, ботами или программным обеспечением искусственного интеллекта».

Обновленные условия были добавлены примерно в то время, когда FFO получил более 30 материалов из одного источника в течение нескольких дней, говорит Анна Йеттс, издатель и соредактор. Каждая история поражала клише, которые Йейтс видел в работах, созданных ИИ, и каждая имела уникальное сопроводительное письмо, структурированное и написанное в отличие от того, что обычно видят публикации. Но Йеттс и его коллеги с января подозревали, что некоторые присланные им работы были созданы с помощью инструментов ИИ.

Йеттс поиграл с ChatGPT, начиная с декабря, подсказывая инструмент для создания историй определенных жанров или таких стилей, как готический роман. Система смогла воспроизвести технические элементы, включая установку главных героев и обстановку и введение конфликта, но не смогла создать никакой «глубокой точки зрения» — конечности были слишком аккуратными и идеальными, а эмоции часто выливались в мелодраму. У каждого есть «пронзительные зеленые глаза», и истории часто начинаются с сидящих персонажей. Из более чем 1000 работ, которые FFO получила в этом году, по оценкам Йеттса, около 5 процентов, вероятно, были созданы ИИ.

«Мы разместили это маленькое устрашающее предупреждение [на странице представления], — говорит Йеттс. Однако его соблюдение может оказаться сложной задачей.

В прошлом FFO публиковал мейнстримные работы, имеющие более традиционный стиль письма и голос, доступный для разных уровней чтения. Для этого Йетс говорит, что истории, созданные с помощью инструментов ИИ, могут превзойти базовые требования.

«В нем есть все части истории, которые вы пытаетесь искать. Он имеет начало, середину и конец. Имеет разрешение, символы. Грамматика хорошая, – говорит Йеттс. Команда FFO работает над тем, чтобы научить штатных читателей искать определенные элементы истории во время первого прохождения при представлении.

Йетс обеспокоен тем, что растущая волна работы, созданной ИИ, может буквально закрыть письменную работу. Розетка использует популярную службу представления Submittable и план FFO, предусматривающий ежемесячное ограничение на количество историй, после чего портал закрывается. Если сотни людей пошлют неподходящие работы, созданные искусственным интеллектом, это может помешать авторам-людям присылать свои истории.

Йетс не уверен, что журнал может сделать, чтобы остановить публикацию историй. Обновление плана Submittable было бы дорогостоящим для FFO, работающего с «мизерным бюджетом», говорит Йеттс.

«Мы говорили о поиске историй от других авторов, но это тоже не совсем соответствует тому, кем мы как издание, потому что это будет отпугивать новых авторов», — говорит Йеттс. "У нас действительно нет хороших решений".

Другие члены сообщества следят за проблемой, которая заполонила других издателей, и думают о способах реагирования, прежде чем она распространится дальше. Мэттью Крессель, писатель-фантаст и создатель Moksha, онлайн-системы представления, используемая десятками изданий, говорит, что он начал слышать от клиентов, получивших спам-сообщения, написанные с помощью инструментов ИИ.

Крессель говорит, что он хочет, чтобы Мокша был «независим», когда дело доходит до ценности сообщений, созданных с помощью чат-ботов. Издатели могут добавлять флажки, где авторы могут подтверждать, что в их работах не используются системы искусственного интеллекта, говорит Крессель, и рассматривает возможность добавления опции для публикаций, которая позволит им блокировать или частично ограничивать представление с помощью инструментов искусственного интеллекта.

«Разрешить авторам самоутверждаться, если работа создана искусственным интеллектом, — хороший первый шаг», — сказал Крессель The Verge по электронной почте. «Это обеспечивает больше прозрачности всему, потому что сейчас много неопределенностей».

Для Уильямса, редактора Asimov's, вынуждена использовать свое время, чтобы просеивать кучу мусора, созданного ИИ, вызывает разочарование. Но еще большее беспокойство заключается в том, что законные новые авторы могут видеть, что происходит, и думать, что редакторы никогда не дойдут до их рукописи.

«Я не хочу, чтобы писатели волновались, что я буду скучать по их произведениям, потому что я завален хламом», — говорит Уильямс. Хорошие истории очевидны очень рано. «Ума, создающего интересную историю, ничего не угрожает».