Технологический прогресс неумолим, но некоторые компании в своем стремлении обойти конкурентов и произвести впечатление недоговаривают и даже откровенно врут. Так автоматизация оказывается мнимой, а достижения – скромными. Вот несколько ярких примеров.
3 апреля 2024 года Amazon отказалась от своей технологии Just Walk Out («Просто выходи») в магазинах в США. Суть ее работы была такова: покупатель мог прийти в магазин, отсканировать QR-код, взять нужные товары и просто выйти. Компания заявляла, что система полностью автоматизирована. Но выяснилось, что за ней стояло 1 тыс. работников из Индии, занимавшихся оформлением товаров.
И это не единственный пример, когда за прорывом в автоматизации стоит скрытая человеческая рабочая сила.
В англоязычном пространстве это явление назвали The Mechanical Turk (дословно переводится как «Механический турок») в честь появившегося в 1770 году шахматного автомата. Его рекламировали десятилетиями по всему миру как первую машину, способную сыграть в шахматы с любым человеком. Однако позже выяснилось, что это был обман — внутри автомата сидел профессиональный шахматист.
Похожая ситуация произошла и в начале 1800-х годов в Англии. Брайан Мерчант в своей книге Blood in The Machine («Кровь на машине») пишет, что к тому времени производители одежды решили заменить портных на новые «автоматизированные» машины. И хотя для работы этих устройств действительно не нужны мастера, ими все равно руководили люди-дети-сироты. Одежда, сшитая автоматами, была плохого качества, но дешева. Эти устройства создали серьезную конкуренцию специалистам. Те, в свою очередь, возмутились, и этих активистов прозвали «луддитами» (участники протестов в Англии против внедрения машин. — GSMinfo).
Трюк, использованный в The Mechanical Turk, не забыт. Хотя сейчас есть поразительные примеры настоящей автоматизации, многие технологические компании в погоне за лидерством внедряют II-технологии раньше, чем на самом деле готовы к этому. И чтобы поддерживать их работу, приходится в большом объеме использовать человеческий труд.
Вот десять примеров, в которых роль скрытой рабочей силы сыграла или играет немаловажную и даже решающую роль.
1. Just Walk Out от Amazon Fresh
Amazon утверждала, что Just Walk Out – это большая система сканеров и камер, автоматически считывающая информацию и выписывающая клиентам чеки.
Оказалось, чтобы управлять этой системой, Amazon наняла команду из более чем 1 тыс. сотрудников в Индии. В 2022 году примерно 70% покупателей действительно обслуживали живые люди.
2. Автоматизированные автокафе
Компания Presto Voice создала свою систему автоматизации, которую продавала нескольким ресторанам на заправках. В Presto Voice уверяли, что могут заменить всех людей, работающих в автокафе, своей технологией, потому что AI прекрасно сможет самостоятельно обслуживать посетителей.
Однако недавно Комиссии по ценным бумагам и биржам США стало известно, что более 70% заказов компании выполняют люди. Presto Voice нанимала удаленных работников на Филиппинах, и они принимали заказы клиентов и вручали их в компьютерные системы.
3. Виртуальный ассистент М от Facebook
В 2015 году компания Facebook запустила виртуального помощника по имени M. Он общался с пользователями в мессенджере и мог (якобы) взять билеты в кино, узнать погоду и заказать еду из ресторана неподалеку.
Если вы удивляетесь, как компании удалось создать генеративный AI в 2015 году, то можете успокоиться: она этого не делала.
M было создано на основе раннего, догенеративного АИ. Но в основном за работу помощника отвечали живые операторы. В компании хотели, чтобы впоследствии M стал достаточно «умным» и выполнял задания самостоятельно. Но этого так и не вышло. Помощником смогла пользоваться только маленькая группа людей, привлеченных к тестированию beta-версии. А компания не могла нанять столько операторов, чтобы у каждого пользователя в мире был личный помощник.
4. Демоверсия Gemini от Google
В декабре 2023 года Google провела впечатляющую презентацию Gemini – АИ-модель, которая, якобы, может расшифровывать видео, изображения и аудио в режиме реального времени. Но через четыре месяца это обещание так и не воплотилось в жизнь.
Демонстрация оказалась подлогом. Во-первых, видео, представленное Google, ускорили и отредактировали. Во-вторых, чтобы достичь хоть какого-нибудь результата от Gemini, в нее загрузили много текстовых и графических подсказок. Да, этим инструментом можно воспользоваться. Но Gemini с трудом отвечает на сложные вопросы, но это далеко до тех фокусов, которые поразили всех во время декабрьской презентации.
5. Mechanical Turk от Amazon
Эту торговую площадку Amazon даже назвал в честь фейковой автоматизации. На нем работодатели могут найти специалистов для работы, с которой компьютеры не справляются. Задания могут быть практически любыми: от маркировки изображений до обучения АИ модерации онлайн-контента.
Реальным людям, выполнявшим задание вместо машин, порой платили всего $0,01 за задание. Также последовали ужасающие истории, когда при расшифровке конфиденциальных файлов работники сталкивались с пугающим содержанием (например, с жестокими кадрами полицейского насилия).
6. Expensify
В 2017 году громкая история произошла с компанией Expensify, которая автоматизировала передачу отчетов о расходах. С помощью их новой технологии можно было просто сфотографировать квитанцию, чтобы заплатить за нее. Программа Expensify автоматически подтверждала, что расходы отвечают требованиям, и посылала данные в нужное ведомство.
Позже компания сообщила, что когда АИ не справляется, она привлекает в команду надежных технических специалистов, оформляющих расходы от имени пользователя. В некоторых случаях этими "надежными специалистами" были работники с площадки Amazon Mechanical Turk. То есть посторонние люди получили доступ к личной информации пользователей, таких как номера кредитных карт, имена и адреса. И неизвестно, сколько из этих отчетов о расходах попало в чужие руки.
7. Виртуальные помощники X.ai
Еще до того, как Илон Маск купил X.ai, компания оказалась в центре скандала с мысленной автоматизацией. В 2016 году этот АИ-стартап запустил виртуальных помощников, имеющих доступ к данным пользователя. Они могли вносить события в календарь и отвечать на электронные письма.
Однако все эти операции совершал живой человек. Работники, выдававшие себя по АИ, отвечали на электронные письма, заносили встречи в календарь и даже заказывали еду для пользователей. Когда все открылось, компания оправдывалась тем, что АИ находится на ранней стадии развития.
8. Персонализированная реклама в почте Google
Ранее Google сканировал почтовые ящики каждого пользователя, чтобы настроить персональную рекламу, но пообещал прекратить. Но это не помешало компании передать эту задачу в сторону. В 2018 году сотрудники Edison Software, разрабатывающей программное обеспечение, рассказали Wall Street Journal, что лично просматривали письма пользователей, чтобы использовать эту информацию для создания новых функций.
И это не единственная компания, которая разрешала сотрудникам читать личные письма, чтобы настраивать программное обеспечение и разрабатывать другие маркетинговые инструменты. Один из источников WSJ назвал реальность, в которой посторонние имеют доступ к личной переписке пользователей, «грязным секретом индустрии».
9. Анализ крови от Theranos
2023 Элизабет Холмс посадили в тюрьму на 11 лет за крупное мошенничество, связанное с ее стартапом Theranos. Компания заявляла, что разработала автоматизированное устройство, которое может точно определить состояние здоровья пациента из нескольких капель крови, взятых из пальца.
Однако это оказалось обманом. Никакого прорыва в области автоматизации сбора и анализа крови не произошло. В ходе презентаций для руководителей аптек сотрудники Theranos тайно проводили испытания на постороннем лабораторном оборудовании.
Это одно из самых больших в истории мошенничеств, связанных с автоматизацией.
10. Scale.AI и не только
Даже крупные компании, занимающиеся разработкой в сфере АИ, преувеличивают достижения своих продуктов, ведь к обучению нейросетям все еще привлекают тысячи людей. К примеру, The Washington Post сообщает, что к обучению Scale AI, II-модели стартапа из Сан-Франциско стоимостью $7 млрд, привлечены 10 тыс. удаленных работников на Филиппинах. Они маркируют тысячи изображений политиков и знаменитостей, редактируют фрагменты текста, учат нейросети распознавать объекты в видеороликах.
Для обучения современных АИ-моделей пока нужны тысячи работников. И часто компании предлагают им невыгодные условия или работу по копейкам. А именно Scale AI, между прочим, сотрудничает с такими компаниями как Meta, Microsoft и OpenAI.