Ты набрал вопрос в чат-боте и получил связный, полезный, воспитанный ответ. Ощущалось как магия. Ощущалось, будто машина просто знает. А теперь придержи это ощущение — и пройди по проводу за ним, до самого низа, мимо дата-центров и GPU, до человека в Найроби или Маниле, который девять часов сидит у экрана, размечая худший контент, который производит человечество, чтобы твой ответ вышел чистым. Ему платили, по ряду сообщений, около двух долларов в час. Вот где на самом деле живёт магия.
Лоск сверху настоящий. Но он лежит на фундаменте невидимого недооплаченного человеческого труда — и у индустрии есть все причины держать этот фундамент невидимым.
Машина не учится сама
Есть утешительная история, будто ИИ «обучает себя сам» на интернете. Наполовину правда. Сырая модель, обученная на соскобленном тексте, — это брандспойт: она с радостью объяснит, как собрать оружие, изрыгнёт оскорбления и нагаллюцинирует с полной уверенностью. Что превращает этот брандспойт в полезного ассистента — процесс, построенный почти целиком из человеческого суждения.
Две стадии на человеческой тяге тащат основной вес:
- Разметка и аннотация данных. Каждый «кот», который модель узнаёт, каждая токсичная фраза, которую она научилась отклонять, каждая граница «небезопасного» была проведена человеком, метящим примеры один за другим, миллионы раз. У модели нет врождённого чувства, что вредно. Люди установили его вручную.
- RLHF — обучение с подкреплением от человеческой обратной связи. Люди ранжируют ответы модели: этот лучше, этот хуже, этот опасен. Эти ранжирования — форма, которая лепит манеры модели. «Личность», которую ты находишь такой приятной, вылеплена тысячами людей, кликающих предпочтения по сдельной ставке.
Убери этих людей — и у тебя не умный ассистент. У тебя матерящийся автокомплит. Интеллект, которому ты дивишься, — в большой части заимствованный человеческий труд, отмытый через нейросеть до полной невидимости источника.
Фундамент, который никто не фотографирует
В 2023-м журналисты вскрыли, что крупная ИИ-лаборатория наняла через аутсорсинговую фирму работников в Кении размечать графические описания насилия, жестокости и самоповреждения — материал, нужный, чтобы научить фильтр безопасности, что блокировать. Оплату называли примерно $1,32–$2 в час. Работники описывали стойкий психологический вред от чтения худшего в интернете, смена за сменой, чтобы продукт вышел «безопасным».
Это не один плохой контракт. Это форма индустрии. Экономика разметки держится на Кении, Филиппинах, Венесуэле, Индии — везде, где труд дёшев, английский рабочий, а у работников мало рычагов. Платформы режут работу на микрозадачи, оплачиваемые поштучно, без защиты, без соцпакета, часто без понимания, какая миллиардная компания на другом конце. Ценность течёт вверх. Травма остаётся внизу.
Тем временем компании, построенные на этом труде, оцениваются в сотни миллиардов. NVIDIA, продающая лопаты, перешагнула в триллионы. Маржа, из-за которой ИИ выглядит алхимией, — это отчасти просто разрыв между тем, сколько труд стоит, и тем, сколько за него платят.
Наша запись
У египтян было слово для жизненной силы, что оживляет вещь, — Сехем. Мощь, потенция, заряд, что делает существо живым и действенным. И они знали: каждое великое дело — каждый храм, каждый флот, каждая пирамида — поднято на заёмном Сехем. Человеческие руки, человеческая сила, человеческие часы, перелитые в камень.
Честный строитель чтил источник. Имя работника имело значение; жертва приносилась; труд учитывался на весах. Это Маат — поток жизненной силы, уравновешенный признанием и возвратом.
Что делает экономика разметки — извлекает Сехем и стирает источник. Она вытягивает жизненную силу — человеческое внимание, человеческое суждение, человеческую способность выносить ужас — из беднейших работников на земле, вливает в модель, а потом преподносит результат так, будто он возник из одного кремния. Человек вычищен из истории. Это стирание и есть Исфет: не взятие труда, а его сокрытие, — чтобы весы никогда не сошлись, потому что одну чашу сделали невидимой. Долг, который не назван, никогда не может быть выплачен.
Почему им нужно, чтобы это было скрыто
Невидимость — не случайность. Она несущая.
Если бы труд был виден — если бы каждый ответ ИИ шёл со сноской, называющей человека, который его научил, и два доллара, что тот заработал, — «магия» схлопнулась бы в «потогонку». Оценки зависят от истории, что интеллект производится машинами, а не собирается с людей. Признай сбор — и придётся говорить о справедливых зарплатах, условиях труда и поддержке психики. Этот разговор дорог. Молчание бесплатно.
Поэтому индустрия строит слои аутсорса между собой и работником — разметчик работает на платформу, та на подрядчика, тот на лабораторию — именно чтобы никому не приходилось смотреть. Тот же трюк, что использовала любая добывающая система: поставь достаточно посредников между выгодоприобретателем и пострадавшим, чтобы никто не чувствовал ответственности. Проприетарный чёрный ящик — до самого человека на дне.
Рычаг
Дверь здесь яркая, и открывается она с твоей стороны.
- Назови труд. Самый мощный акт — перестать звать это магией. Каждый раз, когда кто-то дивится тому, что ИИ «просто знает», говори, откуда это пришло: люди, за копейки, часто травмированные. Называние источника возвращает его на весы. Извлечение, которое можно назвать, можно оспорить.
- Требуй прозрачности цепочки поставки. Так же, как мы научились спрашивать, кто сшил нашу одежду, спрашивай, кто обучил модель. Дави за раскрытие труда в ИИ, как давили в моде. Компании реагируют на вопросы, от которых нельзя увернуться.
- Поддерживай модели честного труда и кооперативы. Есть усилия организовать дата-работников, установить нижние границы оплаты и построить кооперативы разметки, где работники владеют долей того, что создают. Клади вес туда. Работник, владеющий частью модели, — это работник, чей Сехем к нему возвращается.
- Поддерживай открытый и общинный ИИ. Когда модели открыты, а их данные и методы на свету, труд за ними можно увидеть, зачесть и справедливо оплатить. Чёрный ящик прячет работника. Открытая система может его почтить. Это не просто этика — это весь смысл строить иначе.
Машина не научила себя сама. Кто-то её научил, за два доллара в час, читая худшее в нас, чтобы твой ответ был чист.
Назови их имя. Вот где начинается равновесие.