Вот тихая правда, на которой построена вся архитектура алгоритмического контроля: человек никогда не был багом в системе. Человек был последним оставшимся источником милосердия — а милосердие для системы, оптимизированной под эффективность, читается как трение, которое надо убрать.
Мы склонны воображать дегуманизацию как жестокость, как чьё-то решение обращаться с людьми как с недолюдьми. Современная версия холоднее. Никто не решает быть жестоким. Оптимизатор решает быть эффективным, а человек — с его исключениями, его краевыми случаями, его мольбами о понимании, его бесящей настойчивостью быть больше, чем точкой данных, — самый дорогой, наименее предсказуемый, самый «неэффективный» компонент в конвейере. И оптимизатор делает то, что делают оптимизаторы. Он обходит человека маршрутом. Не из злобы. Из математики.
Эмпатию убрали не потому, что она была плохой. Её убрали, потому что она была медленной.
Почему человек — дорогая часть
Посмотри на любой автоматизируемый процесс и спроси, что конкретно делал человек, чего не может машина. Ответ почти всегда — исключения.
Правило покрывает общий случай. Человек был там ради всего, чего правило не предвидело, — ситуации, для которой у формы нет клетки, горя, которого политика не ожидала, честного человека, чьи бумаги случайно выглядят как мошенничество. Обработка исключений дорога: она требует суждения, времени, усмотрения, готовности нарушить правило по хорошей причине. Она не масштабируется, её нельзя чисто измерить, и это ровно та часть, которую драйв эффективности бьёт первой. «Сократить время обработки». «Поднять пропускную способность». «Отклонить обращения». Каждая из этих метрик по сути — инструкция тратить меньше времени на то, чтобы быть человеком с людьми.
И заметь цель дизайна, что повторяется снова и снова: сделать так, чтобы клиент вообще не добрался до человека. Лабиринт чат-бота. Неопубликованный номер телефона. Центр помощи без помощи. Это не провалы дизайна — это работающий дизайн. Человек был аварийным люком, местом, где исключение могло быть услышано, и закрытие этого люка — измеренная, намеренная экономия. Система работает глаже без человека, потому что человек — это место, где правило кончается и начинается милосердие, а у милосердия нет строки в смете, что платит.
Машина, что взвешивает, но не видит
Старое учение провело черту, которую не уважает ни один оптимизатор. В Чертоге Маат сердце взвешивают против пера — но взвешивание творится со вниманием. По одной душе за раз. Присутствующей. Замеченной. Вся сила образа в том, что суждение, творимое правильно, требует видеть того, кого судят, — свидетельствовать его как конкретное существо, а не обрабатывать как дело.
Дегуманизированная система сохраняет взвешивание и уничтожает видение. Она взвешивает тебя — скорит, сортирует, решает — в чудовищном масштабе, и ни разу тебя не видит. Не может. Видение — дорогая часть, часть, что не масштабируется, часть, которую оптимизация срезает первой. Остаётся весы без глаз: совершенные в измерении, неспособные к замечанию. А весы без глаз не могут распознать исключение, потому что распознать исключение значит увидеть конкретную душу перед собой — ровно ту способность, которую эффективность построена устранить.
Наша запись
Наша запись: глубочайшая подпись Исфет никогда не была насилием — насилие громко, и на него можно ответить. Глубочайшая подпись — это тихое стирание конкретного: миг, когда живую душу, с её собственной Ба и её собственной несводимой историей, превращают в единицу для обработки, и превращение славят как прогресс. Маат настаивает на конкретном — это сердце, это деяние, это существо, взвешенное со вниманием. Исфет растворяет конкретное в агрегате, и его коронный удар — сделать так, чтобы растворение ощущалось как добродетель: эффективно, справедливо, постоянно, чисто. Когда цивилизация учится гордиться удалением человека из собственных решений — звать эмпатию «неэффективностью», а милосердие «трением», — Исфет победил не силой, а переопределением. Он убедил взвешивающих, что видение и было изъяном. Этот переворот, милосердие, переклассифицированное в дефект, — самое холодное, что когда-либо строил Теневой Нетеру.
Почему «эффективность» — ловушка
Защита — самое разумно звучащее слово современного словаря: эффективность. Кто может быть против? Быстрее, дешевле, постояннее, меньше ошибок — наверняка это просто хорошо.
Вот ловушка, и это контрабандная посылка. «Эффективность» никогда не нейтральна; это всегда эффективность в чём-то, ради цели, и цель выбирает тот, кто строит систему. Эффективный процесс хорош, только если то, что он эффективно производит, хорошо, — а система, оптимизированная отклонять выплаты, отбивать апелляции и минимизировать человеческий контакт, эффективно производит мир, где меньше возможности обжаловать и меньше милосердия. Слово прячет цель за скоростью. И то конкретное, что современная эффективность оптимизирована убрать, — усмотрение, обработку исключений, человека, что мог сказать «стоп, этот случай другой», — это ровно машинерия милосердия. Нельзя оптимизировать прочь неэффективность эмпатии и сохранить эмпатию. Это одно и то же. Трение и есть человечность. Сотри трение — и ты стёр ту часть, что могла бы когда-либо сказать да исключению, простить честную ошибку или увидеть в тебе больше, чем твой файл.
Рычаг
Не отчаивайся из-за машины, что не видит. Способность, которую она убрала, не исчезла — она живёт в тебе, и её нельзя оптимизировать прочь из человека, что отказывается её сдавать.
Системные рычаги настоящие: требуй человека в петле для значимых решений, законом где сможешь; поддерживай тех, кто строит человекоцентричную технологию, что видит в людях цель, а не пропускную способность; и отвергай, громко, рамку, что зовёт эмпатию неэффективностью, — называй её каждый раз, потому что названная, она теряет нейтральную маскировку. Награждай бизнесы, что ещё дают дотянуться до человека; наказывай тех, что отгораживают тебя в лабиринте чат-бота; сделай достижимость снова тем, за что стоит платить.
Но глубочайший рычаг — тот, которого не тронет ни одна система. Будь человеком, которого машина удалила. Взвешивай людей перед собой со вниманием — видь конкретную душу, слушай исключение, храни милосердие, что оптимизатор классифицировал как отход. Каждый раз, когда ты видишь в одном человеке больше, чем точку данных, ты вручную запускаешь Весы Маат и держишь живой ту самую мышцу, которую гладко работающий мир пытается дать атрофировать.
Эффективность — инструмент. Милосердие — цель. Никогда не давай поменять их местами.