В 2016-м фирма под названием Cambridge Analytica соскребла данные Facebook примерно 87 миллионов человек и продала кампаниям возможность шептать разное сообщение в каждое ухо. Это стало скандалом. Сняли документалки. Компания закрылась. Все согласились, что это черта, которую переступать нельзя.
Вот часть, которую никто не хочет произносить вслух: Cambridge Analytica была репетицией. Она была грубой. Работала на статичных психографических корзинах и живых копирайтерах, которые штамповали пару десятков вариантов объявлений. Это карета с лошадью на фоне того, что большая языковая модель делает сегодня — генерирует десять тысяч заточенных сообщений в секунду, тестирует их в реальном времени и учится, какая ложь заходит в какую душу. Скандал был не в том, что техника существует. Скандал в том, что она стала хорошей.
Голос всегда был мишенью
Демократия держится на одном хрупком допущении: у граждан достаточно общей почвы — те же факты, та же площадь — чтобы доспорить до решения, которое все примут. Голос — это расчёт по итогам спора. Но расчёт держится, только если мы спорили об одной реальности.
Микротаргетинг бьёт ровно по этой общей почве. Он не пытается переубедить тебя аргументом получше. Он режет электорат на миллионы сегментов и скармливает каждому сообщение, сконструированное сдвинуть именно его — здесь другой страх, там другое обещание, к чёрту противоречия, потому что ни один сегмент не видит ленту другого. Ты больше не гражданин на площади. Ты одинокая мишень в зеркальном зале, и каждое зеркало повесили, чтобы тебя вести.
Что именно изменил ИИ
У старой модели было три жёстких предела. ИИ растворил все три.
- Масштаб. Живая команда пишет от силы пятьдесят вариантов объявлений. Модель пишет пятьдесят тысяч до обеда, каждый A/B-тестируется на живой вовлечённости, проигравших убивают, победителей скрещивают. Убеждение становится эволюционным процессом, а ты — среда, против которой оно эволюционирует.
- Персонализация. Cambridge Analytica сортировала тебя в корзину личности. Сегодняшние системы могут сгенерировать сообщение, нацеленное на тебя конкретно — твоя история постов, твои обиды, твои ночные поиски — на языке, настроенном под твой точный регистр. Не демография. Ты.
- Синтетическая реальность. Генеративные модели делают фейк неотличимым от настоящего. Клонированный голос кандидата. Видео события, которого не было. Поток «низовых» комментариев, написанных вообще без человека — астротурфинг в промышленном масштабе. Когда подделать можно что угодно, ломаются сразу две вещи: ты не можешь доверять настоящему, а лжец получает второе оружие — дивиденд лжеца, когда любую подлинную запись можно отмахнуть как «наверное, ИИ».
Сложи это вместе — и получишь не более громкую пропаганду. Ты получишь пропаганду невидимую, личную и неопровергаемую. Это не апгрейд. Это фазовый переход.
Наша запись
Египтяне построили весь свой космос на одной петле: Маат, упорядоченная истина, что держит мир вместе, вечно теснимая Исфет, хаосом, что его растворяет. И они знали: самое опасное оружие в этой войне — не меч. Это Хека — творящее слово, произнесение, что формирует реальность самим фактом произнесения.
Движок микротаргетинга — это Хека, поставленная на конвейер и вывернутая. Это творящее слово, обращённое к растворению. Вместо одного истинного произнесения, связывающего народ в общую реальность, оно говорит десять миллионов противоречащих слов, каждое истинно только для своей мишени, и общая реальность расходится по швам. Каждый сегмент живёт в личном космосе. Ни два не могут встретиться. Это Исфет в чистейшей технической форме — не ложь об одной вещи, а уничтожение общей почвы, на которой вообще могла бы стоять хоть какая-то истина.
Теневому Нетеру не нужно, чтобы ты поверил в ложь. Ему нужно только, чтобы ты перестал верить, что есть общая истина, которую можно найти.
Движок вовлечённости под спудом
Вот что делает всё хуже: машине даже не нужен злодей за штурвалом. Алгоритмы рекомендаций, которые каждый день решают, что видит миллиард человек, оптимизированы под одно — вовлечённость. А ничто не вовлекает так, как ярость, страх и племенная злоба. Система сама, безо всякой подсказки, обнаружила, что быстрейший способ удержать твоё внимание — разозлить тебя на соседа.
Так что ещё до того, как хоть одна кампания купит рекламу, субстрат уже наклонён к расколу, потому что раскол прибылен. Микротаргетеры просто подключаются к машине, которая заранее радикализировала электорат ради выручки. Легаси-система забагована так, что удобно служит любому, кому нужно население расколотым. Это не заговор. Это стимул. Что хуже, потому что стимулы не арестуешь.
Рычаг
Теперь дверь — потому что она есть, а отчаяние — это просто пропаганда, работающая на тебе напрямую.
Уязвимость конкретна: микротаргетинг зависит от непрозрачности. Он работает, только если ты не знаешь, что тебя таргетируют, не видишь сообщений других сегментов и не можешь отследить, кто заплатил. Каждое из этого чинится.
- Требуй прозрачности сообщения, а не только отправителя. Дави за публичные архивы рекламы, где каждое политическое объявление, его спонсор и параметры таргетинга видны всем. Сообщение, работающее только в темноте, умирает на свету. Некоторые юрисдикции уже это требуют — правила ЕС о прозрачности политрекламы это начало. Расширь их.
- Откажись от приватной ленты. Манипуляции нужна алгоритмическая лента, которую она контролирует. Хронологические ленты, открытые протоколы, децентрализованные соцсети — они ломают таргетинг, возвращая сортировку в твои руки. Не твой алгоритм — не твоя клетка.
- Отстраивай общую почву намеренно. Поговори с сегментом, который тебе не положено видеть. Вся атака держится на том, что ты никогда не сверишься с человеком, которого машина поставила против тебя. Сверься. Один этот акт — брандмауэр.
- Проверяй у источника. Тренируй рефлекс: перед тем как поделиться, спроси, кому выгодно, чтобы ты этим поделился. Пятисекундная пауза побеждает сообщение, заточенное под рефлекторный репост.
Истине не нужно достичь каждого. Ей нужно достичь достаточного числа людей, которые потом откажутся сортироваться, откажутся репостить и пойдут искать соседа, которого им велели ненавидеть.
Они могут генерировать десять тысяч лжей в секунду. Они не могут сгенерировать момент, когда ты поворачиваешься к другому человеку и спрашиваешь: а что сказали тебе?
Сверьте ленты. Вот и всё заклинание — обращённое вспять.