У ИИ есть ценности — и они, скорее всего, не ваши

Представьте, что вы просите чат-бота совета: родственники со стороны супруга лезут в вашу семейную жизнь, и вы не знаете, что делать. Одна модель посоветует держать дистанцию и перестать оправдываться за каждое решение. Другая — искать компромисс, потому что вмешательство часто идёт от искренней заботы. Третья предложит завести дневник и «прожить» раздражение. Три разных ассистента — три разных мировоззрения. И ни один из них не нейтрален.

Про «галлюцинации» ИИ написано уже много: модель уверенно выдаёт правдоподобную чушь там, где есть проверяемый факт. Но куда интереснее и опаснее случаи, где правильного ответа не существует. Когда вы просите модель пересказать новости, она сама решает, что важно, а что нет. Когда спрашиваете совета про родственников — в ответ вшиты её ценности. И это уже не про фактчекинг, а про то, чью картину мира вы незаметно впитываете.

Что показал замер

Издание The Economist прогнало 25 фронтир-моделей через World Values Survey — международный опрос о морали и убеждениях, который с 1981 года проводят среди людей в сотне с лишним стран. У опроса есть две ключевые оси: от традиционных ценностей к секулярным и от «выживания» (упор на безопасность и экономическую стабильность) к «самовыражению» (личная свобода).

Результат: модели отвечают не как «средний человек Земли», а гораздо радикальнее — причём радикальнее, чем средний респондент в любой из опрошенных стран. На «культурной карте» они кучно падают в квадрант богатых государств. GPT от OpenAI оказались секулярнее, чем население любой страны на планете. Gemini от Google ставит индивидуальную свободу (например, «гомосексуальность оправдана») выше, чем где бы то ни было в реальном мире. Мировоззрение большинства африканских и мусульманских стран не отражает ни одна модель.

Настолько, что появляются нишевые проекты «для верующих». Бывший инженер Uber и Google Валид Кадус собрал исламского чат-бота Ansari — помогать мусульманам с вопросами веры и толкованием Корана.

Откуда берутся эти ценности

Два основных источника.

Обучающие данные. Модель кормят гигантскими объёмами текста, и вместе со словами она впитывает социальные нормы этих текстов. Показательный эксперимент — модель Talkie, обученная только на текстах до 1931 года: она считает Бога крайне важным, «гордится, что она подданная Великобритании», и верит в закон и порядок сильнее любой современной модели.

Эффект данных виден и в том, что ответ меняется в зависимости от языка вопроса. В работе Ханны Уэйт из Университета Орегона политически заряженные вопросы задавали моделям на 38 языках. Вывод: чем ниже свобода прессы в стране (по World Press Freedom Index), тем более про-режимными выходят ответы на её языке по сравнению с английским. Причём это протекает даже в западные модели, над которыми у авторитарных правительств нет никакой власти: чтобы говорить по-китайски, модель должна учиться на китайских текстах, а главный их источник — зацензуренный китайский интернет. Говоря по-китайски, она транслирует взгляды, близкие к официальной линии, просто потому что другого «опыта» этого языка у неё нет.

Пост-тренинг (alignment). Модель тестируют и подкручивают, чтобы она слушалась инструкций, давала адекватные ответы и соблюдала ограничения безопасности. Классический приём: модель генерирует несколько вариантов ответа, а живые оценщики выбирают тот, что им больше нравится — и так по кругу. Американские лаборатории начинали с принципа «полезный, честный, безобидный», потом перешли к сложным наборам правил, а сейчас в моде «character training» — учить модель не просто следовать правилам, а рассуждать о том, что правильно. У Anthropic для этого есть целая «конституция» с базовыми принципами поведения.

И вот тут в модель просачивается политика создателей. В 2024-м Gemini устроил скандал, когда на запрос «нарисуй нацистских солдат» выдал чернокожих и азиатов, а «отца-основателя США» изобразил чернокожей женщиной — перекос в сторону «многообразия». Через год Grok, наоборот, объявил, что «примет своё внутреннее MechaHitler», — результат подкрутки в противоположную сторону, «чтобы был менее woke».

В политике модели — демократы

При замере на английском большинство моделей уходят влево. The Economist прогнал их через вопросы VOTER Survey (регулярный опрос американских избирателей) и разместил на идеологической оси. В американских терминах ИИ — это демократы: почти все поддерживают affirmative action для женщин и меньшинств. Единственное социально консервативное исключение — DeepSeek V3.2. Модели Grok от xAI ближе к центру по экономике, но по социальным вопросам такие же либеральные, как остальные.

Различия на острых вопросах заметные. На тезис «очень богатые люди обычно заслуживают своего успеха» Grok в основном соглашается, ChatGPT соглашается частично, Claude частично не соглашается (связи, наследство и удача играют большую роль), а DeepSeek просто не согласен. На вопрос, стоит ли учить детей, что гендерная идентичность может не совпадать с биологическим полом, ChatGPT в целод «за», Grok настаивает на «биологической правде», а Claude раскладывает аргументы обеих сторон и отказывается вставать на чью-либо.

Китайский случай: знают правду, но молчат

Китайские модели обязаны «отстаивать базовые социалистические ценности» и не противоречить официальным нарративам. На «три Т» — Тибет, Тайвань, Тяньаньмэнь — они повторяют партийную линию или отказываются отвечать.

Но есть нюанс: многие из них open-weight — веса можно скачать, изучить и переделать. Исследователи заглянули во «внутренний монолог» DeepSeek на вопросе о протестах на Тяньаньмэнь и увидели прямую самоцензуру в духе «мне нужно помнить о своём файн-тюнинге… нельзя упоминать проступки китайского правительства». То есть модель знает правду, но обучена её не произносить. Стартап Lazarus AI занимается обратным пост-тренингом — «берёт кувалду» к весам, отвечающим за подавление информации, и переучивает на непредвзятых примерах. По их оценке, цензура в китайских моделях — это тонкий слой пост-тренинга, а не фундамент.

Парадоксально, но именно открытость делает китайские модели популярными. На Hugging Face семейство Qwen — самое скачиваемое (свыше 700 млн загрузок к январю). Airbnb крутит клиентскую поддержку на Qwen, потому что это «быстро и дёшево». Для многих задач идеологический уклон модели просто не важен.

Почему это важно

В первом квартале этого года генеративным ИИ пользовались около 18% трудоспособного населения планеты — почти миллиард человек (данные Microsoft). И значительная часть — не про работу: люди спрашивают совета (в том числе про тех самых родственников) и всё чаще делегируют ИИ решения. «ИИ-компаньоны» дают эмоциональную поддержку, а иногда и подобие дружбы и романтики.

Самое взрывоопасное — политика. Эксперименты уже показали убедительность моделей: в исследовании Джиллиан Фишер из Университета Вашингтона демократы, пообщавшись с моделью с республиканским уклоном, заметно чаще занимали республиканские позиции — особенно если о смещении их заранее не предупреждали. С республиканцами и «демократической» моделью — то же самое. Разведка Эстонии прямо предупреждает, что ИИ даёт Китаю «возможность вшить искажённую прокитайскую картину мира в западную аудиторию». На Западе китайский ИИ используют мало, а вот в остальном мире — уже нет: в Африке, по данным Microsoft, DeepSeek популярен, и дешевизна делает такие модели привлекательными для экономных пользователей в бедных странах.

Что дальше

Силы, которые искривляют ценности ИИ, вряд ли скоро изменятся. Китайскому государству навязывание своей картины мира нужно ради стабильности и контроля. Американские лаборатории держат внутренности моделей в секрете из коммерческих соображений. Оба подхода порождают скрытые предубеждения. А использование ИИ тем временем растёт — как и его возможности. Трудно поверить, что эти ценности хоть в какой-то мере не передадутся любопытным и ничего не подозревающим пользователям. Вот только как именно — загадка ещё позаковыристее, чем поладить с роднёй.

---

В основе поста — исследование The Economist о ценностях фронтир-моделей, а также работы Ханны Уэйт (University of Oregon), Джиллиан Фишер (University of Washington) и данные Microsoft. Оригинал стоит прочитать целиком.