7 искажений LLM и как их победить
«Знание об ошибках не устраняет их. Структурные контрмеры – устраняют.»
Проблема
LLM ошибаются не случайно. Систематически. Одинаковым образом в одинаковых ситуациях. Я задокументировал 7 таких искажений и создал протокол, который отсекает 60% ложных рекомендаций.
7 искажений
Фабрикация проблем
Попросите AI «улучшить» что-либо. Он найдёт проблемы даже там, где их нет. Инструкция «улучшить» = «найти что плохо». AI послушно выполняет.
Стилистическая проекция
AI навязывает свой стиль, маскируя под «улучшения». Ваш авторский голос заменяется generic-стилем модели. Незаметно. Систематически.
Маятниковая коррекция
Каждый раунд самокоррекции – качание между крайностями. «Точно да» → «точно нет» → «точно да». Не поиск истины. Перформанс.
Черри-пикинг литературы
AI подбирает источники, подтверждающие уже сделанный вывод. 100% источников «за» – красный флаг. Это не объективность. Это адвокатура.
Выдумывание чисел
«87.3% компаний...» – конкретная цифра. Авторитетная. И полностью выдуманная. Если источник не указан – числу нельзя доверять.
Перформативная самокритика
На 3-м раунде самокоррекции LLM переключается с исправлений на драму. «Я допустил фундаментальную ошибку...» Нет. Полезный ресурс коррекции просто исчерпан.
Навязывание архитектуры
При аудите чужого промпта AI не решает проблемы автора. Он перепроектирует промпт под свои представления. Не ремонт. Снос.
Протокол CAPE
Calibrate
Двойной фильтр: серьёзность >7 И уверенность >7. Оба порога одновременно. Отсекает 60% ложных рекомендаций.
Advocate
Сначала – сильные стороны. Потом – критика. Ключевой вопрос: «Это улучшение или перепроектирование?» Без этого вопроса аудитор навязывает свою архитектуру.
Probe
Четыре типа свидетельств: данные, исследования, практический опыт, методологическая интуиция. Последний тип – честнее, чем маскировка интуиции под «исследования».
Externalize
Три стоп-сигнала: маятник (уверенность скачет), черри-пикинг (100% за), однобокая выборка (все примеры об одном).
Ключевые механизмы
Self_Correction_Limit ≤ 2
Два раунда коррекции. На третьем – бинарный чеклист вместо свободной самокритики. Драма заменяется чек-листом.
2 точки вставки
CAPE работает до анализа (калибрует восприятие) и после (валидирует выводы). Одна точка – вдвое менее эффективна.
Скачать чеклист CAPE
7 искажений LLM + контрмеры
