Эпистемологическая ловушка: связность против истины

Тема недели в чате РОД РФ https://vk.me/join/PFfooPzDB9VDiSy2xu5tghTRjNAaKVgS6pY=:

Большие языковые модели как антропологический вызов

LLM — это машины связности, а не машины истины (Ackermann & Emanuelov, 2025).

Пояснение: Большие языковые модели обучаются предсказывать следующее слово в последовательности. Их главная задача — сделать текст максимально плавным, логичным и грамматически правильным, а не достоверным с точки зрения фактов. Истина для них

— побочный продукт, а не цель. Если между двумя утверждениями возникает противоречие, модель выберет то, которое лучше продолжает паттерн, даже если оно ложно.

Оптимизируя функцию правдоподобия, модель всегда жертвует истинностью ради когезии.

Пояснение: Когезия (связность) — это свойства текста, обеспечивающие его внутреннее единство: логические переходы, согласование времён, анафоры, повтор ключевых терминов. Функция правдоподобия оценивает, насколько вероятна данная последовательности слов. Предложение «Париж — столица Германии» менее вероятно, чем «Париж — столица Франции», потому что в обучающей выборке второе встречается чаще. Однако модель не знает, что первое ложно, — она просто следует статистике. Но проблема в том, что для редких фактов или новых знаний статистики может не быть, и тогда модель «склеит» правдоподобную связность из осколков данных, порождая галлюцинацию.

Запрос к модели

• Истина (отсутствие паттерна)
• Связность (вероятностное продолжение)

Пояснение: Когда пользователь задаёт вопрос, он ожидает истинного ответа. Но модель не видит разницы между запросом «сколько лет Москве» и «напиши стильный текст про историю города». В обоих случаях она ищет наиболее вероятное продолжение. Если в данных есть устойчивый миф или популярное заблуждение, модель с большей вероятностью воспроизведёт его, чем редкое, но точное знание. Истина требует выхода за пределы статистического паттерна — она часто контринтуитивна, неожиданна, аномальна. Модель же стремится к средней, предсказуемой, гладкой связности.

Галлюцинация

Галлюцинация — структурный сбой, временный.

Пояснение: Галлюцинация в LLM —ошибка в обычном смысле (как баг в коде), а побочный эффект самого механизма. Модель генерирует текст, не имея внутренней модели мира. Она не может проверить факт — только оценить, насколько одно слово «похоже» на другое в многомерном пространстве признаков. Когда модель сталкивается с пробелом в знаниях или противоречивыми данными, она «достраивает» связную последовательность, часто выдавая абсолютно ложную информацию с высокой степенью уверенности. Галлюцинация временна в том смысле, что при другом случайном seed’е или переформулировке запроса модель может выдать другой ответ. Но системно галлюцинации неустранимы для текущей архитектуры — это не баг, а фича[1].

Кризис авторитета

«Количественное пустословие» — генерация убедительного нарратива при онтологическом безразличии к фактам.

Пояснение: Термин «количественное пустословие» (или «пустословие большого объёма») описывает ситуацию, когда модель производит длинный, хорошо структурированный, наукообразный текст, который при ближайшем рассмотрении оказывается лишённым фактического содержания или содержит скрытые ошибки. Поскольку текст убедителен (грамотный, связный, уверенный тон), читатель склонен доверять ему, особенно если он не специалист в данной области. Это создаёт кризис традиционных авторитетов: ранее гладкость и объём текста коррелировали с экспертностью, теперь — нет. Онтологическое безразличие к фактам означает, что модели «всё равно», существуют ли описываемые объекты в реальности.

Слепая зона: допущение о систематичности истины не работает для нормативных суждений.

Пояснение: Нормативные суждения — это утверждения о том, что должно быть, а не что есть (например, «убивать плохо»). Многие люди ошибочно полагают, что модели могут дать объективный ответ на этические вопросы, если собрать достаточно данных и «усреднить» мнения. Однако истина в нормативике не сводится к статистическому большинству или когерентности. Модель не может отличить моральный факт от популярного предрассудка. Она будет воспроизводить доминирующие в корпусе ценностные установки, часто западные, либеральные, специфичные для определённой культуры. Слепая зона в том, что пользователь принимает статистическую связность за этическую истинность.

Итоговое резюме по ловушке 1

Когда мы используем LLM как источник знания, мы получаем не отражение реальности, а вероятностную имитацию речи. Чем убедительнее текст, тем больше вероятность, что мы примем его за истину — но именно эта убедительность достигается ценой отбрасывания неудобных, редких или контринтуитивных фактов. Образование, построенное на принципе «истина важнее связности», сталкивается с фундаментальным вызовом: как научить студентов отличать правду от гладкой лжи, когда ложь научилась говорить гладко.

Список литературы

1. Ackermann R., Emanuilov S. Incentives or Ontology? A Structural Rebuttal to OpenAI's Hallucination Thesis [Электронный ресурс] // arXiv.org. – 2025. – 16 Dec. – Режим доступа: https://arxiv.org/abs/2512.14801v1 (дата обращения: 24.04.2026). – DOI:

10.48550/arXiv.2512.14801.

1. Jose B., Cleetus A., Joseph B., Joseph L., Jose B., John A. K. Epistemic authority and generative AI in learning spaces: rethinking knowledge in the algorithmic age [Электронный ресурс] // Frontiers in Education. – 2025. – Vol. 10. – Article 1647687. – Режим доступа: https://www.frontiersin.org/journals/education/articles/10.3389/feduc.2025.1647687/fu ll (дата обращения: 24.04.2026). – DOI: 10.3389/feduc.2025.1647687.
2. Coeckelbergh M. LLMs, Truth, and Democracy: An Overview of Risks // Science and Engineering Ethics. – 2025. – Vol. 31, No. 1. – P. 4. – DOI: 10.1007/s11948-024-00545-0.
3. Fabo C. Who educates the LLMs? [Электронный ресурс] // UNESCO. – 2025. – 24 Nov. – Режим доступа: https://www.unesco.org/en/articles/who-educates-llms (дата обращения:

24.04.2026).

1. Queloz M. Can AI Rely on the Systematicity of Truth? The Challenge of Modelling Normative Domains [Электронный ресурс] // Philosophy & Technology. – 2025. – Vol. 38, No. 34. – P.

1–27. – Режим доступа: https://arxiv.org/abs/2507.09676 (дата обращения: 24.04.2026). – DOI: 10.1007/s13347-025-00864-x.

1. Алиев Р. Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху // Логос. – 2025. – № 4. – С. 229–252. – Режим

доступа: https://cyberleninka.ru/article/n/algoritmicheskaya-shizofreniya-metasimulyatsionnayatransformatsiya-realnosti-v-tsifrovuyu-epohu (дата обращения: 24.04.2026).

1. Шевченко А.А. «Галлюцинации» ИИ как новая форма эпистемической ошибки [Электронный ресурс] // Respublica Literaria. – 2025. – Т. 6, вып. 4. – С. 93–98. – Режим доступа: https://cyberleninka.ru/article/n/gallyutsinatsii-ii-kak-novaya-forma-epistemicheskoyoshibki (дата обращения: 24.04.2026). – DOI: 10.47850/RL.2025.6.4.93-98.

________________________

[1] «Не баг, а фича» (от англ. feature — особенность, свойство) — популярная IT-идиома, означающая, что неожиданное поведение программы или устройства является не ошибкой (багом), а запланированной полезной функцией.

_____

Текст сделан на основе доклады

Храмов А.Е., д-р физ.-мат. наук, профессор, член-корреспондент РАН.

ХXVI Международный конгресс

УСТОЙЧИВОЕ РАЗВИТИЕ ОБРАЗОВАНИЯ:

МИССИЯ.ТРАНСФОРМАЦИЯ. РЕСУРСЫ

23апреля 2026 года

ПЛЕНАРНАЯ СЕССИИ

АНТРОПОЛОГИЧЕСКАЯ МИССИЯ СОВРЕМЕННОГО ОБРАЗОВАНИЯ

Доклад «Большие языковые модели как антропологический вызов образованию: от инструмента познания к суррогату мышления»