Математика и Язык внутри ИИ
Теория нужна лаборатории не для того, чтобы объяснить всё. Она нужна, чтобы точно указать, что именно мы исследуем и почему это устроено так, а не иначе. В этом разделе мы собираем минимальный теоретический аппарат, на котором держится наша экспериментальная программа.
Мы не пытаемся превратить сайт в курс по нейросетям. Мы объясняем только то, что необходимо для понимания главного вопроса: что происходит между запросом и ответом. И почему на этом пути так часто теряется математический смысл.
1.Математическая задача и естественный язык
Математическое отношение — это структура: равенство, порядок, зависимость, операция. Пока она записана символами, она однозначна. Но когда она выражается словами, между структурой и её языковой оболочкой возникает зазор.
Именно в этом зазоре и работает наша лаборатория. Мы смотрим, что происходит, когда математическое отношение переходит в естественный язык, и как это влияет на ответ машины.
2.Естественный язык не является математическим языком
Это, пожалуй, самый важный тезис всей теории. Естественный язык не является «нестрогим математическим языком». Это другой язык, с другими правилами, с другой логикой, с другими целями. Он создан для коммуникации в изменчивых контекстах, а не для однозначной передачи структуры.
Человек часто достраивает смысл автоматически. Машина — нет. Она видит слова и вероятности, но не видит контекста, который человек считает очевидным.
3.Как Большие Языковые Модели представляют естественный язык
Нам не нужно глубоко погружаться в устройство нейросетей. Достаточно понять одну вещь: современная Большая Языковая Модель — это последовательность вероятностных преобразований, а не символический решатель.
Она не переводит задачу в формулу. Она не строит уравнения. Она предсказывает следующее слово на основе предыдущих. И вот здесь возникает ключевой вопрос: как в такой модели вообще появляется математическая структура?
4.Где появляется математическая структура
Здесь начинается самое интересное. Если модель не работает с символами, откуда она вообще знает, что «два плюс два — четыре»? Как она справляется с количеством, порядком, равенством, операциями?
Гипотеза состоит в том, что математическая структура частично восстанавливается внутри скрытых представлений. Но она восстанавливается неполно, неустойчиво, и сильно зависит от того, как задача сформулирована.
Нас особенно интересует:
Что происходит, когда математическая структура выражена не формулой, а естественным языком? Как меняется качество ответа, если мы переформулируем одну и ту же задачу разными способами? Где модель «теряет» структуру, а где — удерживает её?
Именно эти вопросы становятся основой наших экспериментов.
5.Синтаксис > семантика > математическая структура
Мы предлагаем следующую схему. Она условна, но удобна для описания того, что происходит с задачей на пути от человека к машине.
У человека переход от языка к математике происходит почти мгновенно и часто неосознанно: он «понимает», что имеется в виду. У Большой Языковой Модели этот переход — не гарантирован. Она может остановиться на уровне L, не дойдя до S или M. Или дойти до S, но не удержать M.
Мы не утверждаем заранее, что именно происходит внутри модели. Мы делаем это предметом исследования.
6.Где возникает ошибка: классификация I–IV
Обычное слово «галлюцинация» слишком грубое. Оно смешивает разные явления. Нам нужна более точная классификация — такая, которая разделяет ошибку постановки, ошибку языка, ошибку интерпретации и ошибку вычисления.
Человек неправильно поставил математическую задачу
Ошибка возникла ещё до того, как машина получила запрос. Человек сам сформулировал условие неверно. ИИ может решить поставленную задачу правильно — но это будет решение не той задачи, которую человек имел в виду.
Язык неадекватно выразил математический замысел
Замысел был правильным, но формулировка его исказила. Использованы многозначные термины, пропущены условия, конфликтуют требования. Машина получила текст, который не соответствует исходной задаче.
Модель неправильно интерпретировала языковую структуру
Текст был корректным. Но машина неправильно его прочитала: не заметила отрицание, перепутала порядок условий, не увидела квантор. Это ошибка интерпретации, а не вычисления.
Модель правильно интерпретировала задачу, но неправильно выполнила операцию
Понимание было верным, но арифметика или логический шаг — ошибочны. Это классическая вычислительная ошибка, и она принципиально отличается от трёх предыдущих.
Источники
-
Syntactic Blind Spots: How Misalignment Leads to LLMs’ Mathematical Errors
Williamson, Ji, Dwyer — MathNLP 2025. Показано, что Большая Языковая Модель может ошибаться на семантически одной и той же математической задаче, если изменить синтаксическую форму. Авторы называют это «синтаксическими слепыми зонами» и связывают с «хрупкой связью между поверхностной формой и внутренним представлением». Переформулировка задачи в более знакомую синтаксическую структуру часто возвращает правильный ответ. -
Disentangling Text and Math in Word Problems: Evidence for the Bidimensional Structure of Large Language Models’ Reasoning
Calais и соавторы — Findings of ACL 2025. Попытка разделить текстовую интерпретацию и математическое решение. Словесные задачи преобразуются в эквивалентные математические представления, чтобы отдельно проверить обе составляющие. В экспериментах небольшие модели значительно сильнее теряют качество на полном текстовом условии, чем на математическом представлении — падение составило от 2 до 7 раз. -
Can LLMs Reason Abstractly Over Math Word Problems Without CoT? Disentangling Abstract Formulation From Arithmetic Computation
Cheng et al. — EMNLP 2025. Разделяют два навыка: абстрактную формулировку (выделить математические отношения из текста) и арифметическое вычисление (выполнить вычисление). Показано, что эти компоненты можно экспериментально разделять. -
A Mechanistic Interpretation of Arithmetic Reasoning in Language Models using Causal Mediation Analysis
Stolfo, Belinkov, Sachan — EMNLP 2023. Механистическая интерпретируемость: какие компоненты Большой Языковой Модели участвуют в арифметическом рассуждении. -
Disentangling Mathematical Reasoning in LLMs: A Methodological Investigation of Internal Mechanisms
Baeumel и соавторы — MathNLP 2025. Распределение вычислительной работы между механизмом внимания и многослойным перцептроном.