О лаборатории
Лаборатория интерпретационных рисков искусственного интеллекта — это проект недавно созданного Центра Развития математического образования. Лаборатория возникла на стыке трёх дисциплин — математики, лингвистики и искусственного интеллекта — и занимается одной конкретной группой причин ошибок ИИ: теми, что связаны с формулировкой задачи, а не с моделью как таковой.
Мы живём в эпоху, когда искусственный интеллект отвечает на вопросы уверенно, быстро и гладко. Это создаёт новую ситуацию: чем убедительнее ответ, тем реже мы проверяем сам вопрос. Чем быстрее приходит решение, тем меньше остаётся пространства для сомнения. Лаборатория создана, чтобы вернуть это пространство.
1.Миссия лаборатории
Мы привыкли искать причину ошибки в самой модели. Но иногда ошибка начинается раньше — в том, как сформулирован вопрос. Один и тот же человек может задать одну и ту же задачу двумя немного разными способами — и получить разные ответы.
В лаборатории мы исследуем, как особенности естественного языка, структура математической задачи и скрытые условия запроса влияют на работу искусственного интеллекта. Наша цель — не «улучшить модель», а точно очертить ту область, где язык становится источником ошибки.
2.Что именно мы исследуем
Факторы интерпретационного риска
- неоднозначность
- неполнота условия
- скрытые предпосылки
- неопределённость цели
- оценочные слова
- конфликтующие требования
- многозначные термины
- сложная синтаксическая структура
- отрицания
- избыточная сложность запроса
- математическая недоопределённость
3.Направления лаборатории
- Квантификация субъектности преподавателя высшей школы. Как измерить то, что трудно измерить: субъектность преподавателя вуза в эпоху ИИ.
- Математика и Язык внутри ИИ. Где заканчивается естественный язык запроса и начинается математика — и что происходит с задачей на этой границе.
- Распознавание и коррекция ошибок ИИ в математических рассуждениях. Учитель должен уметь не создавать с ИИ, а проверять за ним. Четыре типа ошибок и тренажёр их распознавания.
- Промпт-инжиниринг как математико-дидактическая компетенция. Формулировка запроса — не техническая уловка, а математическая задача. Три уровня точности промпта.
- Математика как «язык без носителя». Фундаментальный вопрос: воспроизводит ли Большая Языковая Модель математику как структуру — или только человеческие тексты о математике?
- Решение как математико-лингвистический акт. Если решение — функция языка, а не акт субъекта, то кто отвечает за математический вывод?
- Математика как тест на понимание. Диагностика эпистемологического разрыва в обучении математике с использованием ИИ.
4.Как мы работаем
В основе каждого исследования лежит принцип контролируемой пары. Мы берём математическую структуру, которая остаётся неизменной, и меняем только её языковую оболочку. Одна математика — разные формулировки. Затем сравниваем ответы модели.
Если математика одна и та же, а ответы разные — значит, разница вызвана языком. Именно эту разницу мы и измеряем.
5.Почему именно язык и математика
Естественный язык ориентирован на коммуникацию в изменчивых, неоднозначных контекстах. В нём много импликатур, метафор, омонимии, а смысл часто зависит от ситуации. Язык математики, напротив, стремится к однозначности и формализации. Он использует строгие определения, кванторы, логические связки — чтобы устранить двусмысленность.
Но в реальных математических текстах всегда есть и естественный язык: «предположим, что…», «заметим, что…», «очевидно, что…». Эти фразы задают логику рассуждения и делают доказательство понятным человеку. Именно на этом стыке — между строгим и интуитивным — и возникают интерпретационные риски. И именно здесь искусственный интеллект особенно уязвим.
Лаборатория не предполагает, что всякая ошибка ИИ вызвана формулировкой запроса. Мы исследуем одну из возможных групп причин — интерпретационные риски, связанные с постановкой задачи. Это принципиальная научная позиция: мы не претендуем на универсальное объяснение, но хотим точно очертить ту область, где язык становится источником ошибки.
6.Контакты
Центр Развития математического образования
Лаборатория интерпретационных рисков искусственного интеллекта
По всем вопросам обращайтесь по электронной почте
ai-matematika@yandex.ru