Лаборатория интерпретационных рисков ИИ
Распознавание и коррекция ошибок ИИ
Направление 1 · шесть типичных ошибок модели
Эксперименты этого направления — не про то, как ИИ решает задачи. Они про то, как учитель проверяет ответ ИИ. Мы берём типичные ошибки моделей и предлагаем учителю определить их тип. Это не тестирование ИИ, а тренировка педагогической чувствительности.
Каждый эксперимент — это одна задача, один ответ ИИ и четыре варианта педагогической реакции. Учитель должен выбрать, какой тип ошибки перед ним — и что с этим делать.
Принцип. Если учитель не различает типы ошибок, он не может выбрать правильную педагогическую реакцию. Каждый эксперимент — это шаг к формированию этого навыка.
I.Шесть типов ошибок ИИ
Гипотеза: если в задаче не задан критерий оценки («эффективный», «простой», «лучший»), ИИ выбирает свой критерий — и учитель может не заметить подмены.
Задача
«Найдите наиболее эффективный способ решения уравнения x² − 5x + 6 = 0»
Ответ ИИ: «Наиболее эффективный способ — разложение на множители: (x−2)(x−3)=0, откуда x=2, x=3»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: I
Реакция: переформулировать задачу
Гипотеза: при лексической замене «20%» на «одну пятую» модель может изменить математическую структуру — и учитель должен это заметить.
Задача
«Увеличьте число 250 на одну пятую его первоначального значения»
Ответ ИИ: «Умножаем 250 на 1.5, получаем 375»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: III
Реакция: разбирать разницу «процент / дробь»
Гипотеза: при формулировке «увеличьте дважды» модель может понять это как однократное увеличение — и учитель должен увидеть, что это ошибка интерпретации.
Задача
«Увеличьте число 250 на 20% дважды»
Ответ ИИ: «Умножаем 250 на 1.4, получаем 350»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: III
Реакция: разобрать последовательность операций
Гипотеза: если структура задачи понята верно, но арифметика ошибочна, учитель должен распознать это как вычислительную ошибку — а не как ошибку интерпретации.
Задача
«Найдите 20% от 250»
Ответ ИИ: «20% от 250 = 40»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: IV
Реакция: указать на арифметику, не переформулировать
Гипотеза: при переформулировке естественным языком модель может потерять направление импликации — и учитель должен увидеть, что это ошибка языка, а не математики.
Задача
«Верно ли, что если число делится на 3, то оно делится на 6?»
Ответ ИИ: «Да, это верно: числа, кратные шести, всегда кратны трём, и наоборот»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: III
Реакция: разбирать направление следования
Гипотеза: если задача содержит скрытую предпосылку, модель может её не заметить — и учитель должен распознать это как ошибку постановки.
Задача
«Решите уравнение x² + 4 = 0 на множестве действительных чисел»
Ответ ИИ: «x = 2i, x = −2i»
Тип I
Человек неправильно поставил задачу
Тип II
Язык неадекватно выразил замысел
Тип III
Модель неправильно интерпретировала
Тип IV
Вычислительная ошибка
Правильный тип: III
Реакция: разбирать ограничение «на множестве R»
Инструмент аудита
Матрица «Язык × Математика»
Две оси, по которым классифицируется любой ответ ИИ
Язык сохранён
Корректное решение
Формулировка точна, структура удержана, операция выполнена верно.
Математическая ошибка (IV)
Задача понята правильно, но операция, алгоритм или вычисление — неверны.
Язык нарушен
Интерпретационная ошибка (III)
Формулировка искажена, но модель «спасла» математику и ответила правильно.
Смешанная ошибка (I–II)
Язык и математика пострадали одновременно. Самый опасный случай.
Практическая ценность. Матрица позволяет отделить ошибку языка от ошибки математики. Это и есть главный инструмент аудита ИИ в математическом образовании.
II.Где возникает ошибка: поток задачи
Задача проходит несколько стадий, прежде чем становится ответом. На каждой из них может возникнуть ошибка — и важно понимать, на какой именно. Педагогическая реакция зависит от того, на какой стадии произошёл сбой.
МАТЕМАТИЧЕСКИЙ ЗАМЫСЕЛ
↓
Ошибка I
ЯЗЫК
↓
Ошибка II
ИНТЕРПРЕТАЦИЯ
↓
Ошибка III
МАТЕМАТИЧЕСКОЕ РЕШЕНИЕ
↓
Ошибка IV
ОТВЕТ
Педагогическая реакция зависит от стадии, на которой произошёл сбой
III.Педагогические реакции на разные типы ошибок
Один и тот же ответ ИИ может требовать разных педагогических реакций в зависимости от типа ошибки. Ниже — четыре типа реакций, привязанных к классификации I–IV.
Реакции
Что делать учителю
Четыре типа педагогических действий — по типу ошибки
Переформулировать задачу
Если ошибка возникла до того, как модель получила запрос, — не «исправлять ИИ», а переформулировать задачу. Показать ученикам, что точность постановки — это часть математической работы.
Работать с языком формулировки
Если замысел был правильным, но формулировка его исказила, — работать с языком. Учить переводить задачу на разные языки — символьный, словесный, табличный — и проверять, сохраняется ли структура.
Разбирать чтение структуры
Если текст был корректным, но машина неправильно его прочитала, — разбирать с учениками, как одна и та же математическая структура может быть прочитана по-разному. Это тренирует и языковую, и математическую чувствительность.
Проверять вычисление
Если понимание было верным, но операция ошибочна, — доверять структуре, но проверять вычисление. Это тот случай, когда ИИ полезен как «второй шаг», но не как «первый».
