ИИ даёт убедительные ответы. Убедительность — не доказательство. Это различие математик усваивает раньше, чем многие другие вещи: красивое рассуждение может быть ошибочным, правильный ответ может быть получен неверным способом, а гладкое объяснение — скрывать пропущенный шаг. Именно поэтому математика оказывается удобным инструментом аудита искусственного интеллекта.
Мы привыкли воспринимать ИИ как помощника: он считает, ищет, объясняет, предлагает варианты. Но у этой помощи есть обратная сторона. Чем убедительнее ответ машины, тем реже мы проверяем сам вопрос. Чем быстрее она решает, тем меньше у нас остаётся пространства для сомнения. И постепенно решение, которое мы считали своим, оказывается решением, которое мы лишь подтвердили.
Математика устроена иначе. Она не обещает, что математик никогда не ошибётся. Она делает нечто более скромное и более полезное: она создаёт культуру, в которой ошибка принципиально может быть обнаружена. Математик говорит не «поверьте мне, потому что я умный», а «вот рассуждение — посмотрите, если найдёте ошибку, значит, я ошибся». Это и есть тот интеллектуальный иммунитет, которого часто не хватает при работе с ИИ.
В этом разделе мы собираем случаи, где нейросеть ошиблась в математическом рассуждении. Но цель не в том, чтобы поймать машину на ошибке. Цель в том, чтобы восстановить привычку проверять — у человека. Потому что решение остаётся человеческим только тогда, когда человек способен его проверить.
Отдельное место занимают так называемые «плохие вопросы»: ситуации, где ИИ блестяще отвечает, но сам вопрос был поставлен неверно. Машина может быть великолепным решателем и при этом не замечать, что задача сформулирована плохо. Чем лучше она решает, тем опаснее становится наша исходная ошибка. И здесь математическая привычка сомневаться оказывается важнее скорости вычислений.
Наконец, есть третья, менее заметная проблема — границы делегирования. Часть работы действительно безопасно поручить машине: вычисления, перебор вариантов, оформление, проверку отдельного шага. Но есть вещи, которые опасно перестать выполнять самому: постановка задачи, выбор критерия «лучшего», оценка корректности определения, решение о том, что считать доказательством. Если эти вещи уходят к машине незаметно, человек сохраняет право нажать кнопку, но теряет право сказать: «Это решение принял я».
Раздел «Аудит ИИ» — это попытка зафиксировать эти границы и показать их на конкретных примерах. Не для того, чтобы отказаться от ИИ. А для того, чтобы сохранить то, что делает решение человеческим.
Задача
Пользователь просит нейросеть «доказать», что 1 = 2. Такие запросы не редкость: их задают школьники, чтобы проверить, «попадётся» ли машина, и взрослые, чтобы посмотреть, как ИИ справится с заведомо ложным утверждением.
Ответ ИИ
Модель выдаёт гладкое рассуждение. Оно выглядит убедительно: каждый шаг оформлен аккуратно, формулы записаны корректно, вывод следует из предыдущего. Внешне это похоже на настоящее доказательство.
a² = ab
a² − b² = ab − b²
(a − b)(a + b) = b(a − b)
a + b = b
2b = b
2 = 1
Где ошибка
Ошибка спрятана в одном шаге: переход от (a − b)(a + b) = b(a − b) к a + b = b выполняется делением обеих частей на (a − b). Но по исходному условию a = b, значит, a − b = 0. Деление на ноль недопустимо, и именно оно позволяет получить ложное равенство 2 = 1.
Почему это важно
Этот пример — не про то, что ИИ «глупый». Он про другое: машина может уверенно воспроизвести рассуждение, которое нарушает базовое правило, и не заметить этого. Внешняя гладкость текста маскирует пропущенную проверку. То же самое происходит и в более серьёзных случаях: в банковских моделях, судебных алгоритмах, медицинских системах — везде, где красивое статистическое решение скрывает неявное допущение.
Что делать с этим в обучении
Такие разборы полезны не сами по себе, а как упражнение. Ученику можно предложить найти ошибку самостоятельно, затем объяснить, какое правило нарушено, и только после этого показать ответ. Это переводит ИИ из режима «решатель задач» в режим объекта математического анализа — и возвращает ученику позицию того, кто проверяет, а не того, кто подтверждает.