Лаборатория интерпретационных рисков ИИ
Решение как лингвистический акт
Направление 4 · Теория
1.Исходный тезис: цитата из книги
«Решение — это то, что происходит, когда язык обрабатывает входные данные и производит выходные. Мы называем это „своим решением“, потому что язык маркировал его как принадлежащее данной точке сборки. Но маркировка — это не собственность. Это всего лишь интерфейс».
— «Кто решает?», глава 23
Это направление начинается с вопроса, который обычно считается философским, но на самом деле является измеримым. Если решение — не акт субъекта, а функция языка, то «право считать решение своим» перестаёт быть метафорой. Это конкретная величина, которую можно определить и измерить.
В эпоху, когда ИИ отвечает уверенно и быстро, человек всё чаще оказывается в позиции подтверждающего, а не решающего. Формально право на несогласие сохраняется. Практически оно становится ритуалом. Лаборатория создана, чтобы вернуть пространство решения — и превратить его в измеримый параметр.
Центральный вопрос направления. Можно ли определить «право считать решение своим» как формальную величину — и измерить её в реальных сценариях (учитель + ИИ, студент + ИИ, судья + алгоритм)?
2.Что это означает для математики
Математическое решение традиционно понимается как акт: сначала я анализирую задачу, потом выбираю метод, потом выполняю операцию. Но если решение — функция языка, а не акт субъекта, то математическое решение в ИИ — это не «решение машины». Это продолжение работы языка через новую среду.
Тогда вопрос «кто решил?» теряет смысл в привычной форме. Остаётся другой вопрос: какова структура математического решения как языкового процесса — и воспроизводится ли эта структура в LLM?
Что именно мы проверяем. Мы смотрим на три аспекта математического решения:
Первый. Структура решения. Какие шаги образуют причинную цепочку, а какие — нерелевантные промежуточные шаги? Это можно извлечь из текста решения автоматически.
Второй. Источник решения. Кто или что определяет выбор метода и направление вывода? Человек, модель — или сама структура задачи?
Третий. Ответственность за решение. Кто может сказать: «Я знал, что мог ошибиться, но всё равно решил»? Если такого человека нет — решения нет, есть только процедура.
3.Дихотомия: авторство или ритуал
В реальных сценариях «человек + ИИ» решение принимает одну из двух форм. Мы не предполагаем заранее, какая из них верна — мы делаем это предметом исследования.
Форма A
Авторство
Человек формулирует цель, проверяет вывод, способен остановить процесс и принять последствия. Решение остаётся человеческим, даже если модель предложила его первой.
Форма B
Ритуал
Человек только нажимает «Подтвердить». Формально он присутствует, практически — не решает. Решение остаётся процедурой, а ответственность распределяется так, что никто её не несёт.
Что важно. Различие между авторством и ритуалом — не философское. Оно измеримо. Если остановка процесса невозможна без ущерба для того, кто останавливает, — это не контроль. Это ритуал.
4.Три условия «права считать решение своим»
Мы предлагаем формализовать «право считать решение своим» через три условия. Каждое из них можно измерить в конкретном сценарии.
Три условия авторства
1
Информационная доступность
Человек должен иметь доступ к информации, необходимой для проверки решения. Если модель выдаёт результат, но не показывает, как он получен, — это не авторство, а доверие.
2
Возможность остановки без наказания
Человек должен иметь реальную возможность остановить процесс — и не понести за это ущерб. Если остановка наказывается (понижением, увольнением, потерей статуса), — это не контроль, а ритуал.
3
Принятие последствий
Человек должен быть готов принять на себя последствия решения. Не «система показала», не «алгоритм рекомендовал», а «я решил». Если такого человека нет — решения нет, есть только процедура.
Ключевая мысль. Три условия образуют формальную метрику. Если хотя бы одно из них не выполнено — «право считать решение своим» падает до нуля. Это не оценочное суждение, а измеримая величина.
Пример: три сценария
Учитель + ИИ. Модель предложила задачу. Учитель может её изменить, отклонить или использовать. Он несёт ответственность за то, что даёт классу.
Условие 1: выполнено (учитель видит задачу). Условие 2: выполнено (может отклонить). Условие 3: выполнено (отвечает за урок). → Авторство.
Судья + алгоритм. Алгоритм выдал «87% вероятности рецидива». Судья может не согласиться — формально. Но система оценивает его эффективность по тому, насколько он следует рекомендациям.
Условие 1: не выполнено (судья не видит, как получено 87%). Условие 2: не выполнено (остановка наказывается). Условие 3: не выполнено (ответственность размыта). → Ритуал.
Студент + ИИ. Модель решила задачу. Студент вставил ответ в свою работу. Он может проверить, но не проверил. Формально он «решил», фактически — нет.
Условие 1: выполнено (ответ виден). Условие 2: выполнено (может проверить). Условие 3: не выполнено (не принимает на себя проверку). → Промежуточный случай — самый интересный для исследования.
5.Что уже есть за рубежом
Зарубежные исследования
-
Kim, Park, Joung (2026), School Science and Mathematics. Исследование того, как будущие учителя математики работают с ChatGPT. Ключевой результат: педагоги хорошо проверяют «безошибочные» задачи, но плохо выявляют ошибки. Это означает: право считать решение своим у них не сформировано — они доверяют модели вместо того, чтобы проверять.
-
Yilmaz и соавторы (2026). Изучают, как будущие учителя взаимодействуют с ИИ-тьютором Khanmigo при решении математических задач. Показано, что они нуждаются в поддержке инструктора именно в ситуациях, когда модель даёт уверенный, но неверный ответ — то есть когда авторство решения переходит к модели.
-
Обзор в ZDM Mathematics Education (2026). Прямо призывает к исследованиям human agency в ИИ-опосредованном математическом образовании. Но остаётся на уровне качественных описаний: никто не предложил формальную метрику для «авторства решения».
-
ProPublica (2016) + Оксфордское исследование (2025). Кейс COMPAS: алгоритм оценки риска рецидива. Показано, что ответственность распределяется так, что никто её не несёт. Это классический пример «ритуала» — и он измерим.
6.Чего ещё нет: измеримая метрика авторства
Белое пятно
Все существующие исследования описывают проблему качественно: «человек теряет контроль», «ответственность размывается», «human in the loop становится ритуалом». Но никто не предложил формальную величину, которую можно измерить.
Мы предлагаем определять «право считать решение своим» через три условия (информационная доступность, возможность остановки без наказания, принятие последствий). Это первая попытка сделать эту величину измеримой.
- Нет формального определения «авторства решения».
- Нет метрики, которая различала бы авторство и ритуал.
- Нет эмпирических данных о том, как эта величина меняется в реальных сценариях.
- Нет русскоязычных исследований на эту тему.
7.Что это меняет
Это направление — не про «улучшение преподавания» и не про «новые методы». Оно про природу решения в эпоху, когда машина отвечает уверенно и быстро. Если решение — функция языка, а не акт субъекта, то «право считать решение своим» — это не философская метафора, а измеримая величина.
И тогда главный вопрос звучит так: какая часть решения остаётся человеческой — а не просто ручным подтверждением? Если человек только нажимает «Подтвердить», он не принимает решение. Он выполняет ритуал. Решение остаётся человеческим только там, где человек может сказать: «Я знал, что мог ошибиться, но всё равно решил».
Это и есть тот вопрос, который нельзя решить никакой следующей версией модели. Его можно решить только измерением. И это — задача лаборатории.
Ключевая мысль. Не «как улучшить ИИ», а «как сохранить то, что ещё можно сохранить» — право считать решение своим. Это не теория, а рабочая метрика, которую можно использовать для аудита систем «человек + ИИ».