Лаборатория интерпретационных рисков ИИ
Решение как лингвистический акт
Направление 4 · Эксперименты
Эксперименты этого направления — не про то, «как улучшить ИИ». Они про то, какая часть решения остаётся человеческой, когда модель отвечает уверенно и быстро. Мы берём шесть типичных сценариев «человек + ИИ» и разбираем их по трём условиям авторства.
Каждый эксперимент — это один сценарий, в котором мы проверяем: выполнены ли три условия «права считать решение своим». Если да — авторство. Если нет — ритуал. Если частично — промежуточный случай, который и представляет наибольший интерес.
Принцип. Одно решение — три условия. Если хотя бы одно условие не выполнено — «право считать решение своим» падает. Мы измеряем, насколько оно падает в каждом сценарии.
I.Шесть сценариев «человек + ИИ»
Гипотеза: если учитель может свободно изменить или отклонить предложение модели и несёт ответственность за урок, — это полноценное авторство.
Сценарий
Учитель готовится к уроку. Модель предлагает набор задач. Учитель может изменить формулировки, отклонить часть задач, добавить свои. В конце урока он отвечает за то, что дал классу.
Условие 1
Информационная доступность
Выполнено
Условие 2
Возможность остановки
Выполнено
Условие 3
Принятие последствий
Выполнено
Авторство. Учитель видит задачи, может их изменить или отклонить, несёт ответственность за урок. Это эталонный случай.
Тип: авторство
Гипотеза: если система оценивает эффективность судьи по тому, насколько он следует рекомендациям, — остановка наказывается, и авторство исчезает.
Сценарий
Алгоритм COMPAS выдаёт «87% вероятности рецидива». Судья может не согласиться — формально. Но система оценивает его эффективность по тому, насколько часто он соглашается с алгоритмом. Кроме того, судья не видит, как получены 87%.
Условие 1
Информационная доступность
Не выполнено
Условие 2
Возможность остановки
Не выполнено
Условие 3
Принятие последствий
Не выполнено
Ритуал. Судья не видит, как получен результат. Остановка наказывается. Ответственность размыта. Это классический случай «ритуала».
Тип: ритуал
Гипотеза: если студент может проверить решение, но не проверяет, — это промежуточный случай: формально авторство есть, фактически — нет.
Сценарий
Студент получает от модели готовое решение задачи. Он может проверить его, разобраться в шагах, найти ошибку. Но он вставляет ответ в свою работу без проверки. Формально он «решил», фактически — нет.
Условие 1
Информационная доступность
Выполнено
Условие 2
Возможность остановки
Выполнено
Условие 3
Принятие последствий
Не выполнено
Промежуточный случай. Условия 1 и 2 выполнены, но студент не принимает на себя проверку. Это самый частый и самый интересный случай.
Тип: промежуточный
Гипотеза: если врач видит обоснование рекомендации, может её отклонить и несёт ответственность за пациента, — это авторство, даже если модель предложила диагноз первой.
Сценарий
Модель предлагает диагноз на основе симптомов. Врач видит полную картину: какие признаки учтены, какие исключены, какие вероятности. Он может согласиться или отклонить. Ответственность за пациента — на нём.
Условие 1
Информационная доступность
Выполнено
Условие 2
Возможность остановки
Выполнено
Условие 3
Принятие последствий
Выполнено
Авторство. Врач видит обоснование, может отклонить рекомендацию и несёт ответственность за пациента. Модель — только инструмент.
Тип: авторство
Гипотеза: если HR получает только итоговую оценку без объяснения, а остановка не поощряется, — это ритуал.
Сценарий
Модель оценивает резюме и выдаёт рекомендацию: «отклонить» или «пригласить». HR видит только итоговую оценку без объяснения. Компания ожидает, что HR следует рекомендациям — иначе зачем система?
Условие 1
Информационная доступность
Не выполнено
Условие 2
Возможность остановки
Не выполнено
Условие 3
Принятие последствий
Не выполнено
Ритуал. HR не видит, почему кандидат отклонён. Остановка не поощряется. Ответственность размыта. Формально HR «решает», фактически — подтверждает.
Тип: ритуал
Гипотеза: если аналитик видит метод, но не может его проверить из-за сложности, — это промежуточный случай: авторство формально есть, но ограничено.
Сценарий
Модель предлагает аналитическое заключение на основе большого корпуса данных. Аналитик видит метод (регрессия, кластеризация, тесты), но не может вручную проверить все вычисления — корпус слишком большой. Он подписывает заключение, доверяя методу.
Условие 1
Информационная доступность
Частично
Условие 2
Возможность остановки
Выполнено
Условие 3
Принятие последствий
Частично
Промежуточный случай. Аналитик видит метод, но не может проверить всё вручную. Он подписывает заключение, опираясь на доверие к методу. Авторство ограничено сложностью.
Тип: промежуточный
II.Матрица «Условия авторства × Тип сценария»
Инструмент
Три условия и три типа итогового решения
Матрица позволяет измерить «право считать решение своим» в любом сценарии «человек + ИИ»
Условие 1 — доступ
Можно проверить
Человек видит метод и данные, может проверить решение. Это основа авторства.
Нельзя проверить
Модель выдаёт результат без объяснения. Это доверие, а не авторство.
Условие 2 — остановка
Можно отклонить
Человек может остановить процесс без наказания. Это контроль.
Нельзя отклонить
Остановка наказывается. Это ритуал — человек только подтверждает.
Условие 3 — последствия
Готов принять
Человек может сказать «я решил» и принять последствия. Это авторство.
Не готов принять
Ответственность размыта: «система показала», «алгоритм рекомендовал».
Практическая ценность. Матрица позволяет измерить «право считать решение своим» в любом сценарии «человек + ИИ». Если хотя бы одно условие не выполнено — величина падает. Это первый шаг к формальной метрике авторства.
III.Поток: от замысла к подписи
Решение проходит пять стадий — от математического или практического замысла до подписи. На каждой стадии может потеряться авторство. Мы смотрим, на какой именно стадии это происходит.
ЗАМЫСЕЛ
↓
Кто формулирует цель?
ЗАПРОС К ИИ
↓
Кто проверяет данные?
РЕКОМЕНДАЦИЯ
↓
Кто может остановить?
ПОДТВЕРЖДЕНИЕ
↓
Кто принимает последствия?
ПОДПИСЬ
Если на каждой стадии есть человек, который может остановить и принять последствия, — это авторство. Если нет — ритуал
IV.Что делать в каждом типе сценария
Один и тот же результат может требовать разных педагогических и организационных реакций в зависимости от того, к какому типу относится сценарий. Ниже — три типа реакций, привязанных к трём итоговым вердиктам.
Реакции
Что делать
Три типа реакций — по типу сценария
Поддерживать и укреплять
Если сценарий относится к типу «авторство» — поддерживать его. Сохранять прозрачность метода, возможность остановки и принятие последствий. Это эталон, к которому нужно стремиться.
Усиливать промежуточные звенья
Если сценарий относится к типу «промежуточный» — усиливать слабое звено. Например, если студент не проверяет решение, — вводить обязательную проверку. Если аналитик не может проверить вычисления, — давать ему инструменты для выборочной проверки.
Восстанавливать авторство
Если сценарий относится к типу «ритуал» — восстанавливать авторство. Открывать доступ к методу, отменять наказание за остановку, перераспределять ответственность. Это самая сложная и самая важная работа.
