Этот раздел — самый проблематичный из всех.
Не потому, что сложно определить, что можно делегировать ИИ, а потому, что модели совершенствуются быстрее, чем мы успеваем зафиксировать границы. То, что вчера казалось невозможным для машины, сегодня уже работает — и наоборот, то, что казалось безопасным, оборачивается новой проблемой.
Поэтому бессмысленно составлять список «что ИИ умеет, а что нет» — он устареет через месяц. Гораздо важнее сформулировать вопрос иначе: есть ли вещи, которые не делегируются в принципе, независимо от того, насколько умной станет машина?
Если такие вещи есть — они и должны стать ядром границ делегирования.
Ниже — пять принципов, которые, на мой взгляд, не зависят от уровня технологии. Это не технические ограничения, а смысловые. Машина может научиться делать всё лучше и лучше. Но некоторые действия перестают быть тем, чем они были, если их выполняет машина.
Делегировать можно вычисления.
Нельзя делегировать решение о том, что считать правильным.
Границы делегирования определяются не возможностями машины, а смыслом человеческого действия.
Постановка вопроса
Машина может ответить на любой вопрос, который мы зададим. Но она не может решить, какой вопрос стоит задавать. Она принимает рамку задачи как данность и оптимизирует внутри неё. Если рамка выбрана неверно — идеальный ответ окажется бессмысленным, но будет выглядеть убедительно.
Человек может поставить под сомнение саму задачу. Может сказать: «Подождите. Возможно, мы вообще не должны это оптимизировать». Именно такие моменты оказываются самыми важными — и в науке, и в жизни. И именно они не делегируются.
Почему это не изменится с ростом технологий: чтобы предложить постановку задачи, нужно определить, что считать ценным. А это не вычислительная задача. Это вопрос о смысле.Выбор критерия «лучшего»
Когда мы просим ИИ «найти лучший вариант», мы должны сначала определить, что значит «лучший». Машина не может сделать это за нас — она может только принять критерий, который мы ей дали, или выбрать тот, что очевиднее всего в данных. Но «очевидный» — не значит «правильный».
Банк, который минимизировал невозвраты, получил несправедливость. HR-система, которая искала «успешных сотрудников», отсеивала женщин. Медицинский триаж, который оптимизировал выживаемость, отдавал приоритет одним пациентам за счёт других. Во всех случаях машина работала безупречно. Проблема была в критерии.
Почему это не изменится с ростом технологий: критерий — это всегда ценностный выбор. Чем умнее машина, тем эффективнее она реализует любой критерий, который мы ей дали. Но выбор критерия остаётся на человеке.Ответственность за решение
Решение остаётся человеческим только тогда, когда человек способен сказать: «Это решение принял я». Если эти вещи уходят к машине незаметно, человек сохраняет право нажать кнопку, но теряет право на авторство. Он становится не тем, кто решает, а тем, кто подтверждает.
Машина не может нести ответственность — не потому, что она недостаточно умна, а потому, что она не субъект. Она не может быть наказана, не может испытывать вину, не может объяснить свой выбор так, чтобы это было принято как объяснение. Ответственность — это категория, которая не делегируется.
Почему это не изменится с ростом технологий: ответственность — не функция, а отношение между людьми. Её нельзя передать машине, как нельзя передать машине право прощать или быть прощённым.Решение о том, что считать доказательством
В математике и в науке доказательство — это не просто убедительное рассуждение. Это рассуждение, которое соответствует определённым правилам и может быть проверено независимо. Машина может предложить рассуждение, которое выглядит как доказательство. Но решение о том, что считать доказательством, — это не то, что можно делегировать.
Если мы передадим машине право определять, что считается доказательством, мы потеряем саму возможность проверки. Потому что проверка требует независимой позиции. А независимая позиция — это то, что машина не может предоставить, если она же является и тем, кого проверяют.
Почему это не изменится с ростом технологий: доказательство — это социальная практика, а не вычислительная процедура. Даже самая совершенная машина не может заменить сообщество, которое договаривается о правилах проверки.Право сказать «нет»
Самое важное право, которое нельзя делегировать, — это право отказаться. Не согласиться с ответом. Не принять предложенное решение. Остановиться и сказать: «Я этого не понимаю, и потому не готов сделать вид, что это моё решение».
Это право может оказаться дорогим. Иногда оно требует времени, усилий, готовности идти против эффективности. Но именно оно отличает человека, принимающего решение, от человека, подтверждающего чужое. Если право на «нет» уходит к машине, то решения перестают быть человеческими — даже если формально их принимает человек.
Почему это не изменится с ростом технологий: способность отказаться — не техническая, а экзистенциальная. Она связана с тем, что человек может не хотеть. А «не хотеть» — это не функция, которую можно делегировать.Что можно и что нельзя делегировать
Можно делегировать
- Вычисления и алгебраические преобразования
- Перебор вариантов и поиск оптимума внутри заданной рамки
- Оформление, визуализацию, построение графиков
- Проверку отдельного шага рассуждения
- Генерацию черновиков и промежуточных версий
- Сравнение нескольких подходов между собой
Нельзя делегировать
- Постановку задачи и выбор того, что оптимизировать
- Выбор критерия «лучшего»
- Ответственность за принятое решение
- Решение о том, что считать доказательством
- Право отказаться от ответа или не принять его
- Решение о том, что важно для человека и ради чего
Осторожно: границы выглядят подвижными, но ядро — нет
Может показаться, что левая колонка будет расти, а правая — сокращаться. Что с ростом возможностей ИИ машина возьмёт на себя всё больше. Это верно для технических задач, но неверно для смысловых. Правая колонка — это не список того, что машина пока не умеет. Это список того, что нельзя делегировать в принципе.
Соблазн думать иначе велик. Когда машина даёт быстрый и убедительный ответ, кажется естественным передать ей и право решать. Но именно в этот момент происходит незаметная подмена: человек перестаёт быть автором решения и становится оператором системы. Формально он всё ещё принимает решения. Фактически — подтверждает чужие.
Поэтому границы делегирования — это не вопрос технологии. Это вопрос о том, что мы хотим сохранить как человеческое. И ответ на него не может дать ни одна машина, какой бы умной она ни была.
Зачем это нужно в образовании
Если в школе и вузе мы учим только получать правильные ответы, мы готовим человека к роли оператора системы. Если мы учим задавать вопросы, выбирать критерии, брать ответственность и говорить «нет» — мы готовим человека, который сохраняет авторство своих решений.
Математика и физика дают для этого уникальный материал. Здесь можно проверить рассуждение, найти ошибку, потребовать обоснования, отказаться от непроверенного результата. Эти привычки — не академическая тонкость. Это то, что делает человека способным оставаться субъектом в мире, где машина отвечает быстрее и убедительнее.