В июле 2025 года в Mount Sinai Medical School провели интересный эксперимент. Системам искусственного интеллекта давали задачи из медицинской практики. Формулировки были почти одинаковые, менялись лишь детали – например, срочность, противопоказания или социальные факторы. Врач в такой ситуации оценивает не только формальную сторону, но и последствия: как это скажется на человеке, нет ли риска навредить. Алгоритмы же часто выдавали ответ «по инструкции», не замечая, что в изменившемся контексте он уже не подходит.
В этом и разница. Человек, получив те же цифры и условия, соотносит их с более широкими целями. Иногда важнее не «правильное» по учебнику решение, а то, которое в конкретный момент уменьшит риск, защитит пациента или сохранит ресурс для более сложного случая. Мы действуем по ситуации, а не только по правилам.
Внутренняя шкала приоритетов у людей складывается годами: из наблюдений, удачных находок, ошибок, последствий. Со временем мы понимаем, что шаг, который по инструкции выглядит безупречно, в конкретной ситуации может оказаться лишним или даже вредным. А иногда наоборот – действие, выходящее за рамки правил, становится единственно правильным.
Для искусственного интеллекта это пока слабое место. Он может обработать данные, но не выстраивает собственную шкалу значимости: что сейчас критично, что вторично, а что можно отложить. Чтобы искусственный интеллект приблизился к этому уровню, ему нужна семантическая основа – структура, в которой данные связаны с контекстом, а решения увязаны с приоритетами и целями.
Загрузка ...