РОЛЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ПРИНЯТИИ РЕШЕНИЙ В УСЛОВИЯХ НЕОПРЕДЕЛЁННОСТИ

Амангельдыева Г. Т., ст. преподаватель

Артыкова Д. Д., преподаватель

Институт телекоммуникаций и информатики Туркменистана, Ашхабад, Туркменистан

Аннотация. В статье рассматриваются теоретические подходы к принятию решений в условиях неопределённости, описываются основные когнитивные и математические модели (теория ожидаемой полезности, перспективная теория, байесовские подходы, POMDP), а также анализируется роль методов искусственного интеллекта (машинного обучения, методов обучения с подкреплением, систем поддержки принятия решений) в повышении качества решений. Отдельное внимание уделено методам устойчивого принятия решений при «глубокой неопределённости» (DMDU, info-gap) и проблемам объяснимости, надёжности и этики при использовании ИИ. Представлены основные вызовы и рекомендации для практики.

Ключевые слова: принятие решений, неопределённость, искусственный интеллект, POMDP, обучение с подкреплением, объяснимый ИИ, устойчивые решения, info-gap.

Принятие решений в условиях неопределённости — центральная проблематика в экономике, управлении, инженерии и медицине. Люди и организации нередко вынуждены выбирать при неполной информации, неопределённых моделях последствий и изменчивой среде; это вызывает как когнитивные искажения, так и потребность в математических моделях и вычислительных инструментах для поддержки выбора. Классические работы по эвристикам и искажениям показали, что дескриптивные модели поведения человекa существенно отличаются от нормативных правил «максимизации ожидаемой полезности».

Нормативный подход в экономике и теории принятия решений опирается на модель максимизации ожидаемой полезности (SEU). Критика и развитие этих моделей породили перспективную теорию (prospect theory), объясняющую особенности человеческих оценок риска, авersion к потерям и нечёткое взвешивание вероятностей. [1], [2]. 

Байесовское представление неопределённости (оценка и обновление априорных распределений) является мощным инструментом для формализации принятия решений. Байесовские методы применяются как в статистике, так и в современных алгоритмах ИИ для оценки неопределённости предсказаний и комбинирования разнородной информации. [3]. 

Многие практические задачи — это задачи последовательного принятия решений при частичной наблюдаемости среды. Частично наблюдаемые марковские процессы принятия решений (POMDP) дают формальное средство моделирования таких сценариев и являются основой для алгоритмов планирования под неопределённостью. POMDP-модели и их современное решение (аппроксимации, глубокие методы) широко используются в робототехнике, диагностике и других областях. 

Методы искусственного интеллекта в поддержке решений

1.     Системы поддержки принятия решений (DSS) и машинное обучение

ИИ-системы выступают как инструменты DSS: от классических экспертных систем до современных ML-моделей, которые извлекают паттерны из данных и прогнозируют вероятные исходы. ML позволяет автоматизировать оценку состояния системы и прогнозирование последствий решений в сложных высокоразмерных пространствах.

2.     Обучение с подкреплением (RL) и планирование

Обучение с подкреплением решает задачу оптимизации последовательности действий на основе вознаграждения в стохастической среде; в сочетании с глубокими нейросетями (deep RL) оно показало впечатляющие результаты в играх и планировании, а также применяется для реальных задач — от управления энергосистемами до логистики. Однако RL требует аккуратной формулировки модели вознаграждения и методов оценки риска. [4], [5]. 

3.     Обработка неопределённости в моделях ИИ

Современные ИИ-подходы учитывают неопределённость через вероятностные модели, байесовские нейросети, методы ансамблей и калибровки предсказаний. Эти приёмы позволяют не только выдавать решение, но и оценивать степень доверия к нему, что важно при принятии критических решений.

4.     Устойчивое принятие решений при глубокой неопределённости

Когда вероятностные модели ненадёжны или отсутствуют данные для корректной калибровки (т.н. «глубокая неопределённость»), применяются методы устойчивого планирования (DMDU — Decision Making under Deep Uncertainty), а также info-gap подход, ориентированный на поиски решений, максимально устойчивых к ошибкам в моделях. Эти методы смещают акцент с оптимальности по одной модели на устойчивость/адаптивность в широком диапазоне сценариев.

5.     Объяснимость, надёжность и этика ИИ в принятии решений

Важнейшая практическая проблема — доверие к ИИ. Объяснимый ИИ (XAI) и связанная с ним методология направлены на то, чтобы пользователи понимали, почему система предлагает то или иное решение, могли обнаружить смещения и принимать обоснованные решения в тандеме с машиной. Регуляторные и этические требования усиливают необходимость прозрачности, аудита и контроля качества везде, где решения критичны (медицина, финансы, правосудие).

6.     Практические применения

ИИ-поддержка решений применима в диагностике (медицинские CDS), управлении энергосистемами, финансовых моделях, логистике и чрезвычайном управлении. В медицине особое внимание уделяется объяснимым моделям и проверке в клинических испытаниях; в инфраструктурных системах — устойчивости к сценарию «черного лебедя» и адаптивному управлению[6]. 

7.     Ограничения и ключевые риски

·        Смещение данных и некорректные априорные допущения могут привести к ошибочным рекомендациям.

·        Переносимость моделей между доменами ограничена (domain shift).

·        Черный ящик моделей затрудняет аудит и юридическую ответственность.

·        Чрезмерная автоматизация может снизить «человеческий контроль» и критическое мышление.

Эти риски требуют сочетания алгоритмических методов (калибровка, XAI, валидация) и организационных мер (стандарты, регламенты, обучение персонала). 

8.     Рекомендации для внедрения ИИ в процессы принятия решений

·        Оценивать и показывать неопределённость предсказаний (confidence intervals, predictive distributions).

·        Применять гибридные подходы: человек+машина (human-in-the-loop).

·        Использовать методы устойчивого планирования при «глубокой неопределённости» (DMDU, info-gap) для критичных инфраструктур.

·        Внедрять механизмы объяснения и аудита моделей, а также процесс постоянной переоценки и дообучения. 

ИИ предоставляет мощный набор инструментов для поддержки принятия решений в условиях неопределённости: от вероятностных оценок и POMDP до методов глубокого обучения и RL. Однако эффективность ИИ напрямую зависит от корректности данных, адекватности моделей и уровня прозрачности. На практике оптимальной стратегией является гибридный подход, сочетающий алгоритмическую силу с человеческим контролем и методами устойчивого планирования при глубокой неопределённости.

Литература

1.     Kahneman D., Tversky A. Prospect Theory: An Analysis of Decision under Risk. // Econometrica. – 1979. – Vol. 47, No. 2. – P. 263–291.

2.     Tversky A., Kahneman D. Judgment under Uncertainty: Heuristics and Biases. // Science. – 1974. – Vol. 185, No. 4157. – P. 1124–1131.

3.     Trimmer P.C., Houston A.I., Marshall J.A.R., Bogacz R. Decision-making under uncertainty: biases and Bayesians. // Trends in Cognitive Sciences. – 2011. – Vol. 15, No. 7. – P. 287–293.

4.     Lauri M., et al. Partially Observable Markov Decision Processes in Robotics: A Survey. // arXiv preprint. – 2022. – arXiv:2206.01815. – P. 1–27.

5.     Egorov M., et al. POMDPs.jl: A Framework for Sequential Decision Making. // Journal of Machine Learning Research. – 2017. – Vol. 18, No. 26. – P. 1–5.

6.     Abbas Q., et al. Explainable AI in Clinical Decision Support Systems: A Systematic Review. // Frontiers in Artificial Intelligence. – 2025. – Vol. 8. – P. 101–124.