Формирование доверия к ИИ с помощью оценки неопределённости

Растущая роль ИИ в обществе

Искусственный интеллект (ИИ) и машинное обучение (МО) всё больше влияют на то, как общество получает и обрабатывает информацию. От чат-ботов с поддержкой ИИ до глубинного анализа, созданного большими языковыми моделями (LLM), доступ к информации стал шире и глубже. Однако с быстрым внедрением возникает важный вопрос: можно ли доверять результатам, которые генерирует ИИ?

Значение оценки неопределённости

Модели ИИ могут выдавать несколько правдоподобных ответов на один и тот же запрос из-за ограничений, таких как недостаток или вариативность обучающих данных. Оценка неопределённости — это процесс, который определяет диапазон возможных результатов, помогая пользователям понять, насколько можно доверять конкретному предсказанию. Например, модель, предсказывающая максимальную температуру на завтра, может выдать 21ºC, но оценка неопределённости покажет, что также возможны 12ºC, 15ºC или 16ºC. Это помогает понять, насколько надёжен конкретный прогноз.

Несмотря на важность, многие организации избегают внедрения оценки неопределённости из-за дополнительных трудозатрат, вычислительной нагрузки и снижения скорости работы.

Системы с участием человека и автоматические системы

В критически важных сферах, таких как здравоохранение, специалисты принимают решения, опираясь на данные ИИ. Слепая вера в ИИ может привести к ошибочным диагнозам и плохим последствиям. Оценка неопределённости помогает медицинским работникам понять, когда результат ИИ надёжен, а когда стоит проявить осторожность. Аналогично, в полностью автоматизированных системах, например, в автономных автомобилях, оценка неопределённости помогает избежать аварий, вызванных неправильной оценкой расстояния до препятствия.

Проблемы методов Монте-Карло

Методы Монте-Карло, разработанные во время Манхэттенского проекта, надёжно используются для оценки неопределённости путём многократного запуска алгоритмов с небольшими вариациями входных данных до сходимости результатов. Однако эти методы требуют больших вычислительных ресурсов, работают медленно и дают переменные результаты из-за использования генераторов случайных чисел.

Новые вычислительные платформы

Появляются новые вычислительные платформы, которые напрямую обрабатывают эмпирические распределения вероятностей, как традиционные платформы обрабатывают числа. Они позволяют автоматизировать и ускорить оценку неопределённости для моделей ИИ и других задач, основанных на методах Монте-Карло, например, расчёта Value at Risk (VaR) в финансах. В отличие от традиционных подходов с выборками, эти платформы используют реальные данные, что повышает точность и скорость анализа.

Прорывы в скорости и эффективности

Недавнее исследование, представленное на NeurIPS 2024, показало, что платформы нового поколения могут выполнять оценку неопределённости более чем в 100 раз быстрее традиционных методов Монте-Карло на мощных серверах. Такие достижения снижают барьеры для внедрения оценки неопределённости в ИИ, облегчая и ускоряя создание надёжных ИИ-систем.

Будущее доверенного ИИ

С распространением ИИ доверие становится ключевым фактором. Организациям необходимо внедрять механизмы, позволяющие пользователям понимать, когда можно доверять результатам ИИ, а когда следует проявлять осторожность. Исследования показывают, что около 75% людей готовы больше доверять ИИ, если в системе есть функции обеспечения уверенности, такие как оценка неопределённости.

Появление новых технологий вычислений делает внедрение оценки неопределённости всё более доступным, что способствует формированию необходимого доверия и ответственному использованию ИИ.