Согласно опросу, проведенному Gartner, быстрый рост и использование генеративного искусственного интеллекта (GenAI) привели к значительному росту спроса на комплексный аудит рисков, связанных с ИИ.
В августе 2023 года компания Gartner опросила 102 руководителя аудита (CAE), чтобы оценить важность обеспечения гарантий по 35 различным рискам. Среди шести основных рисков, которые, вероятно, будут расширены при аудите, три были связаны с ИИ: киберугрозы с использованием ИИ, сбои в управлении ИИ и ненадежные результаты моделей ИИ.
Томас Теравайнен, специалист по исследованиям Gartner, подчеркивает: «Существует целый ряд рисков, связанных с искусственным интеллектом, с которыми сталкиваются организации: от сбоев управления и ненадежных результатов до сложных киберугроз. Половина из шести крупнейших рисков с наибольшим увеличением охвата аудита связана с ИИ».
Теравайнен отмечает, что выводы Gartner свидетельствуют о недостатке уверенности внутренних аудиторов в эффективном управлении рисками ИИ. Он объясняет: «Не более 11% респондентов, оценивших один из трех вышеупомянутых главных рисков, связанных с ИИ, как очень важный, считали себя очень не уверенными в отношении этих рискоы».
Это отсутствие доверия связано с тем фактом, что приложения GenAI создают широкий спектр новых и повышенных рисков для безопасности данных, конфиденциальности, защиты интеллектуальной собственности, нарушения авторских прав и достоверности результатов моделирования.
Тем не менее, устранение этих рисков, связанных с ИИ, стало для компаний более важным, чем когда-либо, чтобы защитить себя от репутационного ущерба или потенциальных юридических последствий.
«Однако, поскольку генеральные и финансовые директора оценивают ИИ как технологию, которая наиболее существенно повлияет на их организации в ближайшие три года, продолжающийся разрыв в доверии подорвет способность CAE оправдать ожидания заинтересованных сторон», — заключает Теравайнен.
Подготовлено порталом Allinsurance.kz