Согласно недавнему отчету Gartner, Inc., генеративный искусственный интеллект (ИИ), такой как ChatGPT от OpenAI и Google Bard, стал главной заботой руководителей корпоративных рисков во втором квартале 2023 года.
В мае 2023 года Gartner опросила 249 руководителей высшего звена, занимающихся корпоративными рисками, чтобы предоставить руководителям сравнительный анализ 20 возникающих рисков.
Ежеквартальные отчеты о возникающих рисках включают подробную информацию о возможном воздействии, сроках, уровне внимания и предполагаемых возможностях для этих рисков.
В отчете показано, что массовая доступность генеративного ИИ является вторым наиболее часто упоминаемым риском, в то время как жизнеспособность третьих сторон была главным быстро возникающим риском, который организации наиболее внимательно отслеживают в опросе за второй квартал 2023 года.
Неопределенность финансового планирования была третьим риском, за которым следовал риск концентрации облачных вычислений. Торговая напряженность в Китае дополнила пятерку основных рисков, которые были разделены между проблемами, характерными для текущей широкой макроэкономической и геополитической нестабильности, и проблемами, связанными с технологиями.
«Генеративный ИИ был вторым наиболее часто упоминаемым риском в нашем опросе за второй квартал, впервые появившись в топ-10», — сказал Ран Сюй, директор по исследованиям Gartner Risk & Audit Practice.
«Это отражает как быстрый рост общественной осведомленности и использование инструментов генеративного ИИ, так и широту потенциальных вариантов использования и, следовательно, потенциальные риски, которые порождают эти инструменты».
Gartner ранее определила шесть рисков генеративного ИИ и четыре области регулирования ИИ, которые имеют отношение к функциям обеспечения качества. По мнению экспертов Gartner, с точки зрения управления корпоративными рисками необходимо учитывать три основных аспекта. К ним относятся интеллектуальная собственность, конфиденциальность данных и кибербезопасность.
Что касается интеллектуальной собственности, «информация, введенная в инструмент генеративного ИИ, может стать частью его обучающего набора, а это означает, что конфиденциальная информация может оказаться в выводах для других пользователей», — объясняет Сюй.
Он добавил: «Более того, использование выходных данных этих инструментов вполне может привести к непреднамеренному нарушению прав интеллектуальной собственности других лиц, которые их использовали».
Gartner подчеркивает важность обучения корпоративного руководства необходимости проявлять осторожность и прозрачность при использовании таких инструментов.
Таким образом, риски интеллектуальной собственности могут быть должным образом снижены как с точки зрения ввода, так и вывода генеративных инструментов ИИ.
Что касается конфиденциальности данных, инструменты генеративного ИИ могут передавать информацию о пользователях третьим сторонам, таким как поставщики товаров или поставщики услуг, без предварительного уведомления, объясняют аналитики.
Это может привести к нарушению закона о конфиденциальности во многих юрисдикциях. Например, регулирование уже введено в Китае и ЕС, а предлагаемые правила появляются, в частности, в США, Канаде, Индии и Великобритании.
Что касается кибербезопасности, Сюй сказал: «Хакеры всегда тестируют новые технологии в поисках способов подорвать их в своих целях, и генеративный ИИ ничем не отличается.
«Мы видели примеры вредоносного ПО и кода программ-вымогателей, которые были обмануты в создании генеративного ИИ, а также атаки «оперативных инъекций», которые могут заставить эти инструменты выдавать информацию, которую они не должны выдавать. Это ведет к индустриализации передовых фишинговых атак».
В то же время аналитики подчеркнули, что ухудшение экономических условий может увеличить риски жизнеспособности третьих сторон.
Сюй сказал: «Устойчивая инфляция, которая менее чувствительна к повышению процентных ставок и продолжается дольше, чем ожидалось, привела к увеличению затрат и давления на маржу для третьих сторон.
«Поскольку центральные банки повышают процентные ставки для борьбы с инфляцией, это также вызывает процесс ужесточения кредита, который может вынудить поставщиков приостановить операции или стать неплатежеспособными по мере роста стоимости заимствований.
Аналитики предупреждают, что резкое ухудшение экономических условий может привести к неожиданному падению спроса, что повлияет на жизнеспособность поставщиков или их способность своевременно предоставлять товары и услуги.
Эксперты Gartner определили три потенциальных последствия жизнеспособности третьих сторон, которые менеджеры по управлению рисками должны отслеживать по мере развития ситуации, в том числе потеря ключевых ресурсов и материалов, ошибочные предположения финансового планирования и проблемы за пределами цепочки поставок.
Подготовлено порталом Allinsurance.kz