Развитие искусственного интеллекта и связанного с ним регулирования потребует пересмотра полисов страхования ответственности и создания новых страховок, ориентированных на искусственный интеллект, отметили эксперты страхового рынка в обсуждении, инициированном Commercial Risk.
Кто несет ответственность за ИИ?
В последние годы использование искусственного интеллекта в бизнесе ускорилось, выйдя далеко за рамки автоматизации бэк-офисных процессов. Искусственный интеллект все чаще используется для поддержки исследований, проектирования и производства продуктов, для обеспечения автономности транспортных средств, найма талантливых специалистов и создания медиа-контента. Использование ИИ, особенно в продуктах и услугах, поднимает важные вопросы об ответственности, например, кто несет ответственность, когда ИИ причиняет физический вред или материальный ущерб.
Из-за широкого применения ИИ, сфера ответственности, вероятно, увидит изменения. Будет оказано влияние на большинство линий ответственности, в частности на страхование ответственности за качество продукции и страхование профессиональной ответственности, пояснила Лиза Уильямс, руководитель глобального отдела страхования от несчастных случаев в Zurich Insurance.
«Среда рисков, безусловно, меняется, но с точки зрения покрытия речь идет больше о перераспределении ответственности, например, о профессиональном страховании ответственности за качество продукции или о страховании ответственность за качество продукции производителей автономных транспортных средств. Ситуация с ответственностью за качество продукции значительно изменится с предстоящими изменениями в регулировании ЕС, коллективным возмещением ущерба и финансированием судебных разбирательств со стороны третьих сторон, и я предвижу увеличение частоты и потенциальной серьезности, поскольку появится возможность принятия коллективных исков», — сказала она.
По словам Лизы Уильямс, такие правила, как предлагаемый ЕС Закон об искусственном интеллекте и Директива об ответственности за продукцию, будут играть большую роль в формировании ответственности и страхования в области искусственного интеллекта в будущем. Закон об искусственном интеллекте будет классифицировать системы искусственного интеллекта по рискам и устанавливать различные требования к разработке и использованию, а предлагаемая Директива об ответственности за искусственный интеллект призвана создать основу для претензий и возмещения убытков, связанных с искусственным интеллектом. Обновление системы ответственности за качество продукции ЕС также будет включать цифровые продукты и продукты искусственного интеллекта.
Страховщик считает, что в будущем полисы страхования ответственности необходимо будет адаптировать с учетом ИИ и изменений в регулировании. «Мы намечаем как можно больше сценариев, чтобы выяснить, где сегодня существует покрытие, а где покрытие ответственности смещается, а также выявить любые пробелы в покрытии и создать естественные формулировки и язык полиса. Это процесс, в котором мы сейчас находимся как в отношении Директивы об ответственности за качество продукции, так и в отношении ИИ», — сказала Уильямс.
Например, Директива об ответственности за качество продукции изменит предыдущие определения и введет новую ответственность за «потерю или повреждение данных». По словам Лизы Уильямс, такое страхование не является стандартным в полисе ответственности за качество продукции, но может быть реализовано в соответствии с полисом страхования профессиональной ответственности, технической или кибербезопасности.
«Я вижу необходимость взглянуть на ИИ с точки зрения ответственности за качество продукции и профессиональной ответственности и начать внедрять инновации, чтобы можно было решать проблемы, связанные с ИИ, и чтобы между этими двумя продуктами не было серых зон», — сказала она.
Новые технологии – новые полисы
Крис Уильямс, партнер юридической фирмы Clyde & Co отмечает, что страховые полисы в основном разрабатывались до того, как ИИ развился до того уровня, в котором он находится сегодня, и многие из них напрямую не связаны с новой технологией. Для страховщиков это поднимает важные вопросы, касающиеся ценообразования, покрытия и будущие претензии, пояснил он.
«Страховщикам приходится иметь дело со страхователями, которые используют технологию искусственного интеллекта, которая не входит в сферу действия полиса на момент его подписания. Также возникают вопросы относительно того, под какой полис будет подпадать риск или сколько полисов потенциально покроют риск ИИ. Даже когда страховщики пишут новые полисы для учета ИИ, какой полис больше всего подходит для его включения?», - задается вопросами Крис Уильямс.
«Страховщикам необходимо будет установить, покрываются ли риски ИИ действующими соглашениями страхования, а где нет, как они могут интегрировать и составить это покрытие на будущее, если они захотят это сделать, с учетом того, что ландшафт ИИ, как с технологической точки зрения, и нормативная перспектива быстро меняется», — добавил он.
По словам Лизы Уильямс, в течение следующего года страховщикам придется пересмотреть полисы профессионального возмещения и ответственности за качество продукции и, возможно, создать либо специальный полис для ответственности за ИИ, либо попытаться объединить существующие полисы, чтобы гарантировать их соответствие стандартам нормативных изменений.
«Традиционно клиенты приобретали отдельные полисы ответственности за качество продукции и профессиональные страховки, которые имеют разные триггеры, франшизы и покрытие. Как профессиональным андеррайтерам важно, чтобы мы четко разъясняли, где должна находиться ответственность за ИИ, и это то, что мы делаем в Zurich. У нас есть рабочие группы, которые рассматривают этот вопрос с точки зрения профессионального возмещения и ответственности за качество продукции, и я уверена, что другие страховщики будут делать то же самое», — сказала она.
Несмотря на разработки в области генеративного искусственного интеллекта, в настоящее время не существует совершенно новых категорий страховых рисков, говорит Джеймин Ким, директор по коммерческой стратегии Marsh McLennan. Новые технологии не всегда соответствуют новым категориям страховых рисков.
Аспекты генеративного ИИ со временем могут привести к появлению новых рисков, которые можно застраховать, а именно по мере дальнейшего развития технологий. Например, Ким объяснила, что потенциал генеративных систем искусственного интеллекта по развитию новых возможностей, для развития которых они не были намеренно предназначены, значительно затрудняет выявление не только полезных вариантов использования, но также потенциальных уязвимостей и векторов атак.
«По нашему анализу, пока не существует новых категорий рисков, которые могли бы быть застрахованы из-за генеративного искусственного интеллекта как технологии, но мы находимся на начальном этапе. Скорее, то, что мы наблюдаем, — это проявление существующих и знакомых категорий риска новыми способами, которые, как правило, могут быть решены с помощью существующих продуктов страхования рисков кибербезопасности, средств массовой информации и страхования от несчастных случаев», — сказала она.
Во многих случаях риски, связанные с ИИ, такие как телесные повреждения, финансовые потери или физический ущерб, уже покрываются страховщиками. «Эти риски уже существуют, но вопрос здесь в том, какой страховой полис их покроет, если таковой имеется, и где в конечном итоге будет покрываться ответственность перед ИИ? Страховщикам необходимо вникнуть в суть дела и начать спрашивать клиентов, как они используют ИИ и что они делают для снижения рисков», — сказал Крис Уильямс.
По мнению Джеймин Ким, важным фактором является то, как страховщики реагируют на возникающие воздействия генеративного ИИ и нормативные изменения. «Пока мы не видим массовых исключений или ограничений, когда речь идет о воздействии генеративного ИИ. С технологической точки зрения это не создает новых категорий страховых рисков. Но если страховщики начнут исключать или ограничивать риски, связанные с ИИ – например, в результате правовой/нормативной неопределенности или возникновения крупных претензий – это может создать пробел в покрытии, когда дело доходит до того, как компании оценивают и смягчают ответственность», –сказала она.
«Мы считаем, что существующие страховые полисы достаточно широки, чтобы устранить многие риски, которые могут возникнуть в результате генеративного ИИ. Тем не менее, по мере изменения нормативно-правовой базы могут возникнуть новые вопросы ответственности для компаний, которые разрабатывают и/или используют системы искусственного интеллекта», — продолжила Джеймин Ким.
По мнению Лизы Уильямс, если покупатели соблюдают требования о раскрытии информации, страхование ответственности должно покрывать риски, связанные с ИИ. Но компании, которые разрабатывают или совместно разрабатывают ИИ, или те, которые внедряют ИИ в производство, возможно, захотят рассмотреть возможность приобретения технической ответственности, кибербезопасности или специального покрытия ИИ, добавила она.
ИИ в страховании
Крис Уильямс из Clyde также отметил, что ИИ может предотвратить и смягчить убытки, что необходимо будет отразить в андеррайтинге. «ИИ позволяет страховщикам более точно и конкурентоспособно оценивать риски; это поможет выявить мошеннические претензии и частично снизить административную нагрузку. Для застрахованных эффективное внедрение ИИ может помочь уменьшить возникающие в первую очередь претензии, а когда претензии действительно возникают, их стоимость может быть ниже», — сказал он.
Например, обучение виртуальной реальности может помочь снизить риск выполнения сотрудниками опасных задач, а ИИ может даже использоваться для полной замены людей в определенных опасных ситуациях. «Такое использование возможностей, предоставляемых ИИ, может оказать весьма благоприятное влияние как на количество, так и на стоимость претензий, одновременно позволяя страховщику более точно оценить и оценить риск», — сказал Крис Уильямс.
Как правило, страховщики не исключают риски, связанные с ИИ, но компаниям придется раскрывать страховщикам информацию о деятельности и управлении, связанных с ИИ, по словам Лизы Уильямс из Zurich.
«Большинство страховщиков будут исследовать продукты клиента и лежащие в их основе технологии, но им нужно будет заявить и объяснить в своих материалах и презентациях, что они делают с точки зрения применения ИИ. Важно, чтобы мы хорошо понимали их роль в этом и объем контрактов. Нам нужно многое понять, чтобы гарантировать это и давать советы», — сказала она.
Джеймин Ким считает, что риск-менеджеры, брокеры и страховщики должны работать вместе, чтобы понять риски, связанные с ИИ, и их последствия для страхового покрытия.
«Как и в любой развивающейся деловой практике, при использовании генеративного искусственного интеллекта важно сотрудничать с вашим брокером и другими заинтересованными сторонами в страховании, чтобы убедиться, что вы понимаете, будут ли существующие полисы достаточными для решения соответствующих вопросов риска и страхования. Это должна быть постоянная дискуссия, а не разовый разговор о генеративном ИИ», — сказала Ким.
Подготовлено порталом Allinsurance.kz