28
Чт, март

Развитие искусственного интеллекта: Будущая перспектива и возникающие риски

В Фокусе

Искусственный интеллект (ИИ) означает способность компьютерной программы мыслить и учиться, как человек, и его влияние на общество уже нельзя отрицать. Приложения ИИ уже проникают во многие отрасли промышленности, принося потенциальные выгоды, которые, как прогнозируется, удвоят годовые темпы экономического роста в ряде развитых стран в будущем. Однако внедрение таких инновационных технологий также создает новые проблемы. В настоящей публикации определены некоторые из возникающих проблем и риски в связи с растущим внедрением ИИ и рассматриваются возможные будущие последствия так называемого «сильного» ИИ, излагаются потенциальные выгоды и области, вызывающие озабоченность. Публикация также рассматривается трансформационное влияние ИИ на страховую отрасль.

Резюме

Искусственный интеллект (ИИ), как и любая прорывная технология, помимо ряда преимуществ, также будет создавать новые риски для общества.

Более распространенная реализация приложений ИИ от чатботов до автономных автомобилей трансформирует промышленность и общество, принося такие преимущества, как повышение эффективности, новые продукты и избавление от рутины. Предполагается, что технологии ИИ повысят рентабельность бизнеса в 16 отраслях промышленности в 12 странах в среднем на 38% к 2035 году.

Существующие приложения ИИ построены вокруг так называемых «слабых» агентов ИИ, которые проявляют когнитивные способности в определенных областях, таких как вождение автомобиля, решение головоломки или рекомендации продуктов / действий. С учетом первых ощутимых преимуществ «слабых» приложений ИИ, которые уже реализуются во многих отраслях, ожидания в области технологий ИИ растут, и в будущем будут выделяться большие инвестиции в развитие, чтобы ожидать преимуществ более человекоподобного или «сильного» ИИ. Его внедрение, скорее всего, будет беспрецедентно разрушительным для существующих бизнес-моделей.

Помимо того, что ИИ является полезным по нескольким причинам, ИИ также имеет далеко идущие последствия для экономики, политики, мобильности, здравоохранения, безопасности и окружающей среды. Это нарушит рынок труда, изменит характер давних ролей и может быть использовано для влияния на политическое мышление и мнение. Риски и преимущества появятся в краткосрочной или долгосрочной перспективе, в зависимости от того, сколько времени потребуется для запуска «сильных» приложений ИИ, которые будут развернуты в реальном мире. Скорость внедрения зависит от уровня инвестиций в исследования и разработки для каждой области применения.

Для предприятий потенциальные угрозы могут легко уравновесить огромные преимущества такой революционной технологии. Согласно Барометру рисков Allianz 2018 года, влияние ИИ и других форм новых технологий уже занимает седьмое место в бизнесе, опережая политический риск и изменение климата. Компании сталкиваются с новыми сценариями ответственности и проблемами, поскольку ответственность переходит от человека к машине.

Между тем, повышение взаимозависимости означает, что уязвимость автоматических, автономных или самообучающихся машин к сбоям или вредоносным кибер-актам будет только возрастать, кроме того будут расти риски для более масштабных сбоев и потерь, особенно если задействована критическая инфраструктура.

Ожидается, что ИИ улучшит безопасность в секторе мобильности. По оценкам, ИИ может помочь сократить число дорожно-транспортных происшествий более, чем на 90%, но также ставит вопросы об ответственности и этике в случае инцидента. Использование ИИ в секторе здравоохранения может искоренить многие неизлечимые болезни и помочь обеспечить уход в отдаленных районах, но также может повлиять на конфиденциальность данных и права пациентов.

В области безопасности и защиты программное обеспечение, работающее от ИИ, значительно изменит ландшафт угроз цифровой безопасности. Это может помочь снизить кибер-риск за счет лучшего обнаружения атак, но также может и увеличить его, если е хакеры смогут взять добступ под свой контроль. ИИ может привести к более серьезным инцидентам, связанным с уменьшением стоимости разработки кибератак и более целенаправленных инцидентов. Такая же ошибка программирования или хакерская атака могут быть воспроизведены на многочисленных машинах. Или если бы одна машина несколько раз могла бы повторить одну и ту же ошибочную задачу, то это привело бы к непредвиденному накоплению потерь. Уже подсчитано, что крупная глобальная кибер-атака потенциально может привести к убыткам, превышающим 50 млрд. долл. США, но даже перерыв на полдня у поставщика «облачных» услуг может принести убытки в размере 850 млн. долл. США. Кроме того, ИИ может использовать автономные транспортные средства, например беспилотные летательные аппараты, в качестве оружия. Такие угрозы часто недооцениваются.

Что касается окружающей среды, ИИ уже помогает бороться с последствиями изменения климата с помощью умных технологий и датчиков, снижающих выбросы. Тем не менее, он также является ключевым компонентом в разработке наноботов, которые могут иметь опасные экологические последствия путем невидимой модификации веществ в наномасштабе.

Необходимы соответствующие стратегии управления рисками, чтобы максимизировать чистые выгоды от полноценного внедрения ИИ в общество. Для управления долгосрочными рисками, связанными с внедрением передовых приложений ИИ, необходимо решить пять проблемных вопросов: доступность программного обеспечения, безопасность, подотчетность, ответственность и этика. Учитывая каждую из этих областей, развитие и внедрение ИИ становится менее опасным для общества.

Параллельно страхование будет способствовать передаче и управлению возникающими рисками. Традиционные покрытия, такие как ответственность, несчастный случай, страхование здоровья и жизни, должны быть адаптированы для защиты потребителей и бизнеса. Страхованию необходимо будет лучше научиться работать с определенными рисками для предприятий,таких как кибер-атака, прерывание бизнеса, отзыв продукта и репутационный ущерб, вызванный негативным инцидентом. Кроме того, нарушение социальных норм приведет к необходимости поиска таких решений, как «универсальный базовый доход» и другие схемы защиты доходов, которые, вероятно, будут поддерживаться эволюцией существующих страховых решений по защите доходов.

Внедрение ИИ вызывает озабоченность по поводу персональных данных, в частности, в какой степени это может быть использовано для увеличения интеллекта агентов. Регулирование защиты данных в Европе уже содержит заметные ограничения для внедрения систем ИИ. Предприятиям необходимо будет научиться в будущем уменьшать, хеджировать или финансово покрывать себя от рисков несоблюдения новых правил защиты данных.

Между тем, определение и покрытие ответственности в будущем станут более сложными. Применение новых моделей страхования ответственности, скорее всего, будет принято, например, в таких областях, как автономное вождение, с увеличением ответственности на производителей и поставщиков программного обеспечения и снижением ответственности потребителей.

ИИ принесет пользу и страховщикам, точно также, как новые риски. Приложения ИИ улучшат процесс транзакций по страхованию и многие преимущества уже очевидны. Потребности клиентов могут быть лучше идентифицированы. Полисы могут быть выпущены, а требования обработаны, быстрее и дешевле. Также можно прогнозировать большие корпоративные риски, такие как прерывания бизнеса, угрозы кибербезопасности или макроэкономические кризисы. Чатботы могут помочь клиентам на круглосуточной основе.

Наконец, информация, полученная от анализа данных и аналитики на основе ИИ могут расширить границы страхования, привести к расширению существующих линеек продуктов, а также разработки новых решений по передаче рисков в таких областях, как прерывание бизнеса, не связанное с ущербом, и репутационный ущерб.

Содержание

Введение. Что такое ИИ?

ИИ воздействие на общество. ИИ связан с потенциальными выгодами и рисками во многих областях: экономика, политика, мобильность, здравоохранение, оборона и окружающая среда

ИИ поводы для беспокойства. Пять сфер для повышенного внимания, с которыми связано определение возникающих рисков ИИ: доступность программного обеспечения, безопасность, подотчетность, ответственность и этика

Воздействие возникающих рисков. Работа с бизнес-рисками, дезинтеграция рабочей силы, несоблюдение нормативных требований и изменение ответственности

Тематическое исследование: автономные автомобили. Одно из самых значимых применений ИИ в будущем принесет пользу и осложнения

Воздействие ИИ на цепочку добавленной стоимости в страховании. Существует несколько способов, посредством которых ИИ мог бы улучшить процесс страхования.

 

Авторы исследования: ALLIANZ GLOBAL CORPORATE & SPECIALTY
Материал подготовлен Казахстанским порталом о страховании