Генеративный искусственный интеллект (GenAI) предоставляет организациям множество способов революционизировать свои отрасли за счет улучшения бизнес-функций, однако эта технология может также открыть двери для злоумышленников, которые смогут использовать свои возможности для кибератак, согласно новому отчету Guy Carpenter, брокерского подразделения перестраховочной компании Marsh McLennan, и CyberCube, компании, занимающейся кибераналитикой.
В совместном отчете рассматривается, как Gen AI увеличивает риск кибератак, а также предоставляет механизмы для обнаружения и отражения таких атак.
Одной из основных проблем, отмеченных в отчете, является потенциальная возможность ИИ создавать более сложные полиморфные вредоносные программы, которые могут постоянно совершенствоваться, чтобы избегать обнаружения, что может привести к более длительным и разрушительным атакам.
«Улучшение векторов атак с помощью ИИ увеличит эффективность и результативность атак на этапах, предшествующих вторжению, в цепочке кибератак. Субъекты угроз смогут атаковать большее количество целей более экономичным способом, с ожидаемым увеличением процента успеха (за счет большего охвата более слабых организаций), что приведет к большему охвату данной кампании кибератак», — говорится в отчете.
«Можно ожидать, что ИИ повысит возможности субъектов угроз в перечислении целей, горизонтальном перемещении, эскалации привилегий и попытках избежать обнаружения вторжения. Эти улучшения в фазах после вторжения, вероятно, позволят злоумышленникам скомпрометировать больше активов при более высокой скорости заражения, что приведет к более значительному потенциальному ущербу», - отмечают авторы отчета.
Более того, в рамках исследования, проведенного двумя организациями, также было рассмотрено, как исторические киберинциденты, такие как атаки с использованием вируса-вымогателя Ryuk 2018–2019 годов и утечка данных Equifax 2017 года, могли бы быть еще более разрушительными, если бы были усилены возможностями ИИ. Например, если бы ИИ был включен в утечку Equifax, он помог бы злоумышленникам найти больше ценных данных, а также позволил бы им скрыть свои действия по извлечению этих данных, что, вероятно, привело бы к еще большим потерям.
Однако в отчете также поясняется, что защитники обычно имеют заметное преимущество перед нападающими, которое включает лучший доступ к данным для моделей обучения ИИ, а также большие ресурсы для разработки инструментов защиты.
«Однако не все защитники будут иметь ресурсы или желание воспользоваться этой передовой технологией, и, таким образом, логика подсказывает, что должно произойти некоторое общее увеличение частоты успешных атак на эти менее обеспеченные ресурсами или менее подготовленные организации», - отмечают эксперты.
«Наиболее вероятным результатом является то, что более крупные, более обеспеченные ресурсами или более подготовленные компании имеют больше шансов снизить свою (часто чрезмерную) подверженность киберрискам за счет использования ИИ в защитных механизмах, в то время как более мелкие, менее обеспеченные ресурсами или менее подготовленные компании, вероятно, будут более подвержены этим новым тенденциям и методам атак», - отмечают авторы отчета.
Заглядывая вперед, страховой сектор сталкивается с рядом новых проблем в количественной оценке и управлении рисками, связанными с ИИ. В отчете определены четыре основные области беспокойства:
- ИИ как угроза цепочке поставок программного обеспечения,
- ИИ, представляющий новые поверхности атак,
- ИИ, представляющий угрозу конфиденциальности данных, и
- риски, связанные с ИИ в ролях безопасности.
«Осознавая потенциальный риск накопления рисков, возникающий в связи с ИИ, для (пере)страховой отрасли важно смотреть вперед и вырабатывать аналитический подход для измерения риска, одновременно принимая во внимание положительные стороны ИИ», — говорится в отчете. «Поскольку технология ИИ все больше интегрируется в нашу жизнь, у (пере)страховой отрасли появляется уникальная возможность помочь страхователям подготовиться к потенциальным угрозам, исходящим от ИИ».
Подготовлено порталом Allinsurance.kz