Эксперты утверждают, что генеративный искусственный интеллект используется многими сотрудниками во многих организациях, поэтому компаниям необходимо принять меры для защиты от утечек данных при использовании этой технологии.
Надежные программы обучения должны стать первой линией обороны, но также необходимо внедрять технологические меры контроля безопасности, заявили эксперты в ходе сессии на ежегодной конференции Rims Riskworld.
Сотрудники знают, что ИИ может помочь им с повседневными задачами, такими как составление электронных писем, сказала Лианн Аппельт, руководитель отдела управления корпоративными рисками в Salesforce. «Они будут использовать эти инструменты, потому что они есть», — сказала она.
Было несколько широко известных случаев, когда сотрудники различных компаний загружали конфиденциальные данные компании в общедоступные инструменты ИИ, такие как ChatGPT. Кроме того, были случаи, когда люди полагались на ИИ в своей работе, который предоставлял неверную информацию, сказала Аппельт.
По ее словам, Salesforce поощряет сотрудников использовать ИИ, но у компании есть защищенный инструмент ИИ, которым сотрудники могут пользоваться.
Стив Тейлор, директор по киберрискам и устойчивости консалтинговой компании BDO USA, считает, что как и в случае с другими технологическими рисками, такими как фишинговые атаки, люди зачастую являются самым слабым звеном в цепочке безопасности.
«Речь идет о том, чтобы объяснить людям, что приемлемо, что им следует использовать в повседневной жизни с точки зрения ИИ, а также о создании соответствующей политики и управления на этой основе», — сказал он.
Однако компании также должны использовать технологии для защиты от утечки данных посредством ИИ, отметил Тейлор.
Например, следует внедрить мониторинг облачных вычислений и программного обеспечения как услуги, меры безопасности конечных точек сети, инструменты предотвращения потери данных и анализ поведения, сказал он.
Подготовлено порталом Allinsurance.kz