Непростая ответственность: что произойдет, если пациент, находящийся под наблюдением врача, получит травму и будет задействован искусственный интеллект (ИИ)?
Цифровые инновации уже начали трансформировать лицо здравоохранения во всем мире. Новаторские новые идеи и инструменты показали их потенциал, чтобы предложить пациентам более быстрый, более доступный и более эффективный уход.
В то время как будущее индустрии здравоохранения может показаться ярким, существуют серьезные препятствия, которые необходимо преодолеть как для медицинских работников, так и для страховщиков.
Индустрия здравоохранения является одной из последних отраслей, претерпевших «цифровую революцию», и на это есть веская причина: многие отрасли, такие как розничная торговля и банковское дело, практически не подвержены риску из-за широко распространенного и быстрого внедрения технологий. Однако в сфере здравоохранения, будь то компьютерный сбой, кибератака или просто плохо информированный искусственный интеллект (ИИ), последствия ошибки могут перерасти в жизненные или смертельные ситуации.
Приложения искусственного интеллекта
В 2018 году венчурный фонд Rock Health, специализирующийся на цифровом здравоохранении, сообщил, что в компании, занимающиеся цифровым здравоохранением, было вложено около 3 миллиардов долларов США с использованием ИИ и машинного обучения (МО), что делает его одной из самых горячих областей для финансирования и привлечения огромного внимания средств массовой информации.
Многие провайдеры впоследствии начали сомневаться в скорости, с которой ИИ проник в медицинскую практику, особенно когда он опирается на машинное обучение. Этот вопрос возник вскоре после одобрения Управления по контролю за продуктами и лекарствами (FDA) нескольких технологических решений на базе ИИ, предназначенных для инструментов анализа магнитно-резонансной томографии (МРТ) и компьютерной томографии (КТ).
В последние месяцы усилившееся давление и пристальное внимание со стороны медицинского сообщества побудили FDA выпустить новую структуру программного обеспечения ИИ / МО, чтобы предоставить отрасли правовую и нормативную ясность.
Но это по-прежнему не решает проблему ответственности: что происходит, когда пациент получает травму под присмотром врача и в этом участвует ИИ?
Вопросы глубокой ответственности
Во всем мире ИИ поднимает глубокие вопросы о медицинской ответственности. Обычно, когда что-то идет не так, источник вины можно легко отследить. Например, ошибочный диагноз обычно является ответственностью председательствующего врача. Или неисправное медицинское устройство, которое дает неправильное считывание и в конечном итоге наносит вред пациенту, скорее всего, привлечет к ответственности производителя.
Но что означает такой прецедент для ИИ?
Это стало настолько широко распространенной проблемой, что в июне 2019 года Американская медицинская ассоциация (АМА) приняла новую политику «Расширенное исследование в сфере здравоохранения». Она обеспечивает базовую основу для развития искусственного интеллекта в здравоохранении и помогает определить соответствующие шаги для обучения отрасли тому, как работает технология искусственного интеллекта и как оценить ее применимость, уместность и эффективность при уходе за пациентами.
АМА также выпустила некоторые рекомендации по ответственности, их позиция такова: «Если врач впоследствии не сможет надлежащим образом предупредить пациента и адекватно раскрыть риски и преимущества, связанные с продуктом (искусственный интеллект), ответственность за это будет нести врач».
Тем не менее, АМА добавляет: «Если пациент получает травму в результате использования технологии искусственного интеллекта, существующих правовых моделей недостаточно для того, чтобы учесть реалии этих инноваций».
Это, без сомнения, будет встречено с ужасом со стороны медицинского сообщества, которое недовольно мыслью о необходимости «проглотить таблетку ответственности» за эти возникающие медицинские ошибки, которые могут быть полностью вне их направления, контроля или базы знаний, вызывает опасения - все одновременно когда подходы «виновный, без вины» успешно применяются.
Многие будут следить за развитием прецедентного права с участием ИИ. В сфере здравоохранения этого практически не существует на данном этапе. Но некоторые юристы полагают, что будет один критический фокус: будет ли программное обеспечение просто повторять клинические рекомендации.
Если программное обеспечение работает, и его рекомендации выполняются, врач, вероятно, будет прав в соответствии с законом, говорят юристы. Если программное обеспечение не работает, а его рекомендации плохие, врач, скорее всего, будет нести юридическую ответственность.
Несмотря на эту неопределенность в отношении вопросов безопасности, качества и ответственности, многие стремятся продвинуться вперед в развитии ИИ в сфере здравоохранения. Провайдеры отмечают, что « ошибочные диагнозы являются основной причиной заявлений о злоупотреблении служебным положением во всем мире, и машинное обучение может значительно снизить расходы на здравоохранение и юридические расходы за счет повышения точности диагностики».
Учитывая большие расхождения во мнениях по этой теме и отсутствие какого-либо прецедентного права для создания прецедента, многие заинтересованные стороны должны готовиться к десятилетним дебатам о том, кто принимает окончательное решение об уходе за пациентом: технология или поставщик традиционных медицинских услуг?
Прекрасный новый мир андеррайтинга
Для страховой отрасли важно понимать, что, поскольку секторы здравоохранения и технологий продолжают переплетаться, специалисты-практики и компании, работающие с ними, начнут сталкиваться с более широким спектром рисков. Это заставит страховщиков пересмотреть исторические решения.
Было бы разумно предположить, что основные «медицинские» триггеры ответственности за происшествия устарели и не подходят для нынешнего времени. Эти триггеры и их определения были на удивление статичными, несмотря на глобальный рост технологий в здравоохранении в последнее десятилетие, и косвенный эффект этого, несомненно, приведет к тому, что между страховщикаки начнут показывать пальцами в разные стороны с целью переложить ответственность, или, в худшем случае, к откажут в удовлетворении претензии.
Недавний отчет The Doctors Company (TDC) выделил широкий спектр рисков, с которыми сталкиваются медицинские работники в наше время. В период с 2010 по 2017 год в отрасли наблюдалось 400% увеличение количества «связанных с электроникой» исков против поставщиков, что является прямым результатом принятия электронных медицинских карт.
Lloyd's of London также недавно призвал к четкости обозначения киберпокрытия в страховых полисах. Многие с интригой будут следить за тем, как рынок ответственности в сфере здравоохранения будет решать эту задачу. Приведет ли это к готовности утвердительно покрыть телесные повреждения, вызванные киберсобытиями, или применению абсолютных исключений?
Подобно медицинскому сообществу, страховщики должны будут подходить к страхованию этих возникающих рисков с осторожностью. Многих опробованных и проверенных прогностических моделей больше не будет достаточно, и необходимо будет применить взвешивание для этих возникающих рисков, которые присутствуют, являются реальными и которые все труднее прогнозировать.
Во многих отношениях это невероятно трудная задача, когда приходится совмещать стремительный рост инфляции в медицинской халатности. Но ключом для андеррайтеров будет объединение навыков, усвоенных технологий андеррайтинга и медицинской халатности для снижения риска революции в области цифрового здравоохранения.
Несмотря на то, что страховщики ответственности за медицинское обслуживание будут иметь выбор: адаптироваться к этой революции или нет, им будет невозможно ее игнорировать.
Подготовлено порталом Allinsurance.kz