Американцы редко сопротивляются, когда страховые компании отказываются оплачивать лечение, назначенное врачом. Компания Claimable, созданная Уоррисом Бохари,британским врачом и предпринимателем, три года назад, работает над тем, чтобы изменить эту ситуацию с помощью ИИ.
В одном из таких случаев, ИИ сгенерировал письмо с апелляцией , в котором приводились доводы в пользу заявителя. В письме «голос» ИИ звучал авторитетно, как будто его писал адвокат: «Резкая смена курса сейчас, после многих лет стабильности, может привести к предсказуемым и непредотвратимым негативным последствиям». Письмо направили в страховую компанию,губернатору, сенатору, генеральному директору компании и Марку Кьюбану, миллиардеру, который поставил перед собой цель «испортить здравоохранение».
Через несколько минут Кьюбан ответил, отправив электронное письмо генеральному директору компании. Он также написал об этой ситуации в LinkedIn. Не прошло и дня, как решение об отказе в выдаче препарата было отменено.
Менее 1% пациентов обжалуют отказы страховых компаний, и большинство людей даже не знают, что могут это сделать.
По оценкам компании Claimable, основанным на экстраполяции федеральных данных, ежегодно отклоняется около 850 миллионов страховых требований.
Но ИИ может усугубить эту проблему. «Потенциал автоматизации и принятия решений без участия человека сейчас выше, чем когда-либо», — говорит Кей Пестайна, вице-президент исследовательской группы в области здравоохранения KFF, специализирующейся на защите прав потребителей.
Судебные разбирательства и расследования показывают, что в целом по отрасли страховщики иногда просто штампуют отказы, которые в основном генерируются алгоритмами.
Бохари делает ставку на то, что пациенты смогут использовать ИИ для борьбы с ИИ и повышения финансовых и репутационных издержек, связанных с отказом в медицинской помощи.
Сайт использует большую языковую модель, обученную на страховых законах, судебных прецедентах и медицинской литературе, чтобы генерировать письма с апелляцией. Затем Claimable отправляет его в отдел рассмотрения жалоб страховой компании, а иногда и высшим руководителям, политикам и журналистам, чтобы усилить давление.
На данный момент сайтом воспользовались около 4000 человек, и, по данным Claimable, примерно в 3 из 4 случаев отказы были отменены.
Изначально компания Claimable рассматривала возможность создания собственной версии большой языковой модели с нуля. План состоял в том, чтобы использовать судебную практику, предыдущие отказы в выплатах, медицинские полисы страховых компаний и клинические данные, но собрать достаточное количество обучающих материалов для модели оказалось непросто.
Использование искусственного интеллекта для подачи апелляций по страховым случаям было сопряжено с очевидными рисками.
Главный из них заключался в том, что ИИ склонен выдумывать. Это может быть проблемой при написании курсовой работы в колледже или сопроводительного письма, но в случае с апелляцией по страховому случаю такая «галлюцинация» может привести к фатальным последствиям.
В итоге команда решила ограничить возможности программного обеспечения определенным набором проверенных знаний — медицинскими исследованиями, страховым законодательством, предыдущими обращениями, клиническими протоколами, — чтобы оно не могло самостоятельно генерировать информацию, как это делают ChatGPT.
Стремление компании Claimable не допустить, чтобы ИИ совершал ошибки, ограничивает скорость его развития. Несмотря на то, что цель компании — иметь возможность обжаловать любое решение об отказе, ей приходится разрабатывать индивидуальные алгоритмы для каждого заболевания или препарата, чтобы структурировать сбор информации от пациента.
Команда справилась с этой задачей быстрее, чем ожидалось. Теперь Claimable может добавить новое условие за несколько дней, хотя раньше на это уходили месяцы.
ссылка на оригинал статьи https://habr.com/ru/articles/1027364/