В Guardian изучили практику использования ИИ в госсекторе и обвинили чиновников в предвзятости и отсутствии контроля

Редакция Guardian провела расследование, по итогам которого вышла публикация, обвиняющая правительственных чиновников в бессистемном и неконтролируемом использовании искусственного интеллекта и алгоритмов для решения множества важных вопросов: от получения льгот до подтверждения свидетельства о браке. 

Издание утверждает, что государственные служащие как минимум восьми правительственных департаментов и нескольких полицейских подразделений используют ИИ для принятия решений по вопросам социального обеспечения, иммиграции и уголовного правосудия. В Guardian считают, что подобные практики приводят к дискриминации. Например, ошибки алгоритма, используемого Министерством труда и пенсий (DWP), привели к тому, что десятки людей лишились своих пособий. Инструмент распознавания лиц, взятый на вооружение лондонской полицией, при определённых настройках допускает больше ошибок при распознавании лиц людей с тёмным цветом кожи. А в Министерстве внутренних дел признали, что использовали ИИ в системах для считывания паспортов в аэропортах, для помощи при подаче заявлений на получение паспорта, а также для выявления фиктивных браков. Позже внутренняя проверка в министерстве выявила, что алгоритм, используемый для выявления фиктивных браков, непропорционально часто обращал внимание на выходцев из Албании, Болгарии, Греции и Румынии.

Пострадали болгары и от использования DWP алгоритма, помогающего выявлять мошенников среди претендентов на получение пособий. Депутат от Лейбористской партии Кейт Осамор считает, что использование этого алгоритма могло способствовать тому, что в последние годы десятки болгар внезапно перестали получать пособия — их заявления ошибочно идентифицировали как потенциально мошеннические. При этом в DWP настаивают, что алгоритм не учитывает национальность. 

Расследование прокомментировала Мэрион Освальд, профессор права Нортумбрийского университета: «В том, как ИИ используется в государственном секторе, не хватает последовательности и прозрачности. Многие из этих инструментов затрагивают многих людей в их повседневной жизни, например, тех, кто обращается за пособиями. Но люди не понимают, для чего они используются, и не имеют возможности оспорить их применение».

Раньше в Великобритании существовал независимый правительственный консультативный совет, который отслеживал, как государство использует ИИ. Но он был упразднён в начале этого года.

Guardian напоминает, что проблемы с использованием ИИ госслужбами появляются не только в Великобритании. В Нидерландах налоговые органы использовали ИИ-инструменты для выявления потенциального мошенничества с пособиями по уходу за детьми. В конце концов сами налоговики были оштрафованы на €3,7 млн после того, как неоднократно принимали неправильные решения и «ввергали десятки тысяч семей в бедность».