Его результаты проливают свет на бессистемное и зачастую бесконтрольное использование передовых технологий в британском правительстве.
Государственные служащие по меньшей мере восьми департаментов британского правительства и нескольких полицейских управлений используют ИИ в самых разных областях, но особенно в тех, где он помогает им принимать решения по вопросам социального обеспечения, иммиграции и системы уголовного правосудия, говорится в расследовании.
The Guardian располагает доказательствами того, что часть ИИ-инструментов потенциально дискриминационны. Так, алгоритм, используемый министерством труда и пенсионного обеспечения (Department for Work and Pensions, DWP), лишил десятки людей положенных им выплат. Программа распознавания лиц, которую использует лондонская полиция, чаще ошибается в процессе идентификации граждан с черным цветом кожи. Министерство внутренних дел Великобритании выносит решения о разрешении на брак с помощью алгоритма, который чаще отказывает представителям определённых национальностей.
Искусственный интеллект обычно обучается на большом наборе данных, а затем анализирует их таким образом, который иногда не до конца понимают даже те, кто разработал эти инструменты. Если в данных уже заложена дискриминация, предупреждают эксперты, то ИИ-инструмент, скорее всего, также покажет дискриминационные результаты. К тому же в некоторых случаях британские чиновники, отдающие на откуп искусственному интеллекту судьбы людей, даже не предупреждают их о том, что выносят решения не самостоятельно.
«Без принятия срочных мер [в сфере ИИ – прим.] мы можем, не отдавая себе отчёта, оказаться в ситуации, когда непрозрачные автоматизированные системы регулярно и, возможно, незаконно будут использоваться для принятия судьбоносных решений, а люди даже не смогут получить компенсации за допущенные ошибки», – заявил генеральный директор независимой благотворительной юридической организации Public Law Project Шамим Ахмад.
Премьер-министр Риши Сунак недавно с восторгом рассказывал о том, как ИИ может преобразовать государственные службы, «сэкономив учителям сотни часов времени, затрачиваемого на планирование уроков, и помогая пациентам Национальной службы здравоохранения (National Health Service, NHS) быстрее ставить диагнозы и проводить более точные тесты».
Использование ИИ госведомствами ранее уже приводило к скандалам, например, в Нидерландах налоговые органы использовали его для выявления возможного мошенничества с пособиями по уходу за детьми, но были оштрафованы на €3,7 млн после того, как неоднократно принимали неверные решения и поставили десятки тысяч семей в бедственное положение.
