В своей публикации эксперты U4 сосредоточились на трех ключевых темах: (1) использование ИИ для целей противодействия коррупции в «классических» областях, в которых данная технология уже продемонстрировала определенные достижения, (2) сферы, в которых ИИ внедрялся, но не показал позитивных результатов, и (3) некоторые перспективные направления применения ИИ.

1. К «классическим» сферам, в которых ИИ помогает эффективнее бороться с коррупцией, отнесены мониторинг государственных закупок, борьба с мошенничеством и отмыванием денег и анализ больших данных. Успешное применение ИИ в данных областях в основном связано с его способностью обрабатывать и связывать неструктурированную информацию в больших масштабах и использовать гибкий подход к обучению без учителя.

Так, в сфере государственных закупок ИИ позволяет:

• выявлять новые (как минимум в теории) и корректировать существующие индикаторы коррупции («красные флажки»);
• рассматривать гораздо более широкий набор входных данных в рамках анализа и мониторинга закупок для обнаружения более сложных схем сговора и конфликтов интересов;
• осуществлять анализ и мониторинг закупок в беспрецедентных масштабах, которые вряд ли было бы возможно обработать вручную.

В качестве базы для анализа при этом могут использоваться большие данные, собранные в рамках таких инициатив, как DIGIWHIST (информация о 17 миллионах тендеров по всему Европейскому союзу) или ProACT (сведения из не менее чем 42 национальных систем закупок).

В сфере борьбы с мошенничеством и отмыванием денег ИИ позволяет превратить эпизодические выборочные проверки в более эффективные, комплексные меры мониторинга в режиме реального времени. В качестве примера в докладе приводится кейс международного конгломерата по производству напитков, который консолидировал более дюжины внутренних систем управления ресурсами предприятия с несколькими внешними потоками данных, в результате получив комплексную функцию проверки поставщиков с поддержкой ИИ, которая сократила расходы более чем на 90%.

В области обработки больших данных ИИ позволяет эффективнее выявлять и анализировать релевантную информацию. Например, в Перу следователи используют ИИ для проверки растущего объема информации о подозрительных финансовых транзакциях. А финансовый конгломерат HSBC удвоил показатель обнаружения подтвержденных недействительных транзакций и сократил время обработки транзакций с более чем месяца до нескольких дней.

2. В то же время попытки использовать ИИ для принятия государственных решений с целью снижения их дискреционности, порождающей коррупцию, не увенчались успехом.

Системы, основанные на ИИ, часто принимали неверные или спорные решения: к наиболее известным кейсам авторы относят необоснованные отказы в выплате пособий по безработице тысячам законных заявителей в Мичигане, неправомерное лишение социальных пособий в Сербии и пособий по уходу за детьми в Нидерландах. Эта проблема связана с особенностями работы ИИ (принцип принятия решений моделями машинного обучения, особенно сложными, как правило, оказывается «черным ящиком» для внешнего пользователя) и с правами собственности на модели и данные ИИ; а невозможность полностью объяснить решения, принимаемые ИИ, в свою очередь, нарушает базовый принцип административной юстиции.

Еще одной проблемой стала предвзятость в обучающих данных и заметная склонность ИИ к галлюцинированию («выдумыванию» несуществующих/ложных данных и их подачи в качестве реальных фактов). Как оказалось, даже системы ИИ, которые специализируются на юридических вопросах, в 30% случаев были склонны к галлюцинациям, и, например, ссылались на законодательные нормы, которых не существует.

Все это свидетельствует о том, что, хотя ИИ может обеспечить поддержку принятия государственных решений, на сегодняшний день соответствующим системам все еще требуется наличие человека в качестве лица, утверждающего окончательное решение, – с тем, чтобы гарантировать, что такое решение является справедливым и обоснованным, а также установить четкие линии ответственности на случай, если что-то пойдет не так.

3. К перспективным направлениям использования ИИ для целей противодействия коррупции авторы относят дистанционное зондирование и инклюзивное участие граждан.

За последние десять лет системы ИИ развили свою способность извлекать информацию из изображений и распознавать сложные закономерности. Это открыло новые возможности для использования ИИ для борьбы с незаконными действиями, тесно связанными с коррупцией, – например, незаконной вырубкой лесов. Так, проект Forest Foresight разработал технологию на основе ИИ, которая может предсказывать незаконную вырубку лесов за несколько месяцев до ее возникновения; в ходе пробного внедрения в Габоне она помогла смотрителям парка возбудить 34 принудительных действия и остановить незаконную добычу золота. Кроме того, дистанционное зондирование с использованием ИИ применялось для:

• повышения эффективности обнаружения рейнджерами ловушек в Камбодже;
• распределения ответственности за удаленные разливы нефти в Средиземном море;
• выявления фиктивных поставщиков при закупках в Бразилии;
• обнаружения нелегальных майнеров биткоинов в Иране;
• пресечения незаконной рыбной ловли по всему миру;
• обнаружения искажения данных об экономической активности в Китае;
• выявления и локализации выбросов метана в США и т.п.

Не менее перспективным эксперты U4 считают использование ИИ для защиты от «захвата политики» и содействия инклюзивному участию граждан в принятии государственных решений.

С развитием дистанционных форм обратной связи управлять ими вручную стало практически невозможно. Так, например, Бюро по защите прав потребителей в сфере финансов США ежегодно получает более 1 млн комментариев, а в рамках публичных консультаций по новой конституции Чили поступило более 280 тыс. комментариев. В таких случаях государство обычно сталкивается с двумя основными проблемами:

• найти небольшое количество комментариев, имеющих высокую информационную ценность, среди потока несодержательных материалов;
• выявить, обобщить и определить веса для схожих проблем и мнений с тем, чтобы получить общий обзор общественных настроений.

Способность ИИ категоризировать и обобщать большие объемы текста на естественном языке позволяет решить эти проблемы и сделать процессы осмысленными и эффективными. Например, внедрение ИИ на платформе для сбора гражданских инициатив Consul Democracy, которая используется более чем 300 городами и организациями по всему миру, позволило значительно повысить эффективность ее работы. При первом использовании платформы в Мадриде, когда через нее поступило более 26 тыс. предложений, ручное обобщение информации привело к тому, что только 2 предложения достигли порога для рассмотрения городским советом; новая версия платформы с поддержкой ИИ позволяет гораздо эффективнее искать и консолидировать похожие предложения.

Помимо анализа сфер применения ИИ для целей борьбы с коррупцией, авторы публикации предлагают лицам, ответственным за разработку и внедрение соответствующих решений, учитывать ряд связанных с этим нюансов и сложностей:

1) Необходимость решения проблемы цифрового неравенства. Доступ к ИИ, а также исходные данные, используемые ИИ, остаются неравномерными с точки зрения страновых, гендерных, этнических или социально-экономических различий, например:

• только 22% специалистов в области ИИ – женщины;
• страны, в которых высока доля маргинализированных сообществ, могут иметь низкую представленность в цифровой среде;
• отдельные группы лиц могут быть непропорционально связаны с негативными событиями (например, более высокая распространенность в статистике преступлений из-за большего внимания со стороны полиции).

Все это может приводить к тому, что системы ИИ будут выдавать больше ошибочных и/или предвзятых результатов: так, системы поддержки принятия решений на основе ИИ при найме персонала могут воспроизводить гендерное неравенство, полагаясь на устаревшие данные, которые перекошены в сторону найма и продвижения кандидатов-мужчин. Важно принимать во внимание эти особенности при использовании ИИ для анализа и/или принятия решений.

2) Перспективность объединения разрозненных инициатив в области раскрытия информации, прозрачности и открытых данных с использованием ИИ. Например, в Армении ИИ внедряется для более эффективного изучения раскрытия активов должностными лицами, а в Чехии – помогает выявлять длинные цепочки политических связей с финансами и открытыми данными о собственности. Формируемые на основе этого отдельные пулы данных являются ценными и сами по себе, но в совокупности они позволят выйти на новый уровень в антикоррупционном анализе и мониторинге.

3) Важность инвестирования в целевые наборы данных для обучения ИИ и открытые модели. Ограниченная доступность непредвзятых данных является одним из основных ограничений в полном использовании потенциала ИИ, включая его применение в борьбе с коррупцией. Целенаправленная поддержка создания специальных, общедоступных учебных наборов данных в тесном сотрудничестве с профессиональным антикоррупционным сообществом может помочь раскрыть этот потенциал.

4) Необходимость создания условий для минимизации негативных последствий принятия неверных решений ИИ. Учитывая масштабы работы систем на основе ИИ, даже в оптимальных условиях модель неизбежно будет выдавать достаточно заметное количество ложноотрицательных результатов, то есть при использовании систем анализа и/или принятия решений на основе ИИ кто-то может быть ошибочно обвинен в мошенничестве, лишен льгот, на которые имеет право, и т.п. В этой связи важно обеспечить поддержку пострадавших лиц, особенно из числа социально незащищенных групп населения, за счет непосредственно создания практических возможностей обжалования решений, помощи в подаче жалоб и, при необходимости, возбуждении судебных дел. Кроме того, полезным может стать инвестирование в аналитические инструменты и создание структур для оценки того, когда и как ИИ не справляется и выдает предвзятые или иным образом ошибочные результаты.

5) Значимость развития компетенций по применению ИИ у антикоррупционного сообщества, в том числе понимания ограничений данной технологии (предвзятость и галлюцинации) и навыков формулирования запросов к системам ИИ. Для разработки специализированных антикоррупционных продуктов необходимы эксперты, способные адаптировать существующие системы ИИ и обучать их с использованием релевантных открытых данных. В этом направлении также важна поддержка государственных органов, гражданского общества и доноров, которые могут способствовать объединению ресурсов, поддерживать техническую экспертизу и реалистичный подход к оценке эффективности ИИ, выявлять, где наиболее полезны продвинутые технологии, а где достаточно простых решений.