ИИ вместо государственных деятелей и чиновников: угроза бюрократии или угроза справедливости?

Владимир Володин заявил, что парламентариев роботы не заменят.

Я считаю, а почему бы и нет? Хотя бы наполовину: оставить двести двадцать пять депутатов из сегодняшних четырёхсот пятидесяти. В Государственной Думе и Совете Федерации искусственный интеллект мог бы взять на себя функции улучшения качества правовой системы: юридической экспертизы законопроектов, выявления коллизий и поиска пробелов в регулировании. Нейросеть, на основе заданных ориентиров и научно обоснованных методик способна прогнозировать социально-экономические последствия принятия законопроектов – оценивать их регулирующее воздействие. С помощью ИИ можно автоматизировать мониторинг обратной связи - общественного мнения, выявлять риски для национальной безопасности и через цифровые сервисы улучшать коммуникацию с гражданами.
Машина справедливо считается более объективной, нежели человек: она не устаёт, не пьёт вина, и не бывает в плохом настроении, свободна от партийной и клановой дисциплины, она неподкупна в человеческом понимании этого слова. Тем не менее опасность коррумпирования машин существует: если нейросеть обучают на предвзятых данных, она автоматизирует те же пороки, что у людей —несправедливость, тенденциозное искажение фактов. В уголовном судопроизводстве, например, ИИ, обученный исключительно на обвинительных приговорах, на приоритете доказательств обвинения над доказательствами защиты, на поощрении низкого качества предварительного расследования, безальтернативном применении досудебных арестов, будет «штамповать» от имени государства такие же решения.
Недавнее включение нейросети SKAI в совет директоров Казахстанского фонда национального благосостояния «Самрук Казына» — не просто инновация, а признак изменения подхода к традиционной активной роли чиновника. Машина, анализирующая массив данных и вырабатывающая рекомендации получает место за столом, где принимаются решения. Совет директоров, конечно, коллегиальный орган и нельзя сказать, что машина захватила власть, но полагаясь не неё люди могут ослабить контроль и внимание в обсуждаемым проблемам – поставить дело на «автопилот».
Судопроизводство в Китае даёт нам другой пример: живые судьи обязаны консультироваться с нейросетью при вынесении решений, а несогласие с её рекомендацией должны аргументировать. «Виртуальные судьи», функционирующие через платформу WeChat. Система использует блокчейн и облачные технологии, обеспечивая прозрачность и предсказуемость судебной системы, снижая временные, физические и материальные издержки. По подобному пути намерен пойти и Верховный Суд России, о чём уже было заявлено. Однако цифровое правосудие поднимает важные этические вопросы, главный из которых состоит в том, может ли машина учитывать гуманитарные аспекты, требования социальной справедливости и индивидуализации наказания, или она лишь формально «штампует» решения по заложенным алгоритмам. Пусть судьи формально и сохраняют власть, искусственный интеллект становится реальной самостоятельной силой.
Главная угроза внедрения ИИ в систему государственной власти и управления не в отсутствии души и совести - её часто нет и у людей, а в мотивах тех, кто машину обучает. Их пристрастия и интересы задают для нейросети направление приоритетов выбора, превращая её в орудие коррупции и несправедливости, поэтому без адекватной системы публичного общественного контроля за формированием алгоритмов и машинным обучением ИИ из блага может превратиться в инструмент насилия.
Важной проблемой также является определение субъекта ответственности. Если ИИ порекомендовал ошибочное, или даже преступное решение, а человек с ним согласился, кто должен за это заплатить?

Вячеслав Плахотнюк,
Доктор права НИУ ВШЭ, советник РАЕН, адвокат
Читайте мой Telegram-канал «Адвокат говорит».
Подписывайтесь на мой канал Дзен https://dzen.ru/lawyercomment