Если судья отклоняет рекомендацию машины, та требует письменное объяснение для записи и проверки.

Так называемый «умный суд» теперь подключается к компьютеру каждого работающего судьи в Китае — и участвует в вынесении приговоров, следует из данных Верховного народного суда в Пекине.
Система, работающая на основе технологии машинного обучения, автоматически проверяет судебные дела на наличие ссылок, рекомендует законы и постановления, составляет проекты юридических документов и изменяет в приговорах предполагаемые человеческие ошибки.

В этом видят плюсы: искусственный интеллект уже сократил нагрузку на судей более чем на треть и сэкономил гражданам Китая 1,7 миллиарда рабочих часов с 2019 по 2021 год. Благодаря внедрению ИИ, бюджет также сохранил дополнительные 300 миллиардов юаней (45 миллиардов долларов), что составляет примерно половину от общей суммы гонораров адвокатов в Китае в прошлом году.

Однако критики опасаются, что судьи могут просто бездумно прислушиваться к ИИ — чтобы избежать проблем с оспариванием системы, даже если машина может выбрать менее подходящий справочный материал или закон для дела.

Кроме того, влияние ИИ выходит «далеко за пределы зала суда». До 2016 года каждый местный суд создавал и поддерживал собственную информационную систему. Судьи редко делились информацией с другими судами или Пекином. Национальная система заставила каждую инстанцию преобразовать документы в единый цифровой формат и подключить базу данных к центральному «мозгу» в Пекине. Кроме того, новые информационные порталы предоставили судебной системе прямой доступ к огромной базе, которая ведётся полицией, прокуратурой и некоторыми государственными органами.

ИИ участвует во всех аспектах правовой системы Китая, Информационный центр Верховного суда

Благодаря этому, ИИ ежедневно читает и анализирует почти сто тысяч дел по всей стране, следя за ходом каждого на предмет любых намеков на злоупотребление служебным положением или коррупцию. Исполнение вердиктов долгое время было проблемой для китайских судов, которым не хватало кадров. ИИ суда решает эту проблему, практически мгновенно находя и конфискуя имущество осужденного и выставляя его на онлайн-аукцион.

Также ИИ совместим с китайской системой социального рейтинга. Таким образом, признанному виновным в чём-либо могут запретить пользоваться самолётом, скоростным поездом, гостиницей или другими социальными услугами.

Мы должны быть готовы к эрозии судебной власти технологическими компаниями и капиталом.
Чжан Линхан, профессор права Китайского университета политических наук и права

Ещё один нюанс — судебную систему разрабатывали при активном участии китайских технологических гигантов. А значит, при её масштабировании, это бы передало слишком много власти в руки нескольких технических экспертов, которые писали код, разрабатывали алгоритмы или контролировали базу данных.