Новость:Судей в КНР обязали использовать Искусственный Интеллект
| Судей в КНР обязали использовать Искусственный Интеллект |
- Тизер:
- нет
- Дата:
- 2023-10-22T00:00:00.000Z
- Место:
- КНР
- Участники:
- South China Morning Post
22 октября 2023, КНР
По сообщению South China Morning Post Верховный народный суд КНР высказал позицию, что судьи, при вынесении решений, должны в обязательном порядке консультироваться с системой «умных судов», использующей методы искусственного интеллекта (ИИ), перед вынесением решения по какому-либо делу. В случае несогласия с рекомендацией этой системы они должны давать письменное объяснение своей позиции.
Китай работает над созданием системы «умного суда» как минимум с 2016 года. Эта система, использующая в том числе машинное обучение, автоматически сканирует судебные дела на наличие ссылок, рекомендует законы и постановления судье, составляет черновики юридических документов и исправляет неточности в документах
C 2016 года национальные суды обязали загружать их документацию в специальную базу данных в определенном формате с тем, чтобы последующая процедура их анализа была более эффективна.
Несмотря на то, что подобная система очевидным образом облегачает подготовку судебных решений, последствия подобного асимметричного решения будут прогнозируемо плохими. Ведь предложенная Верховным народным судом КНР система очевидным образом провоцирует судей отказываться от собственных решений, создавая им соблазн стать на позицию клерка, штампующего решения Искусственного Интеллекта. При этом, поскольку сама система умного суда опирается, при дальнейшем дообучении, в том числе и на сгенерированные ею самой данные. Как известно, при отсутствии внешнего контроля, такая схема дообучения гарантирует постепенный переход к генерации шума обученной моделью. В идеальном мире судьи должны были бы исправлять возникающие таким способом ошибки, компенсируя своим объяснением позиции этот эффект. Но будет ли это происходить при такой схеме работы?