Искусственный интеллект в уголовной юстиции: риски и меры защиты

Главное:

• Искусственный интеллект (AI) значительно влияет на систему уголовного правосудия, как в положительном, так и в отрицательном ключе.
• Новейшие технологии вызывают опасения относительно конфиденциальности и возможности предвзятости в процедурах правосудия.
• Нужны новые законы и регламенты для регулирования использования AI в уголовном праве, чтобы защитить принципы справедливости.

Современные угрозы, связанные с использованием AI в правосудии

Недавно генеральный секретарь Интерпола, Юрген Шток, подчеркнул, что AI способствует преступлениям на «промышленном масштабе», включая использование дипфейков и поддельных документов. В то же время, правоохранительные органы по всему миру начинают активно применять технологии AI, такие как распознавание лиц и анализ социальных сетей. Однако, несмотря на высокую эффективность, использование этих технологий также связано с серьезными рисками, такими как предвзятость и дискриминация.

Так, отчеты показывают, что системы распознавания лиц часто демонстрируют низкую точность в отношении различных расовых групп, что приводит к ложным обвинениям и системному расизму. Некоторые канадские правоохранительные органы уже начали реализовывать новые меры и политики, направленные на повышение прозрачности и справедливости в своей работе.

Проблемы с подделкой доказательств

Вторая область, где AI создает серьезные угрозы для правосудия — это использование дипфейков. Это технологии, позволяющие создать поддельные видео, аудио или документы, которые могут ставить под сомнение достоверность доказательств в суде. Например, на судебных процессах могут возникнуть споры о том, являются ли представленные доказательства подделкой, что может невольно привести к неправомерным оправданиям или осуждениям.

Существуют примеры, когда на основании вводящей в заблуждение информации из дипфейков принимались решения присяжными, что делает процесс правосудия менее предсказуемым и надежным.

Нужда в новых нормативных рамках

Ситуация требует срочных действий со стороны законодателей и правительств. Польза, которую может принести AI в системе уголовного правосудия, может быть ограничена без соответствующих законов и нормативных актов. Например, Европейский Союз уже работает над законом, который запрещает использование некоторых типов AI в случаях, связанных с биометрической идентификацией и профилированием.

В Канаде также существует необходимость разработки соответствующих законов, чтобы предотвратить возникновение системных ошибок. Неоправданное использование AI может подорвать доверие граждан к правосудию и создать дополнительные проблемы для уязвимых групп населения. Поэтому важно продумать стратегии применения AI таким образом, чтобы он действительно служил справедливости, а не подрывал её.