Полиция города Дарема на севере Англии запустила в 2017 г. компьютерную программу, которая при помощи алгоритма искусственного интеллекта должна помочь полицейским определить, кого следует содержать под стражей, а кого можно отпустить. Алгоритм классифицирует задержанных по степени риска — с какой вероятностью они могут вновь совершить преступление.

Программа Harm Assessment Risk Tool (Hart) изучала данные полиции Дарема об арестах за период в пять лет, между 2008 и 2012 г. Затем система была протестирована даремской полицией в 2013 году, после чего в течение двух лет изучались результаты этого тестирования: полицейские отслеживали, вернулись освобожденные к преступной жизни или нет. Как выяснилось, алгоритм мог предсказать, что задержанный не представляет опасности, в 98% случаев. А находящихся в группе высокого риска компьютер правильно выявлял в 88% случаев. Это отражает настройки алгоритма искусственного интеллекта: он запрограммирован осторожничать и  классифицировать задержанных людей чаще в  группы среднего или высокого риска, чтобы не выпускать на свободу тех, кто может снова совершить преступление.

В  ходе испытаний программы полицейские следили за выводами Hart, но вердикт алгоритма не влиял на принятие решения об аресте. Подозреваемые, ранее не совершавшие преступлений, с меньшей вероятностью будут записаны алгоритмом искусственного интеллекта в категорию высокого риска. Однако если они арестованы по подозрению в серьезном преступлении, как, например, убийство, то это отразится на оценке программы. Программа может быть хорошим помощником во многих случаях: когда полиции следует решить, держать ли задержанного еще несколько часов, следует ли отпустить его под залог до того, как ему будут предъявлены официальные обвинения, и стоит ли держать его под арестом после предъявления обвинений.

В ходе нового эксперимента полицейские будут использовать систему при рассмотрении лишь ряда дел, выбранных случайным путем. Любой вывод алгоритма носит лишь рекомендательный характер и ни в коем случае не отбирает у полиции прерогативу принимать окончательное решение о судьбе задержанного. Алгоритм должен сохранять все данные о том, как программа пришла к определенному выводу.