Искусственный интеллект будет выявлять потенциальных убийц в Великобритании. Критики называют это антиутопией
Министерство юстиции Великобритании работает над программой по «предсказанию убийств». Алгоритмы искусственного интеллекта будут выявлять потенциальных убийц среди уже осужденных преступников. Критики назвали проект жутким и антиутопическим, пишет Би-би-си.
Британской некоммерческой организации по защите гражданских свобод Statewatch удалось детали проекта из документов, полученных через запросы по Закону о свободе информации. Проект был заказан офисом бывшего премьер-министра Риши Сунака. Изначально он назывался «проектом прогнозирования убийств», но его название было изменено на «обмен данными для улучшения оценки рисков».
Алгоритмы будут анализировать закономерности в данных о преступлениях, совершенных до 2015 года, на основе официальных источников, среди которых Служба пробации и полиция города-графства Большой Манчестер на северо-западе Англии.
Согласно официальной информации, использоваться будут личные данные тех, у кого была хотя бы одна судимость. Однако группа Statewatch утверждает, что анализируемые данные включают в себя информацию о людях, которые никогда не были осуждены, например, жертвы домашнего насилия и люди, которые предпринимали попытки суицида или занимались селфхармом (самоповреждениями).
Как пишет Telegraph, обрабатываемая информация включает имена, даты рождения, пол, этническую принадлежность и идентификационные номера людей в национальной полицейской базе данных. Опасения Statewatch, отмечает издание, основывается на соглашении об обмене данными между Министерством юстиции и полицией Большого Манчестера. Раздел о типах личных данных, которые полиция передает правительству, включает не только информацию об уголовных преступлениях, но и, например, возраст, когда человек впервые стал жертвой (в том числе семейного насилия) и когда впервые контактировал с полицией. Передаются и такие чувствительные данные, как информация о психическом здоровье, зависимостях, селфхарме, попытках суицида, инвалидности и другие «маркеры здоровья, которые предположительно обладают значительной ценностью для прогнозирования».
София Лиялл, исследовательница Statewatch, назвала проект жутким и антиутопичным.
«Снова и снова исследования показывают, что алгоритмические системы для прогнозирования преступлений изначально ошибочны, — заявила она Guardian. — Эта последняя модель, использующая данные нашей институционально расистской полиции и Министерства внутренних дел, укрепит и усилит структурную дискриминацию, которая лежит в основе уголовной юстиции».
По ее мнению, это только усилит предвзятость в отношении расовых и малообеспеченных общин, а использование чувствительных данных вызывает тревогу.
В Министерстве юстиции Великобритании, тем не менее, говорят, что проект носит исключительно исследовательский характер.
«Он был разработан с использованием существующих данных, которые находятся в распоряжении Службы пробации и тюрем, а также данных полиции об осужденных преступниках», — заверил официальный представитель Минюста. По его словам, проект должен помочь лучше понять риск насильственных преступлений среди тех, кто находится на пробации.
Министерство заявило, что Служба пробации и тюрем уже использует инструменты оценки рисков, и этот проект проверит, улучшится ли оценка рисков с добавлением новых источников данных, включая данные полиции.
Отчет об этом будет опубликован в ближайшее время, обещает Минюст Великобритании.
Комментарии