英国政府正在研发有争议的AI“预测谋杀”工具

英国政府正在进行一项颇有争议的项目，该项目利用AI预测未来可能会犯谋杀罪的人。

这个项目的存在是通过由监察组织Statewatch获取的信息自由请求得知的。

他们的研究结果表明，正在使用敏感的个人数据。这些包括健康记录、心理健康信息、成瘾历史以及那些尚未犯罪的人的数据。

Statewatch报道，正是司法部(MoJ)在领导这个计划，审查人们已有的权威记录，以防止严重犯罪的发生。

这个项目最初被称为“预测杀人案项目”，现在改名为“共享数据以改善风险评估”。该项目目前处于研究阶段，但据Statewatch报道，活动者和隐私权益保护者已经表示了担忧。

然而，官员们否认了这一点。卫报报道，司法部发言人表示：“这个项目仅用于研究目的。它是根据英国监狱和缓刑服务部门以及警方持有的已定罪犯罪者的现有数据设计的，以帮助我们更好地理解缓刑人员可能会犯下严重暴力行为的风险。报告将在适当的时候发布。”

根据Statewatch的报告，大曼彻斯特的警方共享了多达五十万人的数据。这其中包括了受害人、嫌疑人以及身处脆弱境地的人们。

Statewatch的研究员索菲亚·莱尔对这个项目提出了严厉的批评，她表示：“司法部试图建立这个‘谋杀预测系统’的举动，再一次以令人毛骨悚然和反乌托邦的方式，展示了政府发展所谓犯罪‘预测’系统的决心。”

她警告说，这个系统将加深种族和阶级歧视：“这种最新模型，使用我们机构性种族主义警察和内政部的数据，将加强和放大刑事法律系统所支撑的结构性歧视。”

“使用关于精神健康、瘾症和残疾的如此敏感的数据，是高度侵入性的且令人担忧的，”她补充说。

政府辩称，像这样的工具可以改善缓刑服务评估风险和预防暴力犯罪的方式。但批评者表示，该系统可能会因为错误和偏见的数据，导致人们被不公正地标签为潜在的杀人犯。

政府认为，这些工具将提高缓刑服务评估风险和阻止暴力犯罪发生的能力。然而，批评者警告说，该系统存在通过不良和偏见的数据将人们标签为潜在的杀人犯的风险。

虽然该系统仍在开发中，但是Statewatch的报告中提到了该系统的“未来运营化”，这使人们担忧它可能很快就会在现实世界的警务决策中使用。