英國北部城市達勒姆，也是電影《哈利波特》的拍攝地，於2017年正式導入了人工智慧（AI）系統，成為英國警方的一項先進案例。
該系統名為「HART（危害風險評估工具）」。其功能是根據被逮捕者過去的犯罪紀錄、年齡、性別以及居住地區等數據，評估其「未來兩年內的風險」。
風險分為三個等級：再犯殺人或強盜等重大犯罪的可能性高者為「高」；可能犯下任何犯罪者為「中」；再犯可能性低者為「低」。此系統旨在輔助警方決定是羈留還是釋放，參考的不僅是警官的經驗，也包括AI的判斷。
AI已開始用於調查，但同時也出現了對保護個人資訊的擔憂。本文將從日本與英國的實務現場，探討AI與警務應有的距離。
達勒姆警方的刑事主任警監安德魯·克勞表示：「要站在警務最前線，必須大膽且勇敢。」「當時，我們冒險了。對英國警方而言，AI是未知的領域。」
然而，他們也遭受了批評。其中一個主要原因是，風險分析使用了居住地區的數據。市民團體和專家們擔心，居住在貧困地區的人是否會被視為風險較高者……。
據克勞表示，達勒姆警方內部也面臨重大問題。該系統過度依賴開發團隊中一名研究者的知識。原本系統應隨著社會變遷而更新，但警方內部缺乏具備此能力的人才。
文章後半將介紹英國警方採用的AI技術專家，大學教授對AI數據偏頗發出的警訊。他指出，警方擁有的數據尤其容易出現這種傾向。
AI的「癖性」一詞可能低估了實際情況。更精確的說法或許是AI潛藏的「歧視」或「歧視性偏見」。這些偏見可能相當嚴重，因此在社會場域的應用需要格外謹慎。更深層的問題是，這些「歧視」的根源來自於人
