分享調查報道：印度警方正在用AI斷案，并造成不少誤判……

調查報道：當人工智能接管德裡執法，誰在承受代價？

As AI Took Over Policing in Delhi, Who Bore the Brunt？

作者：Astha Savyasachi

（注：Astha Savyasachi 是一位資深調查記者，其報道長期聚焦于印度的社會政治及人權議題。）

原文鍊接：https://pulitzercenter.org/stories/ai-took-over-policing-delhi-who-bore-brunt

這由《The Wire》與普利策中心（Pulitzer Center）聯合開展的一項調查，揭露了多起令人不安的案件：在缺乏确鑿佐證或可靠證人證言的情況下，僅僅依靠面部識别技術，多人便遭到警方逮捕。原文發布于《The Wire》，這是一篇很詳實的報道，不僅有關被AI輔助的面部識别技術冤枉的人的命運，也梳理了這項技術的被警方使用的原因和可能帶來的問題。在AI不可避免的會被用來維護治安的時代，這篇文章很值得閱讀，剛好和《真相捕捉3》有相關的地方，看到就分享在這～閱讀大約需要20分鐘。

...

阿裡說，自被捕以來，他一直在與嚴重的抑郁症做鬥争，這給他的家庭帶來了毀滅性的打擊。他說，他的母親在2020年時體重約為68公斤（150磅），而現在隻剩下30至35公斤（66-77磅），血糖經常飙升到危及生命的水平。阿裡還提到，由于他不在身邊，母親多年來生活貧困且營養不良，牙齒已經全部掉光。

“我們的經濟狀況已經惡化到了連母親的基本醫療費用都負擔不起的地步，”阿裡說，“我們深陷嚴重的經濟危機，背負了近200萬至250萬盧比（約合23,406至29,260美元）的債務，感覺我們的生活倒退了至少20年。”

在接受《The Wire》采訪時，他還描述了監獄中針對穆斯林囚犯的系統性歧視。他指控稱，他們經常受到羞辱，被盤問姓名，一旦被确認是穆斯林，就會被分配幹那些帶有侮辱性的粗活。

“我們被強迫用手去刷馬桶、擦地闆，甚至連刮水器這種最基本的清潔工具都不給，”他回憶道。他說，這種虐待不僅限于身體暴力。

“我經常受到侮辱，被罵作‘恐怖分子’，承受着難以忍受的精神折磨。無數個日子裡，我和我的母親隻能抱頭痛哭、祈禱，”他控訴道。

在談到新冠疫情封鎖期間的絕望處境時，阿裡解釋說：“囚犯們會為了獲得幫物資車卸貨的機會而大打出手，僅僅是為了能多拿5到7塊餅幹。夥食配給嚴重不足——通常隻有50到100毫升清湯寡水的基奇裡（Khichri，一種大米和豆子熬制的印式炖飯）和兩茶匙蔬菜，勉強夠活命。”

穆罕默德（Mohammed*）是“拉坦·拉爾謀殺案”中的另一名被告。據他的律師烏代（Uday*）稱，他同樣是通過面部識别軟件被“識别”出來的。在最終獲準保釋出獄前，他在沒有接受任何審判的情況下在鐵窗後度過了大約兩年時間。

盡管身份是未決犯（即在等待審判期間被羁押的嫌疑人），但他和阿裡一樣，也被強迫去清洗廁所和從事苦力勞動，而根據規定，未決犯在獄中服刑勞動應當完全遵循自願原則。他說，在他缺席期間，他的妻子經曆了一場痛苦且艱難的懷孕，父母的健康狀況也每況愈下，而他的保釋申請先後被駁回了四次。

他告訴《The Wire》，在其中一段視頻中，警方“認定”某個男子就是他，然而該男子比他至少高出5英寸（約12.7厘米），頭發長度明顯不同，穿的鞋不一樣，甚至襯衫口袋的數量都不一樣。他指出，這種所謂的“識别”主要取決于衣着——具體來說就是白襯衫和黑褲子，而這套衣服在視頻畫面中被好幾個人同時穿着。這一指控不僅引發了公衆對識别準确性的嚴重質疑，也讓人對所用工具的實際效能産生懷疑。

律師烏代曾帶着高等法院逐幀審查了警方收集的一段私人錄像。他辯稱，他的當事人根本無法被清晰辨認，因為他在畫面中模糊不清。此外，他所穿的衣服（白襯衫和黑褲子）與視頻中出現的許多其他人的衣服極為相似，因此無法确立他在案發現場的身份。烏代還指出，現有的所有鏡頭都沒有拍到穆罕默德破壞監控攝像頭的畫面，這與檢方的指控完全相悖。他補充道：“（他的）白襯衫上的标志在一段視頻中出現了，但在另一段視頻中卻沒有。盡管存在這種矛盾，警方依然堅稱視頻中的兩個人是同一個人。”

兩位辯護律師均向《The Wire》透露，面部識别技術被用來“識别”穆罕默德和阿裡：“警方沒有為他們中的任何一人安排‘列隊辨認’（TIP），這意味着任何指認他們的人，必然是早就認識他們并清楚其體貌特征的人。” 列隊辨認（Test Identification Parade, TIP） 是執法部門用于驗證證人辨認嫌疑人能力的一種法定程序。它要求将嫌疑人與若幹名外貌相似的人混在一起同時展現給證人進行辨認，以此評估證人的記憶力和可靠性，并用以佐證其他證據。雖然 TIP 本身不被視為獨立的核心證據，但它對于強化檢方的案情鍊條至關重要。

在多起案件中，法院在批準被告保釋時都指出，視頻畫面的真實性及其分析報告的有效性，都是必須在實際庭審階段才能審驗的懸案。

烏代争辯稱，由于所有被告本身就居住在事發地區，他們出現在附近并不令人意外。他進一步針對穆罕默德的案件斷言：“他僅僅出現在自己家附近的巷子裡，并不能蓋棺定論地證明他參與了主幹道附近發生的暴動。在許多聚衆鬥毆、混戰和社區騷亂案件中，許多人僅僅是出于好奇而駐足圍觀的群衆。在非法集會法的法律原則中，我們稱之為‘好奇圍觀者例外’原則。”

穆罕默德曾經經營着一家倒賣二手包的小店，以此維持一家五口的生計，但在锒铛入獄後，他已變得一貧如洗，店鋪也關閉了。如今，他被迫在賈瑪清真寺（Jama Masjid）外面的路邊擺攤賣包。由于頻繁收到法庭傳喚，他的生計經常被迫中斷。

據稱，在監獄内部，由于其穆斯林身份，他也遭到了獄方的歧視和侮辱性對待。在與《The Wire》交談時，他用低沉、破碎的聲音反複念叨着一句話：“Jail bahut buri jagah hai（監獄是個非常糟糕的地方）。”

為了生存并繼續打這場官司，穆罕默德被迫借了數十萬盧比的貸款。由于沒有穩定的收入，法律折磨看不到盡頭，全家人依然指望著他，他感到前路一片渺茫。

在審查了警方報告、提交了多份信息公開申請（RTI）、與辦案民警、辯護律師以及人工智能專家進行對話，并分析了涉及50多名被告的法庭文件後，《The Wire》發現，至少在一個案件中，多名被告是通過面部識别技術被“識别”出來的——而有時這種識别僅僅基于視頻畫面中捕捉到的側影甚至後腦勺。盡管沒有任何社會公衆證人能夠證實被告當時在案發現場，警方據稱依然強行實施了逮捕。

此外，在回應2022年提交的一份信息公開（RTI）申請時，德裡警方承認，面部識别技術被用于調查“與德裡東北部暴動相關的750多起案件”，且比對結果被作為指控被捕人員的證據。這意味着，在所有與暴動相關的案件中（總計758起），至少有98.9%的案件是在面部識别技術的協助下被宣布“偵破”的。

同樣，2020年3月，印度聯邦内政部部長阿米特·沙阿（Amit Shah）曾向聯邦院（Rajya Sabha，印度議會上院）透露，已有1922名暴恐分子通過面部識别軟件被鎖定，這占到了截至去年因涉暴動案而被捕的2619人中的至少73.3%。

然而，媒體報道表明，在目前已審理的案件中，超過80%的案件最終以被告獲判無罪或免予起訴告終。這引發了外界對這項技術的可靠性的嚴重質疑——而警方似乎對這項技術産生了極度的依賴。

阿裡和穆罕默德的遭遇凸顯了一個令人不安的趨勢：兩人僅僅是基于面部識别的比對結果就被逮捕，現場既沒有任何相互印證的佐證，也沒有任何可信的社會證人證言。究竟是什麼原因，讓警方對一項在德裡乃至全球範圍内因準确率低、自帶偏見、極易導緻冤假錯案并侵犯人權而飽受批評的技術，産生了如此不可動搖的盲目信任？

Why are the police rushing to use unaccountable AI technologies? 警方為何急于起用缺乏問責機制的人工智能技術？

在印度總理納倫德拉·莫迪（Narendra Modi）上台數月後，于2014年11月30日舉行的第49屆全印警察總監/副總監大會上，他推出了包含五點核心概念的“SMART”警務願景（即：嚴格而敏感、現代而機動、警惕而負責、可靠而響應，以及精通技術且訓練有素）。

自那時起，印度各邦的警察部隊便倉促卷入了在執法中引入基于人工智能（AI）工具的軍備競賽，政府也推出了衆多獎項和舉措來鼓勵這一趨勢。許多邦的警察部門已經開始依賴基于人工智能的自動化決策系統（ADMS）。其中包括：德裡的“面部識别系統”（FRS）和“犯罪制圖、分析與預測系統”（CMAPS）；北方邦的“三目”（Trinetra）和“CrimeGPT”；旁遮普邦的“旁遮普人工智能系統”（PAIS）；中央邦的“自動車牌識别系統”（ANPR）；拉賈斯坦邦的“基于人工智能的人臉消除檢測系統”（ABHED）；以及特倫甘納邦的“特倫甘納邦警察——COP系統”（TSCOP）。

...

在回應《The Wire》提交的一份《信息公開法》（RTI）質詢時，德裡警方裝備與後勤科于2025年2月24日承認：“通過印度電子有限公司（M/s Bharat Electronics Limited），在12個區的50個警察局轄區内共安裝了6630個監控攝像頭。根據合同規定，根據使用區的需求，10%的監控攝像頭具備面部識别技術功能。監控攝像頭中面部識别技術（FRT）功能的使用，正由各使用區根據其自身需求進行操作。”

What is the accuracy of the Delhi Police’s facial recognition technology? 德裡警方的面部識别技術準确率如何？

面部識别軟件的“準确率”是指其在各種條件下，從已知個體的數據庫中正确識别某人的能力，同時将“誤報”（将某人錯誤地識别為他人）和“漏報”（未能識别出已知人員）降到最低。在不同的條件下，如光線、攝像角度、圖像質量和面部表情，其準确率可能會有顯著差異。

2018年，技術專家傑克·拉佩魯克（Jake Laperruque）為“政府監督項目”（Project On Government Oversight）撰文指出：“面部識别的準确率會因各種因素而出現巨大波動，例如攝像頭質量、光線、距離、數據庫規模、算法以及受試者的種族和性别。”他警告稱，即使是一些最先進系統所承諾的90%的準确率，“當最終結果可能是對一個無辜者進行逮捕甚至使用武力（包括緻命武力）時，也是一種不可接受的風險”。

作為參考，在2011年初部署其面部識别系統之前，美國聯邦調查局（FBI）進行了一項測試，結果發現“在 FBI 系統中，大約每七次搜索中就有一次返回的是完全無辜的候選人列表，即便實際目标就在數據庫中”。而這種情況還是在軟件于那些測試中達到了86%的準确率之下發生的。

相比之下，近八年後的2018年，德裡警方通知高等法院，其面部識别軟件的準确率僅為2%。到了2019年，這一數字更是跌至1%以下，促使婦女和兒童發展部承認，該系統甚至無法可靠地分清男孩和女孩。

在2019年1月22日審理的“薩德漢·哈爾達爾 訴 德裡國家首都轄區”一案中，德裡高等法院對該技術的無效性表達了擔憂。針對過去三年中德裡發生的5000多起兒童失蹤案，法官席指出：“我們被告知，‘面部識别軟件’的使用至今未能協助破獲任何一起兒童失蹤案，這令人感到震驚。德裡警方在經過盡職調查後采用的軟件卻沒有帶來任何結果，這是最不可接受的。”

雖然向德裡警方供應面部識别技術的私營供應商 Innefu Labs 在其網站上聲稱，截至2025年6月11日，其面部識别系統的準确率已達到99.7%，但德裡警方在回應《The Wire》提交的多份《信息公開法》（RTI）申請時，至今仍未透露其面部識别技術的實際準确率。當被聯系時，Innefu Labs 的聯合創始人兼首席執行官塔倫·威格（Tarun Wig）拒絕發表評論。

除了準确率缺乏透明度之外，德裡警方還将判定匹配“成功”的“置信度得分”門檻設定得明顯偏低。在回應2022年的一項 RTI 申請時，警方透露：“所有相似度在80%以上的匹配均被視為陽性（成功）結果，而相似度在80%以下的匹配則被視為假陽性（錯誤）結果，後者需要額外的‘佐證’。”

2018年，美國公民自由聯盟（ACLU）對亞馬遜的面部識别工具“Rekognition”進行了一項測試。測試發現，該軟件将28名美國國會議員與犯罪數據庫中的人員進行了錯誤匹配，誣稱他們是曾因犯罪被捕的人。其中，有色人種國會議員被錯誤匹配的比例高得不成比例。ACLU 在進行該測試時，使用的是該軟件默認的80%“置信度門檻”——這與德裡警方使用的門檻完全一緻。

“在這種情況下，警方可以繼續調查任何得分可能非常低的人。因此，任何看起來哪怕隻有一絲相似的人最終都可能成為針對的目标，這可能會導緻那些在曆史上就經常淪為被針對對象的社群再次受到侵害，”前 IFF 政策法律顧問、研究員阿努斯卡·賈因（Anushka Jain）辯稱。

多位律師告訴《The Wire》另一個法律盲區：警方在法律上并沒有義務向被告透露他們是否是通過面部識别被鎖定的。這剝奪了被告對識别程序或匹配結果的可靠性提出質疑的機會。“全景項目”的一篇文章指出：“也應當向被告提供獲取該軟件源代碼的渠道，以便其能夠對針對他們提出的證據進行實質性的質疑。”

甚至連德裡警方的面部識别技術供應商——Pelorus Technologies——也承認了該工具的局限性。當被《The Wire》問及該工具的準确率在巷弄等光線昏暗的環境中是否會受到影響時，首席執行官拉胡爾·德維維迪（Rahul Dwivedi）坦言：“是的，當然會！這取決于攝像頭，取決于光線，也取決于它所拍攝的圖像的角度。”

How well-trained are the Delhi Police to use AI tools? 德裡警方在使用人工智能工具方面接受過怎樣的培訓？

警察研究與發展局（BPR&D）是負責印度全國警察培訓的中央核心機構。該機構負責設計培訓模塊，并為執法人員實施能力建設規劃。在邦一級，各個警察部門也會開展自己的培訓活動。

《The Wire》對應由德裡警方使用的各類培訓手冊進行了徹底審查。我們發現，在《直接招募副督察國家教學大綱》中，僅有一次提及了人工智能。在總共2620個教學課時中，分别僅有一個課時專門用于講授人工智能和面部識别技術，這表明現代警務中的新興技術在培訓層面并未受到多少重視。

2024年，位于拉金德拉·納加爾（Rajendra Nagar）的專業培訓中心為德裡警務人員開展了一些專業培訓課程。所有級别從高級警員（head constables）到督察（inspectors）的人員，全年僅參加了四次、每次僅半天的案發現場錄像與攝影課程。而從副督察（SIs）到助理警察局長（ACPs）的官員，則僅接受了一天關于“社交媒體調查與開源情報（OSINT）”的培訓，該培訓全年同樣僅開展了四次。此外，針對副督察和督察，關于監控錄像處理、硬盤錄像機（DVR）取證以及“法醫學新興趨勢與當代取證技術”的一日培訓課程，也分别僅在四個不同的日期提供過。

位于恰納基亞普裡（Chanakyapuri）的 SMART 警務學院提供了關于“監控錄像處理”、“無人機技術”、“社交媒體調查”和“開源情報”的專業研讨會，但在整個2024年期間，每項研讨會都僅限于兩個半天的課程。而且，這些培訓僅面向助理警察局長（ACP）及以上級别的官員提供。由于一線調查主要由被排除在這些課程之外的督察級官員參與，這種極其有限的培訓覆蓋範圍引發了人們對其最終成效的擔憂。

位于德瓦爾卡（Dwarka）的網絡培訓部門在2024年則未提供任何關于“面部識别技術”的培訓。

非政府組織“共同事業”（Common Cause）發布的《2019年印度警務現狀報告》，對2012至2016年間各邦的警力水平和充足性進行了評估。報告發現：“在德裡，幾乎所有的高級别官員每年都會接受在職培訓，”但針對普通警員（Constables）和副督察/助理副督察的培訓率依然“極低”。在此期間，僅有11.7%的警務人員接受過在職培訓，而用于培訓的支出僅占德裡警察總預算的2.49%。

《The Wire》采訪了國立防務大學（RRU）的助理教授阿坎莎·薩克塞納（Aakansha Saxena）。該大學位于古吉拉特邦，為包括古吉拉特邦、旁遮普邦、卡納塔克邦、德裡和奧裡薩邦在内的各邦警察部隊提供專業培訓。作為 RRU 人工智能中心負責人的薩克塞納，對德裡警察局内部接受面部識别技術培訓的普及程度表現出了不确定性，她表示：“我不知道是不是所有的警察都接受了培訓，但可以肯定的是，他們中的一部分人絕對接受過培訓。”她還證實，德裡警方的面部識别系統已與“阿德哈爾（Aadhaar，即印度唯一身份認證UIDAI）”數據庫以及“駕駛執照”數據庫實現了聯網互通。

令人感到驚訝的是，盡管薩克塞納承擔着培訓德裡警務人員的職責，但她對抗議現場面部識别系統的開發公司、準确率或其他技術規範等核心細節一無所知。

薩克塞納解釋稱，培訓課程是由大學院長、副校長與高級警官共同開發的。她指出：“由于警官們不太适應這種新技術（人工智能），他們希望學習如何将其整合到自己的案件偵查中……盡管他們還有其他可替代的方法。”當被問及人工智能工具是否幾乎應用于每一起案件時，她證實确實如此，這凸顯了警務工作對該類技術日益增長的依賴性。

薩克塞納表示，該培訓計劃旨在向警官傳授威脅情報、人工智能驅動的鎖定系統、面部識别系統的開發、識别其自身脆弱性、攻擊者可能利用這些漏洞的手段以及防禦策略。警官們還會接受關于深度僞造（Deepfakes）技術的培訓——包括其定義、制作方式以及如何區分深僞内容與真實内容。

當被問及德裡警方的面部識别技術涉嫌導緻錯誤識認的指控時，薩克塞納承認這完全有可能。她指出，警官們“充分意識到了面部識别技術（FRT）的準确率是如何取決于多種因素的，并且無法保證在每一起案件中都能做出百分之百正确的識别”。

當被要求分享提供給德裡警方的具體培訓模塊資料時，國立防務大學（RRU）管理層未做出任何回應。

Are the Delhi Police upholding their own guidelines? 德裡警方是否執行了他們自己的指南？

在警察研究與發展局（BPR&D）制定的《辦案民警案例情景彙編（2024）》中，其概述的“标準操作程序”（SOP）明确規定：在發生暴動的情況下，辦案民警（IO）如果從監控錄像中獲取了被告的照片，應當将其輸入到面部識别軟件中運行，以收集有關其身份的線索。

這一指令引發了一個關鍵問題：如果面部識别是德裡警方标準操作程序中不可或缺的一部分，為什麼在培訓中給予的重視卻微乎其微？其在案件偵查中被規定的用途與在培訓中受到的有限重視之間存在脫節，這表明在前期準備和有效執行方面存在盲區。

上述 SOP 明确指出，“對被告的‘列隊辨認’不應有任何延誤”，因為它是“偵查工作中的一個重要環節”。然而，《The Wire》對涉及至少50名被告的案件法庭文件進行分析後發現，警方沒有為其中任何一人進行過列隊辨認（TIP）。盡管有明确的指令，這一至關重要的程序卻大體缺席，突顯出警方未能遵守偵查協議。《The Wire》已就這一疏漏向德裡警方和聯邦内政部提出質詢，但截至目前未收到任何回複。

該 SOP 還概述了其他的偵查步驟，指出辦案民警也可以權衡使用“步态分析”（Gait Analysis）等先進科學測試的可能性。盡管有此指令，但沒有任何培訓計劃或研讨會将焦點專門放在步态分析或其他先進的基于人工智能的偵查工具上。

CCTV+ drones + facial recognition = mass surveillance? 監控 + 無人機 + 面部識别 = 大規模監控？

德裡是印度受到監控最嚴密的城市之一。2022年8月，在德裡警察總部舉行的一次會議上，内政部部長阿米特·沙阿（Amit Shah）表示：“在預防和偵查犯罪方面，監控是警務工作的主要組成部分，”并建議将包括公共場所和民政機構在内的所有監控系統與警方控制室進行聯網整合。

然而，研究表明，監控攝像頭的分布在德裡各個地區并不均衡。監控攝像頭的部署、過度執法的情況以及歧視性鎖定目标的模式，明顯更集中在某些特定社區。

“法律政策維迪中心”（Vidhi Centre for Legal Policy）于2021年開展的一項實證研究表明，德裡警方對面部識别技術的使用“幾乎不可避免地會對穆斯林産生不成比例的影響，尤其是那些生活在老德裡或尼紮穆丁（Nizamuddin）等執法過度區域的穆斯林”，從而可能增加他們被執法機構鎖定的概率。

康奈爾大學人工智能政策學者傑伊·維普拉（Jai Vipra）在其研究中，強調了德裡監控實踐中根深蒂固的結構性不平等。她在論文中論證了“有兩個因素尤其突出——警察局在空間上的不均勻分布，以及監控攝像頭在空間上的不均勻分布——這很可能導緻德裡的某些社會階層比其他階層承受更多的監控偏見”。

該研究指出：“在德裡，我們的數據顯示有兩類地區的執法強度遠超其他地區：（1）設有政府和外交機構的地區，即中央德裡；（2）穆斯林人口比例較高的地區。與這些地區相對較低的人口總數相比，其擁有的警察局比例更高。技術，尤其是預測警務技術，構成了這種形式下執法力度的升級，并可能不成比例地鎖定德裡的穆斯林。”

論文進一步闡述道：“德裡警務中的面部識别技術（FRT）很可能會利用全市監控攝像頭所提供的數據。這意味着，監控攝像頭相對較多的地區将被過度監視、過度執法，從而比其他地區承受更多的誤差抹黑……對穆斯林地區顯而易見的過度執法，可能會導緻面部識别技術在德裡警務中的應用不公平地指向穆斯林。”

Illustration by Pariplab Chakraborty.

警方官員的表态也暗示了在德裡東北部等穆斯林占多數的地區執法力度的加大。針對2020年的德裡暴動，德裡警察局副局長（東北區）喬伊·蒂爾基（Joy Tirkey）于2024年2月表示：“如果說德裡有一個地區需要真正紮根基層的警務工作，那就是東北區……東北區不僅容易發生犯罪，而且是一個社區關系敏感的地區。”他補充道：“自2020年暴動以來，我們一直密切關注着東北區。”

科達利指出：“監控并不局限于監控攝像頭。面部識别也通過手機來部署（警察随機攔下民衆并拍照），尤其是在海得拉巴和德裡等城市。”

Do the police really care about privacy? 警方真的在乎隐私嗎？

德裡警方已經承認，在部署面部識别技術之前，并未進行過任何隐私影響評估。他們進一步表示：“在偵查任何案件時，根據法律，辦案民警有權挖掘一切可能的信息，以識别并依法起訴犯罪分子。”

警方還拒絕透露通常在案件偵查的哪一個階段才會引入面部識别技術。關于與面部識别技術配套使用的數據庫，德裡警方表示：“根據1920年《囚犯識别法》第3條和第4條的規定，警方保存有囚犯照片和檔案照片。”但他們拒絕提供與該系統聯網的完整數據庫清單。

需要指出的是，1920年的《囚犯識别法》現已被廢除，并被2022年的《刑事訴訟（識别）法》（CPIA）所取代。新法允許對更廣泛類别的數據（指紋、掌紋、腳印、虹膜和視網膜掃描，以及其他物理和生物樣本）進行收集、分析和存儲，對象包括任何被捕的人員（無論是未決犯還是已決犯）——這是一場極其大規模的個人數據收集。

ISO/IEC 27001 是信息安全管理的國際标準，為風險評估和安全控制措施的實施提供了一個結構化的框架。當被問及其面部識别技術是否符合該标準時，德裡警方回應《The Wire》稱：“在招标時并未要求符合 ISO/IEC 27001 标準。”

阿努斯卡·賈因告訴《The Wire》：“由于我們不了解德裡警方的面部識别技術數據得到了何種級别的保護和安全防禦，我們無法得知供應技術的公司是否能夠訪問德裡警方的數據。”

What do experts recommend? 專家們有何建議？

-必須對數據的存儲期限設立限制。所獨有。在全球範圍内，數據隐私和公民自由倡導者都對該技術的無節制部署表達了嚴重關切。美國公民自由聯盟（ACLU）曾警告稱，面部識别可以用“一種被動的方式進行，不需要受試者的知情、同意或參與”。電子前哨基金會（EFF）、算法正義聯盟（Algorithmic Justice League）和國際特赦組織（Amnesty International）等組織已呼籲暫停甚至全面禁止使用這項技術。

布魯金斯學會“人工智能與新興技術倡議”發布的一份報告，列出了公衆在面對面部識别軟件時應該要求的幾項防禦性護欄措施：

- 必須對數據的存儲期限設立限制。

- 數據共享必須受到嚴格限制。

- -在進行面部捕捉時，應當有明确的告知。

- 必須達到最低的準确率标準。

- 需要引入第三方審計機制。

- 必須将附帶信息（元數據）的收集降到最低。

這些建議凸顯了引入全面監管和審查機制的迫切需求——而這種機制在許多國家（包括印度）明顯處于缺失狀态，即便他們正争先恐後地将面部識别應用于警務執法。

《The Wire》已向德裡警察局局長和聯邦内政部秘書發送了一份詳細的問詢清單，涉及人工智能工具和面部識别技術的使用、涉嫌存在的誤差以及程序疏漏，還有在使用這些技術時表現出的不透明性。警察局長辦公室表示，這些質詢已轉交至負責處理2020年德裡暴動案件的德裡警方特别分支（Special Branch），但在多次催促後，至今未收到進一步的實質性回複。

注：為保護當事人隐私，報道中被起訴人員及其律師的姓名均為化名。