分享调查报道：印度警方正在用AI断案，并造成不少误判……

调查报道：当人工智能接管德里执法，谁在承受代价？

As AI Took Over Policing in Delhi, Who Bore the Brunt？

作者：Astha Savyasachi

（注：Astha Savyasachi 是一位资深调查记者，其报道长期聚焦于印度的社会政治及人权议题。）

原文链接：https://pulitzercenter.org/stories/ai-took-over-policing-delhi-who-bore-brunt

这由《The Wire》与普利策中心（Pulitzer Center）联合开展的一项调查，揭露了多起令人不安的案件：在缺乏确凿佐证或可靠证人证言的情况下，仅仅依靠面部识别技术，多人便遭到警方逮捕。原文发布于《The Wire》，这是一篇很详实的报道，不仅有关被AI辅助的面部识别技术冤枉的人的命运，也梳理了这项技术的被警方使用的原因和可能带来的问题。在AI不可避免的会被用来维护治安的时代，这篇文章很值得阅读，刚好和《真相捕捉3》有相关的地方，看到就分享在这～阅读大约需要20分钟。

...

阿里说，自被捕以来，他一直在与严重的抑郁症做斗争，这给他的家庭带来了毁灭性的打击。他说，他的母亲在2020年时体重约为68公斤（150磅），而现在只剩下30至35公斤（66-77磅），血糖经常飙升到危及生命的水平。阿里还提到，由于他不在身边，母亲多年来生活贫困且营养不良，牙齿已经全部掉光。

“我们的经济状况已经恶化到了连母亲的基本医疗费用都负担不起的地步，”阿里说，“我们深陷严重的经济危机，背负了近200万至250万卢比（约合23,406至29,260美元）的债务，感觉我们的生活倒退了至少20年。”

在接受《The Wire》采访时，他还描述了监狱中针对穆斯林囚犯的系统性歧视。他指控称，他们经常受到羞辱，被盘问姓名，一旦被确认是穆斯林，就会被分配干那些带有侮辱性的粗活。

“我们被强迫用手去刷马桶、擦地板，甚至连刮水器这种最基本的清洁工具都不给，”他回忆道。他说，这种虐待不仅限于身体暴力。

“我经常受到侮辱，被骂作‘恐怖分子’，承受着难以忍受的精神折磨。无数个日子里，我和我的母亲只能抱头痛哭、祈祷，”他控诉道。

在谈到新冠疫情封锁期间的绝望处境时，阿里解释说：“囚犯们会为了获得帮物资车卸货的机会而大打出手，仅仅是为了能多拿5到7块饼干。伙食配给严重不足——通常只有50到100毫升清汤寡水的基奇里（Khichri，一种大米和豆子熬制的印式炖饭）和两茶匙蔬菜，勉强够活命。”

穆罕默德（Mohammed*）是“拉坦·拉尔谋杀案”中的另一名被告。据他的律师乌代（Uday*）称，他同样是通过面部识别软件被“识别”出来的。在最终获准保释出狱前，他在没有接受任何审判的情况下在铁窗后度过了大约两年时间。

尽管身份是未决犯（即在等待审判期间被羁押的嫌疑人），但他和阿里一样，也被强迫去清洗厕所和从事苦力劳动，而根据规定，未决犯在狱中服刑劳动应当完全遵循自愿原则。他说，在他缺席期间，他的妻子经历了一场痛苦且艰难的怀孕，父母的健康状况也每况愈下，而他的保释申请先后被驳回了四次。

他告诉《The Wire》，在其中一段视频中，警方“认定”某个男子就是他，然而该男子比他至少高出5英寸（约12.7厘米），头发长度明显不同，穿的鞋不一样，甚至衬衫口袋的数量都不一样。他指出，这种所谓的“识别”主要取决于衣着——具体来说就是白衬衫和黑裤子，而这套衣服在视频画面中被好几个人同时穿着。这一指控不仅引发了公众对识别准确性的严重质疑，也让人对所用工具的实际效能产生怀疑。

律师乌代曾带着高等法院逐帧审查了警方收集的一段私人录像。他辩称，他的当事人根本无法被清晰辨认，因为他在画面中模糊不清。此外，他所穿的衣服（白衬衫和黑裤子）与视频中出现的许多其他人的衣服极为相似，因此无法确立他在案发现场的身份。乌代还指出，现有的所有镜头都没有拍到穆罕默德破坏监控摄像头的画面，这与检方的指控完全相悖。他补充道：“（他的）白衬衫上的标志在一段视频中出现了，但在另一段视频中却没有。尽管存在这种矛盾，警方依然坚称视频中的两个人是同一个人。”

两位辩护律师均向《The Wire》透露，面部识别技术被用来“识别”穆罕默德和阿里：“警方没有为他们中的任何一人安排‘列队辨认’（TIP），这意味着任何指认他们的人，必然是早就认识他们并清楚其体貌特征的人。” 列队辨认（Test Identification Parade, TIP） 是执法部门用于验证证人辨认嫌疑人能力的一种法定程序。它要求将嫌疑人与若干名外貌相似的人混在一起同时展现给证人进行辨认，以此评估证人的记忆力和可靠性，并用以佐证其他证据。虽然 TIP 本身不被视为独立的核心证据，但它对于强化检方的案情链条至关重要。

在多起案件中，法院在批准被告保释时都指出，视频画面的真实性及其分析报告的有效性，都是必须在实际庭审阶段才能审验的悬案。

乌代争辩称，由于所有被告本身就居住在事发地区，他们出现在附近并不令人意外。他进一步针对穆罕默德的案件断言：“他仅仅出现在自己家附近的巷子里，并不能盖棺定论地证明他参与了主干道附近发生的暴动。在许多聚众斗殴、混战和社区骚乱案件中，许多人仅仅是出于好奇而驻足围观的群众。在非法集会法的法律原则中，我们称之为‘好奇围观者例外’原则。”

穆罕默德曾经经营着一家倒卖二手包的小店，以此维持一家五口的生计，但在锒铛入狱后，他已变得一贫如洗，店铺也关闭了。如今，他被迫在贾玛清真寺（Jama Masjid）外面的路边摆摊卖包。由于频繁收到法庭传唤，他的生计经常被迫中断。

据称，在监狱内部，由于其穆斯林身份，他也遭到了狱方的歧视和侮辱性对待。在与《The Wire》交谈时，他用低沉、破碎的声音反复念叨着一句话：“Jail bahut buri jagah hai（监狱是个非常糟糕的地方）。”

为了生存并继续打这场官司，穆罕默德被迫借了数十万卢比的贷款。由于没有稳定的收入，法律折磨看不到尽头，全家人依然指望著他，他感到前路一片渺茫。

在审查了警方报告、提交了多份信息公开申请（RTI）、与办案民警、辩护律师以及人工智能专家进行对话，并分析了涉及50多名被告的法庭文件后，《The Wire》发现，至少在一个案件中，多名被告是通过面部识别技术被“识别”出来的——而有时这种识别仅仅基于视频画面中捕捉到的侧影甚至后脑勺。尽管没有任何社会公众证人能够证实被告当时在案发现场，警方据称依然强行实施了逮捕。

此外，在回应2022年提交的一份信息公开（RTI）申请时，德里警方承认，面部识别技术被用于调查“与德里东北部暴动相关的750多起案件”，且比对结果被作为指控被捕人员的证据。这意味着，在所有与暴动相关的案件中（总计758起），至少有98.9%的案件是在面部识别技术的协助下被宣布“侦破”的。

同样，2020年3月，印度联邦内政部部长阿米特·沙阿（Amit Shah）曾向联邦院（Rajya Sabha，印度议会上院）透露，已有1922名暴恐分子通过面部识别软件被锁定，这占到了截至去年因涉暴动案而被捕的2619人中的至少73.3%。

然而，媒体报道表明，在目前已审理的案件中，超过80%的案件最终以被告获判无罪或免予起诉告终。这引发了外界对这项技术的可靠性的严重质疑——而警方似乎对这项技术产生了极度的依赖。

阿里和穆罕默德的遭遇凸显了一个令人不安的趋势：两人仅仅是基于面部识别的比对结果就被逮捕，现场既没有任何相互印证的佐证，也没有任何可信的社会证人证言。究竟是什么原因，让警方对一项在德里乃至全球范围内因准确率低、自带偏见、极易导致冤假错案并侵犯人权而饱受批评的技术，产生了如此不可动摇的盲目信任？

Why are the police rushing to use unaccountable AI technologies? 警方为何急于起用缺乏问责机制的人工智能技术？

在印度总理纳伦德拉·莫迪（Narendra Modi）上台数月后，于2014年11月30日举行的第49届全印警察总监/副总监大会上，他推出了包含五点核心概念的“SMART”警务愿景（即：严格而敏感、现代而机动、警惕而负责、可靠而响应，以及精通技术且训练有素）。

自那时起，印度各邦的警察部队便仓促卷入了在执法中引入基于人工智能（AI）工具的军备竞赛，政府也推出了众多奖项和举措来鼓励这一趋势。许多邦的警察部门已经开始依赖基于人工智能的自动化决策系统（ADMS）。其中包括：德里的“面部识别系统”（FRS）和“犯罪制图、分析与预测系统”（CMAPS）；北方邦的“三目”（Trinetra）和“CrimeGPT”；旁遮普邦的“旁遮普人工智能系统”（PAIS）；中央邦的“自动车牌识别系统”（ANPR）；拉贾斯坦邦的“基于人工智能的人脸消除检测系统”（ABHED）；以及特伦甘纳邦的“特伦甘纳邦警察——COP系统”（TSCOP）。

...

在回应《The Wire》提交的一份《信息公开法》（RTI）质询时，德里警方装备与后勤科于2025年2月24日承认：“通过印度电子有限公司（M/s Bharat Electronics Limited），在12个区的50个警察局辖区内共安装了6630个监控摄像头。根据合同规定，根据使用区的需求，10%的监控摄像头具备面部识别技术功能。监控摄像头中面部识别技术（FRT）功能的使用，正由各使用区根据其自身需求进行操作。”

What is the accuracy of the Delhi Police’s facial recognition technology? 德里警方的面部识别技术准确率如何？

面部识别软件的“准确率”是指其在各种条件下，从已知个体的数据库中正确识别某人的能力，同时将“误报”（将某人错误地识别为他人）和“漏报”（未能识别出已知人员）降到最低。在不同的条件下，如光线、摄像角度、图像质量和面部表情，其准确率可能会有显著差异。

2018年，技术专家杰克·拉佩鲁克（Jake Laperruque）为“政府监督项目”（Project On Government Oversight）撰文指出：“面部识别的准确率会因各种因素而出现巨大波动，例如摄像头质量、光线、距离、数据库规模、算法以及受试者的种族和性别。”他警告称，即使是一些最先进系统所承诺的90%的准确率，“当最终结果可能是对一个无辜者进行逮捕甚至使用武力（包括致命武力）时，也是一种不可接受的风险”。

作为参考，在2011年初部署其面部识别系统之前，美国联邦调查局（FBI）进行了一项测试，结果发现“在 FBI 系统中，大约每七次搜索中就有一次返回的是完全无辜的候选人列表，即便实际目标就在数据库中”。而这种情况还是在软件于那些测试中达到了86%的准确率之下发生的。

相比之下，近八年后的2018年，德里警方通知高等法院，其面部识别软件的准确率仅为2%。到了2019年，这一数字更是跌至1%以下，促使妇女和儿童发展部承认，该系统甚至无法可靠地分清男孩和女孩。

在2019年1月22日审理的“萨德汉·哈尔达尔 诉 德里国家首都辖区”一案中，德里高等法院对该技术的无效性表达了担忧。针对过去三年中德里发生的5000多起儿童失踪案，法官席指出：“我们被告知，‘面部识别软件’的使用至今未能协助破获任何一起儿童失踪案，这令人感到震惊。德里警方在经过尽职调查后采用的软件却没有带来任何结果，这是最不可接受的。”

虽然向德里警方供应面部识别技术的私营供应商 Innefu Labs 在其网站上声称，截至2025年6月11日，其面部识别系统的准确率已达到99.7%，但德里警方在回应《The Wire》提交的多份《信息公开法》（RTI）申请时，至今仍未透露其面部识别技术的实际准确率。当被联系时，Innefu Labs 的联合创始人兼首席执行官塔伦·威格（Tarun Wig）拒绝发表评论。

除了准确率缺乏透明度之外，德里警方还将判定匹配“成功”的“置信度得分”门槛设定得明显偏低。在回应2022年的一项 RTI 申请时，警方透露：“所有相似度在80%以上的匹配均被视为阳性（成功）结果，而相似度在80%以下的匹配则被视为假阳性（错误）结果，后者需要额外的‘佐证’。”

2018年，美国公民自由联盟（ACLU）对亚马逊的面部识别工具“Rekognition”进行了一项测试。测试发现，该软件将28名美国国会议员与犯罪数据库中的人员进行了错误匹配，诬称他们是曾因犯罪被捕的人。其中，有色人种国会议员被错误匹配的比例高得不成比例。ACLU 在进行该测试时，使用的是该软件默认的80%“置信度门槛”——这与德里警方使用的门槛完全一致。

“在这种情况下，警方可以继续调查任何得分可能非常低的人。因此，任何看起来哪怕只有一丝相似的人最终都可能成为针对的目标，这可能会导致那些在历史上就经常沦为被针对对象的社群再次受到侵害，”前 IFF 政策法律顾问、研究员阿努斯卡·贾因（Anushka Jain）辩称。

多位律师告诉《The Wire》另一个法律盲区：警方在法律上并没有义务向被告透露他们是否是通过面部识别被锁定的。这剥夺了被告对识别程序或匹配结果的可靠性提出质疑的机会。“全景项目”的一篇文章指出：“也应当向被告提供获取该软件源代码的渠道，以便其能够对针对他们提出的证据进行实质性的质疑。”

甚至连德里警方的面部识别技术供应商——Pelorus Technologies——也承认了该工具的局限性。当被《The Wire》问及该工具的准确率在巷弄等光线昏暗的环境中是否会受到影响时，首席执行官拉胡尔·德维维迪（Rahul Dwivedi）坦言：“是的，当然会！这取决于摄像头，取决于光线，也取决于它所拍摄的图像的角度。”

How well-trained are the Delhi Police to use AI tools? 德里警方在使用人工智能工具方面接受过怎样的培训？

警察研究与发展局（BPR&D）是负责印度全国警察培训的中央核心机构。该机构负责设计培训模块，并为执法人员实施能力建设规划。在邦一级，各个警察部门也会开展自己的培训活动。

《The Wire》对应由德里警方使用的各类培训手册进行了彻底审查。我们发现，在《直接招募副督察国家教学大纲》中，仅有一次提及了人工智能。在总共2620个教学课时中，分别仅有一个课时专门用于讲授人工智能和面部识别技术，这表明现代警务中的新兴技术在培训层面并未受到多少重视。

2024年，位于拉金德拉·纳加尔（Rajendra Nagar）的专业培训中心为德里警务人员开展了一些专业培训课程。所有级别从高级警员（head constables）到督察（inspectors）的人员，全年仅参加了四次、每次仅半天的案发现场录像与摄影课程。而从副督察（SIs）到助理警察局长（ACPs）的官员，则仅接受了一天关于“社交媒体调查与开源情报（OSINT）”的培训，该培训全年同样仅开展了四次。此外，针对副督察和督察，关于监控录像处理、硬盘录像机（DVR）取证以及“法医学新兴趋势与当代取证技术”的一日培训课程，也分别仅在四个不同的日期提供过。

位于恰纳基亚普里（Chanakyapuri）的 SMART 警务学院提供了关于“监控录像处理”、“无人机技术”、“社交媒体调查”和“开源情报”的专业研讨会，但在整个2024年期间，每项研讨会都仅限于两个半天的课程。而且，这些培训仅面向助理警察局长（ACP）及以上级别的官员提供。由于一线调查主要由被排除在这些课程之外的督察级官员参与，这种极其有限的培训覆盖范围引发了人们对其最终成效的担忧。

位于德瓦尔卡（Dwarka）的网络培训部门在2024年则未提供任何关于“面部识别技术”的培训。

非政府组织“共同事业”（Common Cause）发布的《2019年印度警务现状报告》，对2012至2016年间各邦的警力水平和充足性进行了评估。报告发现：“在德里，几乎所有的高级别官员每年都会接受在职培训，”但针对普通警员（Constables）和副督察/助理副督察的培训率依然“极低”。在此期间，仅有11.7%的警务人员接受过在职培训，而用于培训的支出仅占德里警察总预算的2.49%。

《The Wire》采访了国立防务大学（RRU）的助理教授阿坎莎·萨克塞纳（Aakansha Saxena）。该大学位于古吉拉特邦，为包括古吉拉特邦、旁遮普邦、卡纳塔克邦、德里和奥里萨邦在内的各邦警察部队提供专业培训。作为 RRU 人工智能中心负责人的萨克塞纳，对德里警察局内部接受面部识别技术培训的普及程度表现出了不确定性，她表示：“我不知道是不是所有的警察都接受了培训，但可以肯定的是，他们中的一部分人绝对接受过培训。”她还证实，德里警方的面部识别系统已与“阿德哈尔（Aadhaar，即印度唯一身份认证UIDAI）”数据库以及“驾驶执照”数据库实现了联网互通。

令人感到惊讶的是，尽管萨克塞纳承担着培训德里警务人员的职责，但她对抗议现场面部识别系统的开发公司、准确率或其他技术规范等核心细节一无所知。

萨克塞纳解释称，培训课程是由大学院长、副校长与高级警官共同开发的。她指出：“由于警官们不太适应这种新技术（人工智能），他们希望学习如何将其整合到自己的案件侦查中……尽管他们还有其他可替代的方法。”当被问及人工智能工具是否几乎应用于每一起案件时，她证实确实如此，这凸显了警务工作对该类技术日益增长的依赖性。

萨克塞纳表示，该培训计划旨在向警官传授威胁情报、人工智能驱动的锁定系统、面部识别系统的开发、识别其自身脆弱性、攻击者可能利用这些漏洞的手段以及防御策略。警官们还会接受关于深度伪造（Deepfakes）技术的培训——包括其定义、制作方式以及如何区分深伪内容与真实内容。

当被问及德里警方的面部识别技术涉嫌导致错误识认的指控时，萨克塞纳承认这完全有可能。她指出，警官们“充分意识到了面部识别技术（FRT）的准确率是如何取决于多种因素的，并且无法保证在每一起案件中都能做出百分之百正确的识别”。

当被要求分享提供给德里警方的具体培训模块资料时，国立防务大学（RRU）管理层未做出任何回应。

Are the Delhi Police upholding their own guidelines? 德里警方是否执行了他们自己的指南？

在警察研究与发展局（BPR&D）制定的《办案民警案例情景汇编（2024）》中，其概述的“标准操作程序”（SOP）明确规定：在发生暴动的情况下，办案民警（IO）如果从监控录像中获取了被告的照片，应当将其输入到面部识别软件中运行，以收集有关其身份的线索。

这一指令引发了一个关键问题：如果面部识别是德里警方标准操作程序中不可或缺的一部分，为什么在培训中给予的重视却微乎其微？其在案件侦查中被规定的用途与在培训中受到的有限重视之间存在脱节，这表明在前期准备和有效执行方面存在盲区。

上述 SOP 明确指出，“对被告的‘列队辨认’不应有任何延误”，因为它是“侦查工作中的一个重要环节”。然而，《The Wire》对涉及至少50名被告的案件法庭文件进行分析后发现，警方没有为其中任何一人进行过列队辨认（TIP）。尽管有明确的指令，这一至关重要的程序却大体缺席，突显出警方未能遵守侦查协议。《The Wire》已就这一疏漏向德里警方和联邦内政部提出质询，但截至目前未收到任何回复。

该 SOP 还概述了其他的侦查步骤，指出办案民警也可以权衡使用“步态分析”（Gait Analysis）等先进科学测试的可能性。尽管有此指令，但没有任何培训计划或研讨会将焦点专门放在步态分析或其他先进的基于人工智能的侦查工具上。

CCTV+ drones + facial recognition = mass surveillance? 监控 + 无人机 + 面部识别 = 大规模监控？

德里是印度受到监控最严密的城市之一。2022年8月，在德里警察总部举行的一次会议上，内政部部长阿米特·沙阿（Amit Shah）表示：“在预防和侦查犯罪方面，监控是警务工作的主要组成部分，”并建议将包括公共场所和民政机构在内的所有监控系统与警方控制室进行联网整合。

然而，研究表明，监控摄像头的分布在德里各个地区并不均衡。监控摄像头的部署、过度执法的情况以及歧视性锁定目标的模式，明显更集中在某些特定社区。

“法律政策维迪中心”（Vidhi Centre for Legal Policy）于2021年开展的一项实证研究表明，德里警方对面部识别技术的使用“几乎不可避免地会对穆斯林产生不成比例的影响，尤其是那些生活在老德里或尼扎穆丁（Nizamuddin）等执法过度区域的穆斯林”，从而可能增加他们被执法机构锁定的概率。

康奈尔大学人工智能政策学者杰伊·维普拉（Jai Vipra）在其研究中，强调了德里监控实践中根深蒂固的结构性不平等。她在论文中论证了“有两个因素尤其突出——警察局在空间上的不均匀分布，以及监控摄像头在空间上的不均匀分布——这很可能导致德里的某些社会阶层比其他阶层承受更多的监控偏见”。

该研究指出：“在德里，我们的数据显示有两类地区的执法强度远超其他地区：（1）设有政府和外交机构的地区，即中央德里；（2）穆斯林人口比例较高的地区。与这些地区相对较低的人口总数相比，其拥有的警察局比例更高。技术，尤其是预测警务技术，构成了这种形式下执法力度的升级，并可能不成比例地锁定德里的穆斯林。”

论文进一步阐述道：“德里警务中的面部识别技术（FRT）很可能会利用全市监控摄像头所提供的数据。这意味着，监控摄像头相对较多的地区将被过度监视、过度执法，从而比其他地区承受更多的误差抹黑……对穆斯林地区显而易见的过度执法，可能会导致面部识别技术在德里警务中的应用不公平地指向穆斯林。”

Illustration by Pariplab Chakraborty.

警方官员的表态也暗示了在德里东北部等穆斯林占多数的地区执法力度的加大。针对2020年的德里暴动，德里警察局副局长（东北区）乔伊·蒂尔基（Joy Tirkey）于2024年2月表示：“如果说德里有一个地区需要真正扎根基层的警务工作，那就是东北区……东北区不仅容易发生犯罪，而且是一个社区关系敏感的地区。”他补充道：“自2020年暴动以来，我们一直密切关注着东北区。”

科达利指出：“监控并不局限于监控摄像头。面部识别也通过手机来部署（警察随机拦下民众并拍照），尤其是在海得拉巴和德里等城市。”

Do the police really care about privacy? 警方真的在乎隐私吗？

德里警方已经承认，在部署面部识别技术之前，并未进行过任何隐私影响评估。他们进一步表示：“在侦查任何案件时，根据法律，办案民警有权挖掘一切可能的信息，以识别并依法起诉犯罪分子。”

警方还拒绝透露通常在案件侦查的哪一个阶段才会引入面部识别技术。关于与面部识别技术配套使用的数据库，德里警方表示：“根据1920年《囚犯识别法》第3条和第4条的规定，警方保存有囚犯照片和档案照片。”但他们拒绝提供与该系统联网的完整数据库清单。

需要指出的是，1920年的《囚犯识别法》现已被废除，并被2022年的《刑事诉讼（识别）法》（CPIA）所取代。新法允许对更广泛类别的数据（指纹、掌纹、脚印、虹膜和视网膜扫描，以及其他物理和生物样本）进行收集、分析和存储，对象包括任何被捕的人员（无论是未决犯还是已决犯）——这是一场极其大规模的个人数据收集。

ISO/IEC 27001 是信息安全管理的国际标准，为风险评估和安全控制措施的实施提供了一个结构化的框架。当被问及其面部识别技术是否符合该标准时，德里警方回应《The Wire》称：“在招标时并未要求符合 ISO/IEC 27001 标准。”

阿努斯卡·贾因告诉《The Wire》：“由于我们不了解德里警方的面部识别技术数据得到了何种级别的保护和安全防御，我们无法得知供应技术的公司是否能够访问德里警方的数据。”

What do experts recommend? 专家们有何建议？

-必须对数据的存储期限设立限制。所独有。在全球范围内，数据隐私和公民自由倡导者都对该技术的无节制部署表达了严重关切。美国公民自由联盟（ACLU）曾警告称，面部识别可以用“一种被动的方式进行，不需要受试者的知情、同意或参与”。电子前哨基金会（EFF）、算法正义联盟（Algorithmic Justice League）和国际特赦组织（Amnesty International）等组织已呼吁暂停甚至全面禁止使用这项技术。

布鲁金斯学会“人工智能与新兴技术倡议”发布的一份报告，列出了公众在面对面部识别软件时应该要求的几项防御性护栏措施：

- 必须对数据的存储期限设立限制。

- 数据共享必须受到严格限制。

- -在进行面部捕捉时，应当有明确的告知。

- 必须达到最低的准确率标准。

- 需要引入第三方审计机制。

- 必须将附带信息（元数据）的收集降到最低。

这些建议凸显了引入全面监管和审查机制的迫切需求——而这种机制在许多国家（包括印度）明显处于缺失状态，即便他们正争先恐后地将面部识别应用于警务执法。

《The Wire》已向德里警察局局长和联邦内政部秘书发送了一份详细的问询清单，涉及人工智能工具和面部识别技术的使用、涉嫌存在的误差以及程序疏漏，还有在使用这些技术时表现出的不透明性。警察局长办公室表示，这些质询已转交至负责处理2020年德里暴动案件的德里警方特别分支（Special Branch），但在多次催促后，至今未收到进一步的实质性回复。

注：为保护当事人隐私，报道中被起诉人员及其律师的姓名均为化名。