افسران پلیس اگر داده‌های نادرست تشخیص چهره را به‌عنوان شواهد تلقی کنند، خطر بازداشت افراد بیگناه را ایجاد میکنند؛ بهویژه برای شهروندان اقلیت قومی. یک گزارش رسمی در بریتانیا به این نتیجه رسیده است.
این گزارش که توسط بازرسی اعلیحضرت در امور پاسبانان (HMICFRS) منتشر شده، میگوید فناوری تشخیص چهره میتواند به مبارزه با جرم کمک کند، اما با خطاها و سوگیری‌ها دست‌به‌گریبان است و اپراتورها همیشه نمی‌دانند که باید تحقیقات بیشتری برای راستی‌آزمایی داده انجام دهند.
گزارش تنها به «تشخیص چهره گذشتهنگر» (RFR) می‌پردازد؛ فناوری‌ای که برای یافتن مظنون، تصاویر آرشیوی را جست‌وجو می‌کند و نسبت به تشخیص چهره زنده — که در زمان واقعی برای یافتن مظنون به کار می‌رود — کم‌مناقشه‌تر و ساده‌تر تلقی می‌شود. در گزارش آمده است: «برخی بازپرسان نمی‌دانستند که نتایج RFR سرنخ است، نه شاهد، و پیش از اقدام انتظامی به تحقیقات بیشتری نیاز دارد.»
گزارش ادامه می‌دهد: «این خطر را ایجاد می‌کند که افراد به‌اشتباه شناسایی یا بازداشت شوند، که میتواند اعتماد عمومی به این فناوری را تضعیف کند. ما دیدیم که برخی بازپرسان پیش از اقدام بر پایه تطبیق‌های احتمالی، همیشه تحقیقات تأییدی کافی انجام نمی‌دادند. در شمار کمی از موارد، افسران بیش از حد به نتایج RFR تکیه کردند و این به اقدام تحقیقی نامناسب منجر شد.»
بر اساس گزارش، هنوز مشکلاتی در سوگیری الگوریتم وجود دارد، از جمله احتمال بیشتر اینکه افراد اقلیت قومی به‌اشتباه به‌عنوان مظنون علامت‌گذاری شوند. گزارش می‌افزاید: «برای کاهش خطر بازداشت اشتباه افراد باید کار بیشتری انجام شود... حسابرسان مواردی را هم شناسایی کردند که کاربران تصاویر جست‌وجوی بی‌کیفیت یا نامناسب بارگذاری کرده بودند، از جمله تصاویر تار و تصاویری با چند چهره. این عوامل توانایی سیستم برای بازگرداندن تطبیق‌های قابل‌اعتماد را کاهش می‌داد.»
بازرسان همچنین خطر تضعیف اعتماد عمومی را به دلیل نگه‌داشتن تصاویر بازداشتگاهی که باید حذف می‌شدند، مطرح کردهاند. در گزارش آمده: «قانون‌گذاری با تغییرات فناوری تشخیص چهره هم‌گام نبوده و هیچ چارچوب قانونی جامعی بر استفاده از این فناوری حاکم نیست. این کار را برای نیروهای پلیس دشوار می‌کند که مبنای قانونی استفاده از RFR و تدابیر حفاظتی لازم برای حفظ مردم را بفهمند.»
کاترین استون، بازرس ارشد پاسبانان، گفت که تداوم حمایت عمومی به نشان‌دادن استفاده درست از این فناوری وابسته است: «نیروهای پلیس باید بتوانند نشان دهند تدابیر حفاظتی مناسب وجود دارد، ریسک‌های مرتبط با سوگیری و نگهداری داده به‌شکل اثربخش مدیریت می‌شود و تصمیم‌ها همچنان تابع قضاوت انسانی است. چارچوب قانونی روشن‌تر، استانداردهای ملی قوی‌تر و ترتیبات بهتر حاکمیت و نظارت برای حفظ اعتماد عمومی ضروری است.»
تشخیص چهره از نظر رؤسای پلیس، گام بزرگ بعدی در مبارزه با جرم است و از نظر منتقدان، تهدید بزرگ بعدی برای آزادی‌های مدنی. جسلین چاگر از گروه «بیگ برادر واچ» گفت: «افشای اینکه افسران تشخیص چهره را به‌عنوان شاهد معتبر و نه یک نمره احتمالاتی می‌بینند، هشداردهنده است. این رویکرد خطر آن را به‌طور قابل توجهی بالا می‌برد که افراد بیگناه بیشتری در خانه‌شان با افسرانی روبه‌رو شوند که برای جرمی در شهری که هرگز به آن نرفته‌اند بازداشتشان میکنند، همان‌طور که پیش‌تر دیده‌ایم.»
او افزود: «بدتر آنکه پلیس حتی استفاده از تشخیص چهره گذشتهنگر را ثبت نمی‌کند، یعنی افراد می‌توانند بی‌آنکه بفهمند چرا متهم شده‌اند، به‌اشتباه مظنون پرونده‌های کیفری شوند. نمی‌توان اجازه داد پلیس با این سطح نازل از تدابیر حفاظتی و با تنظیماتی سوگیرانه که احتمال شناسایی اشتباه زنان، آسیایی‌ها و سیاه‌پوستان را بیشتر می‌کند، و با جست‌وجو در میلیون‌ها تصویر بازداشتگاهی که به‌طور غیرقانونی نگه داشته شده‌اند، به استفاده از این الگوریتم ادامه دهد.»
بن راسل، مسئول تشخیص چهره در شورای ملی رؤسای پلیس، گفت: «پلیس به استفاده اخلاقی، متناسب و مسئولانه از تشخیص چهره گذشتهنگر برای کمک به تحقیق جرایم، رساندن مجرمان به عدالت و حفظ امنیت جامعه متعهد است و خوشحالیم که HMICFRS امکان‌های هیجان‌انگیز این فناوری را به رسمیت شناخته است.»
پیتر فوسی، استاد دانشگاه ساوت‌همپتون و مشاور پیشین پلیس در حوزه تشخیص چهره، گفت: «بازبینی معنادار انسانی سیستم‌های هوش مصنوعی یک الزام قانونی است، اما گزارش نمونه‌هایی می‌آورد که بازپرسان پیشنهادهای رایانه را بدون بررسی بیشتر، درست فرض کردهاند.»