«شفافیت فوری» در مورد سوگیری نژادی در فناوری تشخیص چهره پلیس بریتانیا خواسته شد

نهاد ناظر حفاظت از داده‌های بریتانیا از وزارت کشور این کشور خواسته است تا پیش از بررسی گام‌های بعدی، "شفافیت فوری" را در مورد سوگیری نژادی در فناوری تشخیص چهره پلیس ارائه دهد. وزارت کشور پذیرفته است که این فناوری، پس از آزمایش توسط آزمایشگاه ملی فیزیک (NPL) در پایگاه داده ملی پلیس، "احتمال بیشتری دارد که گروه‌های جمعیتی خاصی را به اشتباه در نتایج جستجوی خود بگنجاند". این گزارش فاش کرد که این فناوری که برای دستگیری مجرمان جدی در نظر گرفته شده است، احتمال بیشتری دارد که افراد سیاه‌پوست و آسیایی را به اشتباه با موارد موجود تطبیق دهد تا همتایان سفیدپوست آن‌ها. امیلی کِنی، معاون کمیسر دفتر کمیسر اطلاعات (ICO)، در بیانیه‌ای در پاسخ به این گزارش گفت که ICO "برای شفافیت فوری در این زمینه" از وزارت کشور درخواست کرده است تا این نهاد بتواند "وضعیت را ارزیابی کرده و گام‌های بعدی خود را در نظر بگیرد". گام‌های بعدی می‌تواند شامل اقدامات اجرایی، از جمله صدور دستور الزام‌آور قانونی برای توقف استفاده از این فناوری یا جریمه‌ها، و همچنین همکاری با وزارت کشور و پلیس برای ایجاد بهبودها باشد. کِنی گفت: "هفته گذشته از سوگیری تاریخی در الگوریتم مورد استفاده نیروهای پلیس در سراسر بریتانیا برای تشخیص چهره گذشته‌نگر در پایگاه داده ملی پلیس مطلع شدیم. "ما اذعان می‌کنیم که اقداماتی برای رفع این سوگیری در حال انجام است. با این حال، ناامیدکننده است که پیش از این به ما اطلاع داده نشده بود، علیرغم تعامل منظم با وزارت کشور و نهادهای پلیس به عنوان بخشی از کار گسترده‌تر ما برای پاسخگو نگه داشتن دولت و بخش دولتی در مورد نحوه استفاده از داده‌ها در خدماتشان. "در حالی که ما نقش ارزشمند فناوری را درک می‌کنیم، اعتماد عمومی به استفاده از آن امری حیاتی است و هرگونه برداشت از سوگیری و تبعیض می‌تواند بی‌اعتمادی را تشدید کند. ICO برای حمایت و کمک به بخش دولتی برای انجام صحیح این امر در اینجا حضور دارد." کمیسران پلیس و جرم و جنایت اعلام کردند که انتشار یافته‌های NPL "نور را بر یک سوگیری داخلی نگران‌کننده می‌اندازد" و نسبت به برنامه‌های گسترش ملی که می‌تواند شامل قرار دادن دوربین‌ها در مراکز خرید، استادیوم‌ها و مراکز حمل و نقل بدون ایجاد تدابیر حفاظتی کافی باشد، هشدار دادند. این یافته‌ها روز پنجشنبه، ساعاتی پس از آن منتشر شد که سارا جونز، وزیر پلیس، این فناوری را "بزرگترین پیشرفت از زمان تطبیق DNA" توصیف کرده بود. فناوری تشخیص چهره، چهره افراد را اسکن کرده و تصاویر را با فهرست‌های افراد مجرم شناخته شده یا تحت تعقیب مقایسه می‌کند. این فناوری می‌تواند در حین بررسی تصاویر زنده افراد عبوری از دوربین‌ها، مقایسه چهره آن‌ها با چهره‌های موجود در فهرست افراد تحت تعقیب، یا برای توانمندسازی افسران برای هدف قرار دادن افراد هنگام عبور از کنار دوربین‌های نصب شده مورد استفاده قرار گیرد.

افسران پلیس همچنین می‌توانند تصاویر مظنونان را به صورت گذشته‌نگر از طریق پایگاه‌های داده پلیس، گذرنامه یا مهاجرت اجرا کنند تا هویت آن‌ها را شناسایی و سوابقشان را بررسی کنند. تحلیلگرانی که ابزار فناوری تشخیص چهره گذشته‌نگر پایگاه داده ملی پلیس را در تنظیمات پایین‌تر بررسی کردند، دریافتند که «نرخ شناسایی مثبت کاذب (FPIR) برای سوژه‌های سفیدپوست (۰.۰۴ درصد) کمتر از سوژه‌های آسیایی (۴.۰ درصد) و سوژه‌های سیاه‌پوست (۵.۵ درصد) است». این آزمایش نشان داد که تعداد مثبت‌های کاذب برای زنان سیاه‌پوست به طور خاص بالا بوده است. این گزارش می‌گوید: «نرخ شناسایی مثبت کاذب برای سوژه‌های مرد سیاه‌پوست (۰.۴ درصد) کمتر از سوژه‌های زن سیاه‌پوست (۹.۹ درصد) است». در پاسخ به این گزارش، سخنگوی وزارت کشور گفت که این وزارتخانه یافته‌ها را «جدی» گرفته و اقداماتی را انجام داده است، از جمله تهیه و آزمایش یک الگوریتم جدید «که هیچ سوگیری آماری قابل توجهی ندارد». سخنگو افزود: «با توجه به اهمیت این موضوع، ما همچنین از بازرسی پلیس، در کنار رگولاتور علوم قانونی، خواسته‌ایم تا استفاده پلیس از تشخیص چهره را بررسی کنند. آن‌ها اثربخشی اقدامات کاهشی را که شورای ملی رؤسای پلیس از آن حمایت می‌کند، ارزیابی خواهند کرد.»