سینزبوری استفاده از اسکن چهره هوش مصنوعی را در یکی از فروشگاه‌هایش متوقف کرد؛ پس از آنکه یک مشتری به‌اشتباه بهعنوان دزد فروشگاه شناسایی شد و از مغازه بیرون انداخته شد.
مت آرنولد، ۴۶ ساله، درباره این ماجرا گفت: «خجالتزده شدم، حتی سرخورده، و احساس تحقیر و بیقدرتی کردم.»
این مروج کمدی در حال خرید لوازم در فروشگاه ایست دالویچ در جنوب شرق لندن برای یک برنامه استندآپ در باشگاه فوتبال دالویچ هملت بود که پس از اسکن اقلام و کارت Nectar، دو مدیر سراغش آمدند و گفتند به دلیل یک حادثه قبلی نمی‌توانند به او خدمات بدهند. سپس از او خواستند فروشگاه را ترک کند و تلاش کردند او را همراهی کنند.
آرنولد گفت: «فقط گفتند ما شما را بیرون می‌بریم. در آن لحظه روی موضع‌ام ایستادم و گفتم خودم بیرون می‌روم. مصمم بودم کمی حفظ دین و کرامت کنم. در همین یک نکته، اگر هیچ چیز دیگری، تسلیم شدند.»
وقتی داشت می‌رفت، روی نمایشگر نظارت سقفی هشداری دید که دور صورتش یک دایره قرمز کشیده بود. از کارکنان فروشگاه خواست خریدش را در سبد نگه دارند تا دوستش برای خرید برنامه کمدی که به‌زودی در همسایگی برگزار می‌شد بیاید و ببرد.
او گفت: «فکر می‌کنم آن‌ها به‌درستی از این درخواست گیج شدند، اما پذیرفتند و همکارم دیو پنج دقیقه بعد داخل شد و خرید را پرداخت و گرفت. هیچ مکثی از سوی کارکنان نبود، هیچ نشانه‌ای که بفهمند این رفتار یک دزد فروشگاه نیست. فقط کورکورانه دستورات ماشین را اجرا می‌کردند.»
دفتر مرکزی سینزبوری روز بعد از آرنولد عذرخواهی کرد و استفاده از فناوری Facewatch مجهز به هوش مصنوعی را در این فروشگاه تا پایان بررسی متوقف کرد. اما آرنولد می‌گوید فناوری باید در همه فروشگاه‌ها متوقف شود و نگران میزان استفاده از هوش مصنوعی در جامعه است.
او گفت: «هر کسی می‌تواند به‌اشتباه متهم شود و در نقطه‌ای از زمان، این شخص کسی آسیب‌پذیر خواهد بود، کسی با مشکلات سلامت روان مثل اضطراب. این اجتناب‌ناپذیر است. همچنین نگران اثر تخریب اعتماد به نفس آن است که این اتفاق برای فرد جوان‌تر یا کسی کمتر مایل یا قادر به دفاع از خودش مثل من بیفتد.»
زنجیره فروشگاه‌های سوپرمارکت از فناوری تشخیص چهره برای شناسایی دزدان فروشگاه و مجرمان دیگر استفاده می‌کند و می‌گوید این برای محافظت از کارکنان در برابر آزار است. اما این فناوری با مشکلاتی روبه‌رو بوده است. سپتامبر گذشته، خریدار دیگری به نام وارن راجاه از شعبه الی‌فنت اند کسل در جنوب لندن اخراج شد پس از آنکه توسط همان نرم‌افزار Facewatch به‌اشتباه شناسایی شد. موارد مشابهی هم رخ داده، از جمله در فروشگاه‌های Home Bargains و B&M.
آرنولد گفت: «سینزبوری، و در واقع هر شرکت دیگری که از Facewatch استفاده می‌کند، باید فوراً آن را غیرفعال کند، دست‌کم تا وقتی بتوانند تضمین کنند سیستم بی‌نقص کار می‌کند. اعلام کرده‌اند نظارت در فروشگاه ایست دالویچ، جایی که حادثه من رخ داد، را متوقف کرده‌اند، اما این یک سیستم متمرکز است، پس چرا در همه فروشگاه‌ها متوقفش نکنند؟ اگر مشکل احتمالی در ایست دالویچ وجود دارد — چه در خود هوش مصنوعی چه در پیاده‌سازی‌اش — در همه فروشگاه‌ها مشکلات احتمالی وجود دارد.»
او گفت نگران رشد هوش مصنوعی در جامعه است: «فرهنگ نظارتی را دوست ندارم، اما می‌بینم گاهی لازم است. آنچه لازم نیست، اجازه دادن به ماشین‌ها برای تصمیم‌گیری و سپس انتظار از انسان‌ها برای بی‌چون‌وچرا اطاعت است.»
سخنگوی سینزبوری گفت: «با آقای آرنولد تماس گرفتیم و برای تجربه‌اش در سوپرمارکت دالویچ عذرخواهی کردیم. این حادثه به دلیل خطای انسانی رخ داد، نه فناوری تشخیص چهره. مشتریان می‌توانند مطمئن باشند سیستم Facewatch نرخ دقت ۹۹.۹۸٪ دارد و هر تطبیق توسط یک مدیر آموزش‌دیده بررسی می‌شود.»
سخنگوی Facewatch گفت فناوری‌شان در این مورد مقصر نبوده: «هشدار درست به خرده‌فروش ارسال شد، اما متعاقباً خطای انسانی در نحوه برخورد با آن در فروشگاه رخ داد.»
شرکت گفت توقف فروشگاه «اقدام پیشگیرانه‌ای» برای جلوگیری از هشدارهای بیشتر تا زمانی که کارکنان آموزش اضافی می‌بینند است.
سینزبوری گفت هشدارها تا یک ساعت روی دستگاه‌های کارکنان قابل مشاهده می‌مانند و همه موارد شناسایی اشتباه را ثبت می‌کند.
این ماجرا بار دیگر پرسش‌های مربوط به مسئولیت‌پذیری سیستم‌های تشخیص چهره در خرده‌فروشی را زنده کرده است: وقتی خطا رخ می‌دهد، مقصر ماشین است، داده‌های آموزشی، یا کسی که بدون پرسش به هشدار ماشینی اعتماد می‌کند؟ به گفته منتقدان، نرخ دقت بالای ادعایی، تضمینی برای جلوگیری از آسیب به افراد بی‌گناه نیست.