گسترش فراگیر چت‌بات‌ها و ابزارهای هوش مصنوعی مولد در حال بازنویسی ضرب‌المثل قدیمی «همیشه حق با مشتری است» به شکلی نگرانکننده است. گزارشهای میدانی اخیر از اصناف مختلف خدماتی—از رستورانها و کافهها گرفته تا فروشگاههای خردهفروشی و پارکهای ملی—نشان میدهد که اعتماد بیش از حد برخی کاربران به اطلاعات نادرست یا توهمهای هوش مصنوعی (AI Hallucinations)، کارمندان خط مقدم خدمات مشتریان را با چالش‌ها و تنش‌های بی‌سابقه‌ای روبرو کرده است.
یکی از کارکنان رستورانی در نیویورک تعریف می‌کند که در موارد متعدد، مشتریان دارای آلرژی غذایی هشدارهای پرسنل درباره وجود مواد حساسیت‌زا در یک غذا را نادیده می‌گیرند، با این استدلال که چت‌جی‌پی‌تی به آن‌ها گفته آن غذا فاقد آن ماده است! در نمونه‌های دیگر، میهمانان به جای مشاوره با کارشناسان رستوران، نام نوشیدنی‌هایی را طلب می‌کنند که اصولا در بازار وجود خارجی ندارند و صرفا زاییده توهم مدلهای زبانی بوده‌اند.
این پدیده تنها به حوزه رستوران‌داری محدود نمی‌شود. محیط‌بانان پارکهای ملی در آمریکا گزارش داده‌اند که بازدیدکنندگانی با برنامه‌های سفر کاملا غیرمنطقی و خطرناک تولیدشده توسط هوش مصنوعی وارد پارک می‌شوند؛ برنامه‌هایی که در آن‌ها کمپ‌های اقامتی خیالی تعریف شده یا مسیرهای قایق‌رانی خلاف جهت رودخانه تعیین شده است. نکته شگفت‌آور اینجاست که حتی وقتی نقشه رسمی به این افراد نشان داده می‌شود، برخی کاربران ترجیح می‌دهند خروجی هوش مصنوعی را بیشتر از واقعیت عینی و سخنان متخصصان باور کنند.
در حوزه آموزش و خدمات مهدکودک نیز، مربیان از والدینی گلایه دارند که جدول‌های خواب ناکافی فرزندان خود را صرفا به دلیل توصیه چت‌بات‌ها درست می‌دانند و نظرات مربیان تجربی را نمی‌پذیرند. علاوه بر این، با ورود ایجنتهای هوشمند خودکار که می‌توانند به نمایندگی از کاربران اقدام به ارسال درخواست، رزرو سالن یا ثبت تغییرات دقیقه نودی کنند، تماس‌های نامفهوم و تغییرات عجیب در سفارش‌ها افزایش یافته است.
جامعه‌شناسان و فعالان حوزه کارگری هشدار می‌دهند که اگرچه فناوری‌های هوش مصنوعی برای انجام کارهای اداری و خودکارسازی روتین‌ها ابزارهای کارآمدی هستند، اما اتکای غیرانتقادی به آن‌ها و نادیده گرفتن قضاوت کارشناسان انسانی می‌تواند کیفیت روابط انسانی، ایمنی فردی و اعتماد اجتماعی را دچار فرسایش کند.