ماسکات و نماد بصری دستیار هوش مصنوعی جدید متا (Muse)، موجودی کرکی، دوستداشتنی و فوقالعاده جذاب به نام «جالی» (Jolly) است. این کاراکتر با چشمان درشت و اندام نرم خود، شباهت عجیبی به اسباببازیهای نوستالژیک دهه ۹۰ میلادی مانند تاماگوچی یا عروسکهای محبوب کودکان دارد و کاربران میتوانند لباسهای گوناگونی – از ردای رومی مارک زاکربرگ تا کلاههای فانتزی – بر تن آن بپوشانند. اما در پس این ظاهر فریبنده و کودکانه، واقعیتی جدی نهفته است: سرویس Muse یک سیستم بسیار پیچیده جمعآوری داده و اتوماسیون تصمیمگیری است که استفاده از آن قانوناً فقط برای افراد بالای ۱۸ سال مجاز است.
مجله وایرد در تحلیل تفصیلی خود به چرایی این تناقض آشکار میان ظاهر اسباببازیگونه و ماهیت بزرگسالانه این محصول پرداخته است. به عقیده متخصصان روانشناسی رفتاری و طراحی تعاملی، استفاده از شیوههای انسانانگاری فانتزی (Anthropomorphism) یک ترفند استراتژیک برای شکستن گارد دفاعی کاربران در برابر نظارت دائمی هوش مصنوعی است. وقتی هوش مصنوعی در قالب یک الگوریتم خشک یا دستیار صوتی رباتیک ظاهر میشود، کاربران نسبت به افشای اطلاعات حساس مالی، خریدهای روزمره و عادتهای زندگی خود محتاطانه برخورد میکنند. اما هنگامی که همین نرمافزار در کالبد یک موجود معصوم، آسیبپذیر و بامزه تجسم مییابد، مکانیزمهای دفاعی ذهن انسان خاموش شده و اعتماد ناخودآگاه شکل میگیرد.
این رویکرد طراحی که دانشمندان آن را «صمیمیت فریبنده» (Deceptive Intimacy) مینامند، ابزار قدرتمندی برای شرکتهای پلتفرمی جهت تعمیق وابستگی عاطفی و تثبیت وفاداری به برند است. متا قصد دارد جالی را نه فقط به یک ابزار روی صفحه گوشی، بلکه به یک همراه دائمی در سختافزارهای پوشیدنی تبدیل کند؛ همراهی که تمام مکالمات، علایق و انتخابهای کاربر را رصد کرده و خریدهای آنلاین را به صورت خودکار به ثمر میرساند.
با این حال، کارشناسان اخلاق فناوری و نهادهای تنظیمگر حریم خصوصی نسبت به خطرات این الگوهای فریبنده هشدار میدهند. ایجاد توهم دوستی با یک سیستم هوش مصنوعی تجاری میتواند مرز میان توصیه بیطرفانه و هدایت تجاری ناخواسته را محو سازد و کاربران را بدون آنکه متوجه شوند، تحت نفوذ تصمیمگیریهای الگوریتمی قرار دهد.