هشدار کارشناسان: تقریباً همه فعالان هوش مصنوعی در تیررس «تله عسلی» هستند
دیجیتال مارکتینگ جهان هوش مصنوعی در مارکتینگ

هشدار کارشناسان: تقریباً همه فعالان هوش مصنوعی در تیررس «تله عسلی» هستند

۱ آذر ۱۴۰۵ ⏱ ۳ دقیقه مطالعه 👁 ۰ بازدید ✍️ تحریریه رشدینو
✈️ اشتراک در تلگرام 💬 واتساپ 𝕏 توییتر
📌 نکات کلیدی و خلاصه خبر پاسخ سریع در یک نگاه

پس از رسوایی جنسن هوانگ، کارشناسان امنیتی هشدار می‌دهند که رازهای گران‌ترین شرکت‌های هوش مصنوعی حالا از طریق رابطه‌های انسانی و نه نفوذ سایبری بیرون می‌رود؛ از مدیرعامل تا دستیار اجرایی، همه هدف بالقوه‌اند.

✨ تحلیل رشدینو نگاه اختصاصی تیم رشدینو

برای استارتاپ‌های ایرانی که با تیم کوچک و اطلاعات حساس روی مدل و داده کار می‌کنند، این هشدار یعنی خطر اصلی نه فایروال بلکه یک «مشاور» یا «سرمایه‌گذار» بیش از حد مهربان است؛ سیاست‌های ساده دسترسی و مرزگذاری ارزان‌تر از یک نشت اطلاعاتی است.

در حالی که پیامدهای رسوایی «تله عسلی» جنسن هوانگ برای انویدیا هنوز در جریان است، دره سیلیکون هنوز با یک واقعیت تازه کنار نیامده است: شمار بسیار بیشتری از آدم‌های همین صنعت در معرض خطر هستند.

آرون براون، افسر ارشد سابق سازمان اطلاعات مرکزی آمریکا (CIA) و بنیان‌گذار کنونی شرکت نرم‌افزاری Lumbra، به تک‌کرانچ گفت: «هیچ‌کس به بنیان‌گذاران درباره ضداطلاعات آموزش نمی‌دهد.»

دلیلش این است که از نظر تاریخی، تله عسلی با سیاستمداران، ارتش و سرویس‌های اطلاعاتی ملی مرتبط بوده است؛ یعنی همان آدم‌هایی که «پشت مجوزهای امنیتی هستند و نیروی کاری‌شان آموزش دیده که انتظار چنین نزدیک‌شدنی را داشته باشد». اما حالا بسیاری از باارزش‌ترین رازها «درون شرکت‌هایی نشسته‌اند که تراشه، مدل و زیرساخت می‌سازند».

براون می‌گوید جاسوس «چیزی را می‌خواهد که مدیرعامل به آن دسترسی دارد: نقشه راه، تصمیم‌های صادرات، فهرست مشتریان، اینکه چه کسی فناوری را دریافت می‌کند. مدیرعامل کوتاه‌ترین مسیر به همه این‌هاست.»

هوانگ متهم شده است که قربانی دقیقاً چنین تله‌ای شده؛ از طریق رابطه‌ای با آلیس هوانگ، مدیر اجرایی سابق یک «نئوکلاد» در سنگاپور که او را به جاسوسی برای چین و قاچاق میلیاردها دلار تراشه محدودشده انویدیا به داخل چین متهم کرده‌اند.

پس از افشای این اتهام‌ها، اینترنت پر شد از شوخی درباره اینکه مدیرعامل بعدی کدام شرکت خواهد بود؛ اما فقط مدیرعامل‌ها و بنیان‌گذاران در خطر نیستند. روزنامه وال‌استریت ژورنال گزارش داد که OpenAI به کارمندانش هشدار داده مراقب افراد بیرونی باشند که تلاش می‌کنند به آن‌ها نزدیک شوند تا به رازهای شرکت برسند. هر کسی که به اطلاعات حساس دسترسی دارد — از اعضای هیئت‌مدیره تا دستیاران اجرایی — می‌تواند هدف تله عسلی باشد.

و معمولاً مهاجم، عاشق نیست. براون می‌گوید قدیمی‌ترین شکل تله عسلی در واقع «دوستی» است. تله‌های عسلی از راه نقش سرمایه‌گذار، مشتری، جذب‌کننده نیرو و شرکت مشاور به قربانی نزدیک می‌شوند. درخواست‌هایشان روی کاغذ منطقی به نظر می‌رسد و لازم نیست قربانی عاشق شود. براون توضیح می‌دهد: «آن‌ها می‌خواهند که شما راحت صحبت کنید. این تله‌ها بیشتر دوام می‌آورند، چون هیچ‌کس مراقب نیست.»

نکته جالب، طنز ماجراست: شمار زیادی از بنیان‌گذاران فناوری در حال خودکارسازی و دیجیتالی‌کردن بخش بزرگی از زندگی انسانی هستند، اما خودشان در برابر قدیمی‌ترین باگ دنیا آسیب‌پذیرند؛ انسانی که از نیاز آدم‌ها به درک‌شدن سوءاستفاده می‌کند.

پری کارپنتر، جرم‌شناس و استراتژیست ارشد فریب در شرکت KnowBe4، به تک‌کرانچ گفت: «چرا با فایروال بجنگید وقتی می‌توانید به کسی نزدیک شوید که درها را باز می‌کند، روی تصمیم‌ها اثر می‌گذارد یا درخواست‌هایی می‌کند که هیچ‌کس نمی‌خواهد زیر سؤال ببرد؟»

زمانی که قربانی متوجه نفوذ می‌شود، تهدید می‌تواند بالا بگیرد: مهاجم اکنون ابزار باج‌خواهی در دست دارد.

طنز دیگر اینکه هوش مصنوعی اجرای تله عسلی را بسیار ساده‌تر و ارزان‌تر کرده است. طراحی چنین نقشه‌ای قبلاً ماه‌ها یا سال‌ها تحقیق لازم داشت: ساختن یک شخصیت، شناخت هدف و اجرای قدم‌به‌قدم. امروز استفاده از هوش مصنوعی برای تحقیق درباره هدف، ساختن پروفایل‌های جعلی در شبکه‌های اجتماعی، پیشینه جعلی و حتی تماس صوتی جعلی کار سختی نیست.

کارپنتر می‌گوید: «هوش مصنوعی می‌تواند کل یک داستان تخیلی را زنده نگه دارد. فناوری صحنه را می‌چیند، اما فریب در نهایت از مسیر رابطه‌های انسانی اجرا می‌شود.»

براون معتقد است صنعت هوش مصنوعی «سریع‌تر از آنکه فرهنگش جا بیفتد، به صنعتی امنیتی تبدیل شد». او اضافه می‌کند: «بخشی از گرفتار شدن در تله عسلی این است که خودت نفهمی. این وضعیت شبیه دستکاری به نظر نمی‌رسد؛ واقعی، حتی خوش‌شانسی به نظر می‌رسد.»

کارپنتر می‌گوید گام اول، توجه به الگوهای غیرعادی است: مثلاً «برخوردهای تصادفی که کمی بیش از حد تکرار می‌شوند». نشانه‌های آشکار هم وجود دارد؛ کنجکاوی مداوم درباره کار و همکاران، درخواست پنهان‌کاری درباره ملاقات، و اصرار برای معرفی‌شدن به دیگران یا گرفتن اطلاعات.

پرچم‌های قرمز بزرگ‌تر شامل این است که درخواست‌های یک نفر مدام بزرگ‌تر شود و از مرزهایی عبور کند که معمولاً برای شما ناخوشایند بود. براون می‌گوید یک «تست ساده دل» کافی است: «اگر فردا کارت را از دست بدهی، این آدم هنوز دور و برت می‌ماند؟»

همچنین کمک می‌کند تشخیص دهید کِی احساسات در تصمیم‌گیری دخالت می‌کنند. کارپنتر پیشنهاد می‌کند مرز روشنی بین زندگی شخصی و حرفه‌ای بگذارید. در سطح سازمان هم «حذف استثناگرایی مدیران» مهم است؛ همان ایده‌ای که قوانین برای آدم‌های قدرتمند شرکت اعمال نمی‌شود.

براون نقش فرهنگ سازمانی را هم مهم می‌داند: آیا کارمندان راحت‌اند که نگرانی مطرح کنند، درخواست‌های غیرعادی را به چالش بکشند و تهدیدهای احتمالی را بالا ببرند؟ کارپنتر می‌گوید: «یکی از خطرناک‌ترین فرهنگ‌های امنیتی، فرهنگی است که در آن هیچ‌کس راحت نیست مدیرعامل را زیر سؤال ببرد.»

براون جمع‌بندی می‌کند: «بنیان‌گذاران باید ریسک کنند و فرصت‌های کسب‌وکار را کشف کنند. پارانویا کمکی نمی‌کند؛ اما این که بپذیری هدف هستی، کمک می‌کند.»

منبع: TechCrunch ←

❓ پرسش‌های متداول درباره این خبر

موضوع اصلی گزارش «هشدار کارشناسان: تقریباً همه فعالان هوش مصنوعی در تیررس «تله عسلی» هستند» چیست؟

پس از رسوایی جنسن هوانگ، کارشناسان امنیتی هشدار می‌دهند که رازهای گران‌ترین شرکت‌های هوش مصنوعی حالا از طریق رابطه‌های انسانی و نه نفوذ سایبری بیرون می‌رود؛ از مدیرعامل تا دستیار اجرایی، همه هدف بالقوه‌اند.

این رویداد چه اهمیتی برای فعالان کسب‌وکار و فناوری دارد؟

یک واقعیت تازه کنار نیامده است: شمار بسیار بیشتری از آدم‌های همین صنعت در معرض خطر هستند. آرون براون، افسر ارشد سابق سازمان اطلاعات مرکزی آمریکا (CIA) و بنیان‌گذار کنونی شرکت نرم‌افزاری Lumbra، به تک‌کرانچ گفت: «هیچ‌کس

# هوش مصنوعی در مارکتینگ
🔗 اخبار مرتبط

بخوانید