تقریباً یک دهه است که وبسایتهای سوءاستفادهگر «پورن» دیپفیک، هزاران ویدیوی غیرمترقبه منتشر میکنند که در آنها زنان — از جمله سلبریتیهای مشهور، سیاستمداران و چهرههای عمومی — در موقعیتهای جنسی قرار داده میشوند. حالا در اتفاقی که احتمالاً بزرگترین برخورد با وبسایتهای دیپفیک صریح تا امروز است، مقامات نیویورک بیش از ده سایت مضر را توقیف کردهاند.
دوشنبه، دفتر دادستانی ناحیه منهتن از توقیف ۱۲ دامنه خبر داد که به گفته آنها برای «غیرقانونی» به اشتراکگذاشتن، منتشرکردن و فروش ویدیوهای دیپفیک سلبریتیها استفاده میشدهاند. به گفته این دفتر، حدود ۱۲۰۰ نفر — که اکثریت قاطعشان زن هستند — در تصاویر و ویدیوهای جنسی غیرمترقبه در این وبسایتها حضور داشتهاند؛ از جمله اینفلوئنسرهای شبکههای اجتماعی، بازیگران، فعالان، ورزشکاران، موسیقیدانان و سیاستمداران.
«این نقضهای وحشتناک حریم خصوصی، قربانیان را در مسیر شغلی و زندگی شخصیشان دنبال میکنند و خسارت عظیمی به سلامت عاطفی و روانی وارد میکنند.» این را آلوین براگ، دادستان ناحیه، در بیانیهای گفت و از قربانیان احتمالی خواست جلو بیایند و با اداره جرایم سایبری دفتر او تماس بگیرند. دفتر دادستانی میگوید تحقیقاتش درباره مسئولان این وبسایتها و همچنین کسانی که ویدیوهای مخرب قربانیان را آپلود کردهاند ادامه دارد.
این توقیفها که بر اساس قوانین آیین دادرسی کیفری نیویورک انجام شده، شاید یکی از مهمترین و فراگیرترین اقدامات علیه وبسایتهای میزبان ویدیوهای دیپفیک صریح از زمان ظهور این فناوری در پایان ۲۰۱۷ باشد. با پیشرفت هوش مصنوعی، صنعتی تاریک از وبسایتها، اپلیکیشنها و رباتها شکل گرفته که طراحی شدهاند عکسهای زنان را «برهنه» کنند یا ویدیوهای جنسی گرافیکی شامل آنها بسازند. این تصاویر و ویدیوها روزبهروز واقعیتر میشوند و در چند ثانیه ساخته میشوند.
هرچند فناوری دیپفیک بهطور گسترده علیه زنان و دختران غیرمشهور استفاده میشود — که اغلب در گروههای خصوصی شبکههای اجتماعی به اشتراک گذاشته میشود — سلبریتیها درباره آسیبهای متعدد قرارگرفتن در این محتوا و دشواری حذف آن صحبت کردهاند. قوانین ضد دیپفیک بهکندی وضع شدهاند، اما قانون Take It Down آمریکا بهطور فزایندهای اجازه حذف تصاویر را میدهد؛ بخشی از این قانون به مجریان قانون اجازه میدهد وبسایتها را از کار بیندازند و توقیف کنند.
دفتر دادستانی منهتن هنوز اسامی وبسایتهای توقیفشده را عمومی نکرده. با این حال، پیش از اعلام براگ، وایر خودش بهطور مستقل مشاهده کرده بود صفحات اصلی چند سایت با اعلامیههای توقیف جایگزین شده است — «این دامنه توقیف شده است» — اواخر هفته گذشته؛ و حالا این سایتها میگویند پس از حکم توقیف صادرشده از سوی دادگاه عالی ایالت نیویورک، تحویل گرفته شدهاند.
«این توقیفها پیروزی بزرگی در مبارزه با تصاویر صمیمی غیرمترقبه مصنوعی (NCII) است»، این را لئونی اهمیگ، پژوهشگر مؤسسه گفتگوی استراتژیک (ISD) که اکوسیستم تولید دیپفیک را مطالعه کرده، میگوید. اهمیگ میگوید اجرای قوانین ایالتی نشان میدهد محتوای مضر قابل مهار است و سایتهای توقیفشده حتی اگر از مکانهای دیگر با VPN به آنها دسترسی پیدا کنید در دسترس نیستند. «این نشان میدهد اجرای هماهنگ و معنادار حتی در جایی که خود قانونگذاری بین حوزههای قضایی پراکنده است هم قابل دستیابی است.»
این وبسایتها احتمالاً میلیونها بار بازدید شدهاند. بسیاری از آنها نامهایی داشتند که شامل عبارتهایی مثل «سکس سلبریتی» بود یا «دیپفیک واقعی» وعده میدادند. آنها ویدیوهای جعلی از برخی مشهورترین سلبریتیهای جهان میزبانی میکردند و یکی از آنها میگفت «چهره بازیگران مختلف برای دیپفیک استفاده میشود.»
ویدیوها میتوانستند چند دقیقهای باشند و صحنههای کاملاً صریح جنسی داشته باشند — اغلب با جابهجاکردن چهره سلبریتیها یا چهرههای عمومی روی ویدیوهای پورنوگرافی موجود. نسخههای آرشیوشده این وبسایتها نشان میدهد برخی ویدیوها دهها هزار بار تماشا شدهاند و یکی از سایتها ادعای فعالیت از ۲۰۱۸ را داشت.
«بیشتر ویدیوها به شکل فیلمهای پورنوگرافی واقعی بودند که دستکاری شده بودند تا چهره قربانیان را به جای بازیگران اصلی نشان دهند»، این را بنجامین شولتز، پژوهشگر ارشد پروژه American Sunlight Project، یک سازمان غیرانتفاعی، میگوید. شولتز که سوءاستفاده دیپفیک از چهرههای سیاسی را مستند کرده و در جریان این پژوهش به برخی از این وبسایتها برخورده بود، میگوید بسیاری از ویدیوها بازنشر محتوایی بودند که ابتدا در سایت MrDeepFakes به اشتراک گذاشته شده بود؛ پلتفرم بدنام دیپفیک که پس از افشای هویت سازندگانش توسط خبرنگاران از کار انداخته شد.
شولتز میگوید: «دستکم در دو مورد از وبسایتهای توقیفشده، به مقامات منتخب پروفایلهایی با نام و سمتشان داده شده بود، همراه با شبکهای از ویدیوهای دستکاریشده که شبیه آنها بودند.» شولتز میگوید در پژوهشهای اخیر، ۵۶ سیاستمدار اروپایی در این وبسایتها ذکر یا دیده شدهاند، از جمله ۱۶ سیاستمدار آمریکایی و دو نفر مستقر در بریتانیا.
اهمیگ، پژوهشگر ISD، هرچند این توقیفها را امیدوارکننده میداند اما میگوید بخشهای زیادی از صنعت دیپفیک هست که آسیب جدی وارد میکنند: «مداخله مؤثر باید اکوسیستم را در چند نقطه هدف بگیرد؛ از جمله ابزارهای ساخت NCII مصنوعی، کشف و ترویج آنها، میزبانی و زیرساخت فنی که آنها را آنلاین نگه میدارد، و سیستمهای پرداخت و وابستگیهایی که به اپراتورها اجازه میدهد از آنها پول دربیاورند.»