گزارش‌های سوءاستفاده جنسی از کودکان با هوش مصنوعی در دو سال ۸۴۰۰ درصد رشد کرد
هوش مصنوعی جهان

گزارش‌های سوءاستفاده جنسی از کودکان با هوش مصنوعی در دو سال ۸۴۰۰ درصد رشد کرد

۲۵ آبان ۱۴۰۵ ⏱ ۴ دقیقه مطالعه 👁 ۰ بازدید ✍️ تحریریه رشدینو
✈️ اشتراک در تلگرام 💬 واتساپ 𝕏 توییتر
📌 نکات کلیدی و خلاصه خبر پاسخ سریع در یک نگاه

پژوهش موسسه چایلدلایت نشان می‌دهد گزارش‌های مربوط به استفاده از هوش مصنوعی برای سوءاستفاده جنسی از کودکان از حدود ۴۷۰۰ مورد در ۲۰۲۳ به بیش از ۴۰۰ هزار مورد در ۲۰۲۵ رسیده؛ پژوهشگران خواستار برخورد دولت‌ها با این بحران به عنوان یک وضعیت اضطراری بهداشت عمومی قابل پیشگیری هستند.

✨ تحلیل رشدینو نگاه اختصاصی تیم رشدینو

درس مدیریتی این آمار برای پلتفرم‌های ایرانی که ابزار «حذف پوشش» یا ویرایش تصویر عرضه می‌کنند روشن است: اگر ورودی سنی و سیاست حذف محتوا از روز اول طراحی نشود، هزینه حقوقی و اعتباری آن بعداً چند برابر می‌شود.

پژوهش تازه‌ای نشان می‌دهد گزارش‌های مربوط به استفاده از هوش مصنوعی برای سوءاستفاده جنسی از کودکان در دو سال بیش از ۸۴۰۰ درصد افزایش یافته است.

بر اساس گزارش موسسه «چایلدلایت – موسسه جهانی ایمنی کودکان» مستقر در ادینبرا، محتوای سوءاستفاده از کودکان مرتبط با هوش مصنوعی، از جمله دیپ‌فیک‌های ساخته‌شده با «اپ‌های برهنه‌ساز»، از حدود ۴۷۰۰ مورد در سال ۲۰۲۳ به بیش از ۴۰۰ هزار مورد در سال ۲۰۲۵ رسیده است.

این تصاویر هرچند جعلی هستند، می‌توانند ابزار اخاذی از کودکان باشند؛ برای مطالبه پول یا دریافت تصاویر بیشتر. این پژوهش، گزارش‌هایی را بررسی کرده که شرکت‌های فناوری به سازمان آمریکایی «مرکز ملی کودکان گمشده و بهره‌کشی‌شده» (NCMEC) ارائه می‌کنند.

دبی فرای، مدیر جهانی بخش داده در چایلدلایت، می‌گوید یافته‌ها سطح «تکان‌دهنده» بهره‌کشی جنسی از کودکان را نشان می‌دهد. این پژوهش بر شرق آسیا و اقیانوسیه، آمریکای لاتین و کارائیب و آمریکای شمالی تمرکز دارد. پژوهش‌های پیشین، اروپای غربی را بررسی کرده بودند.

فرای می‌گوید: «پژوهش ما مقیاس تکان‌دهنده بهره‌کشی و سوءاستفاده جنسی از کودکان و سرعت تحول تهدیدهایی را که کودکان با آن روبه‌رو هستند، به‌ویژه در فضای آنلاین، آشکار می‌کند. اما یافته‌ها همچنین نشان می‌دهد دولت‌ها کجا می‌توانند تفاوت ایجاد کنند. با کنار هم گذاشتن شواهد به‌دست‌آمده از نظرسنجی‌ها، سوابق پلیس و منابع دیگر، می‌توانیم تصویر روشن‌تری از خطرهایی که کودکان با آن مواجه‌اند بسازیم، ضعف سیستم‌های حفاظتی را شناسایی کنیم و منابع و مداخله‌ها را جایی متمرکز کنیم که بیشترین نیاز وجود دارد.»

گزارش بنیاد «اینترنت واچ» (IWF) در ماه گذشته نشان داد محتوای سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید می‌شود در فضای آنلاین در حال رشد است؛ به‌طوری که حجم محتوای غیرقانونی بررسی‌شده در سال جاری از کل سال ۲۰۲۵ فراتر رفته است.

تحلیلگران IWF در نیمه اول ۲۰۲۶ محتوای سوءاستفاده جنسی از کودکان با واقع‌گرایی بیشتر نسبت به کل سال قبل یافته‌اند. این سازمان مردم‌نهاد بریتانیایی که محتوای سوءاستفاده را در سطح جهانی رصد می‌کند، می‌گوید ۶۳۱۰ تصویر هوش مصنوعی را ارزیابی کرده که تعریف قانونی سوءاستفاده جنسی از کودکان را برمی‌آورند؛ رقمی ۴۰ درصد بالاتر از مجموع بیش از ۴۵۰۰ مورد سال گذشته. به گفته IWF، این مشکل در سال ۲۰۲۵ هم رشد کرده بود.

**۳۰۰ میلیون کودک در سال**

چایلدلایت برآورد می‌کند بیش از ۳۰۰ میلیون کودک در جهان هر سال قربانی دست‌کم یک نوع بهره‌کشی یا سوءاستفاده جنسی تسهیل‌شده با فناوری می‌شوند.

این موسسه همچنین برآورد می‌کند حدود یک کودک از هر چهار کودک پیش از رسیدن به ۱۸ سالگی دست‌کم یک نوع سوءاستفاده را تجربه می‌کند. این پژوهش گزارش‌های سوءاستفاده غیرآنلاین را هم بررسی کرده است.

بر اساس این پژوهش، در آمریکای شمالی نزدیک به یک‌سوم دختران و بیش از یک‌نفر از هر ۱۰ پسر در دوران کودکی سوءاستفاده جنسی حضوری را تجربه کرده‌اند. این موارد شامل جرایمی مثل تعرض جنسی، تجاوز و فیلم‌برداری از زیر دامن است.

نرخ ثبت‌شده گزارش‌ها و اعلان‌های مربوط به محتوای سوءاستفاده جنسی از کودکان در آمریکا بین سال‌های ۲۰۲۴ و ۲۰۲۵ حدود ۶۳ درصد رشد کرد، در حالی که این رقم در کانادا ۱۸ درصد بود.

فرای می‌گوید: «سرعتی که هوش مصنوعی با آن تهدید علیه کودکان را تغییر می‌دهد، به‌شدت نگران‌کننده است. این ارقام رشد فوق‌العاده گزارش‌های محتوای سوءاستفاده جنسی تولیدشده با هوش مصنوعی را در تنها دو سال نشان می‌دهد. هرچند بخشی از این افزایش را می‌توان با بهبود تشخیص و گزارش‌دهی توضیح داد، یافته‌ها تأکید می‌کند چرا دولت‌ها و شرکت‌های فناوری باید فوراً اقدام کنند تا این شکل‌های نوظهور سوءاستفاده را بشناسند، از آن پیشگیری کنند و محتوا را سریع حذف کنند.»

**درخواست برای «وضعیت اضطراری بهداشت عمومی»**

پاول استنفیلد، مدیرعامل چایلدلایت، می‌گوید: «میلیون‌ها کودک قربانی بهره‌کشی و سوءاستفاده جنسی می‌شوند، اما دولت‌ها اغلب با تصویری ناقص از این‌که آسیب کجا رخ می‌دهد و چه کسانی بیشتر در معرض خطر هستند کار می‌کنند. بدون درک مقیاس و ماهیت واقعی این آسیب نمی‌توانیم به‌طور مؤثر پیشگیری کنیم یا از کودکان محافظت کنیم. اما هیچ‌چیز در بهره‌کشی و سوءاستفاده جنسی از کودکان اجتناب‌ناپذیر نیست. ما دانش و ابزار تغییر را داریم.»

او می‌افزاید: «ما از دولت‌ها می‌خواهیم این مسئله را به عنوان یک وضعیت اضطراری بهداشت عمومیِ قابل‌پیشگیری به رسمیت بشناسند، در شواهد بهتر سرمایه‌گذاری کنند و این اطلاعات را به اقدام تبدیل کنند. با رهبری پایدار و همکاری بین‌المللی می‌توانیم از آسیب پیشگیری کنیم، زودتر مداخله کنیم و برای میلیون‌ها کودک دیگر کودکیِ امنی را که شایسته آن هستند فراهم کنیم.»

**چرا این گزارش مهم است؟**

سرعت رشد این آمار، بحث مقررات‌گذاری هوش مصنوعی را از سطح «نگرانی اخلاقی» به سطح «مداخله فوری» می‌برد. نکته کلیدی گزارش چایلدلایت این است که بخشی از رشد ناشی از بهبود تشخیص است؛ یعنی حتی اگر نرخ واقعی آسیب ثابت بماند، زیرساخت شناسایی و گزارش‌دهی بهتر می‌تواند عددها را بزرگ‌تر نشان دهد. اما این توضیح در برابر جهش چند صد برابری دو ساله کافی نیست و همین است که پژوهشگران را به درخواست مداخله دولتی واداشته است.

برای شرکت‌های فناوری، این گزارش سه پیام عملی دارد: نخست، ابزارهای ویرایش تصویر و مدل‌های تولید تصویر باید از مرحله طراحی، سیاست محتوای صریح و کنترل ورودی داشته باشند. دوم، سامانه‌های گزارش‌دهی و اشتراک‌گذاری اطلاعات با نهادهای مسئول باید سریع و استاندارد باشند. سوم، سرعت حذف محتوا به همان اندازه دقت تشخیص اهمیت دارد، چون در اخاذی، هر ساعت تأخیر یعنی فشار بیشتر روی قربانی.

برای والدین و مدارس هم گزارش چایلدلایت یادآوری می‌کند که تهدید امروز دیگر فقط «دیدن محتوای نامناسب» نیست؛ ساخت تصویر جعلی از خود کودک و استفاده از آن برای باج‌گیری، شکل تازه‌ای از آسیب است که آگاهی و گفت‌وگوی زودهنگام با کودکان را ضروری می‌کند.

منبع: The Guardian ←

❓ پرسش‌های متداول درباره این خبر

موضوع اصلی گزارش «گزارش‌های سوءاستفاده جنسی از کودکان با هوش مصنوعی در دو سال ۸۴۰۰ درصد رشد کرد» چیست؟

پژوهش موسسه چایلدلایت نشان می‌دهد گزارش‌های مربوط به استفاده از هوش مصنوعی برای سوءاستفاده جنسی از کودکان از حدود ۴۷۰۰ مورد در ۲۰۲۳ به بیش از ۴۰۰ هزار مورد در ۲۰۲۵ رسیده؛ پژوهشگران خواستار برخورد دولت‌ها با این بحران به عنوان یک وضعیت اضطراری بهداشت عمومی قابل پیشگیری هستند.

این رویداد چه اهمیتی برای فعالان کسب‌وکار و فناوری دارد؟

دو سال بیش از ۸۴۰۰ درصد افزایش یافته است. بر اساس گزارش موسسه «چایلدلایت – موسسه جهانی ایمنی کودکان» مستقر در ادینبرا، محتوای سوءاستفاده از کودکان مرتبط با هوش مصنوعی، از جمله دیپ‌فیک‌های ساخته‌شده با «اپ‌های برهنه‌ساز

🔗 اخبار مرتبط

بخوانید