دادگاه عالی خلق چین دستورالعمل قضایی جامعی شامل ۲۴ ماده برای مقابله با سوءاستفاده از هوش مصنوعی، دیپفیک و انتشار اطلاعات خصوصی تصویب کرد. این نهاد دستورالعمل قضایی تازهای به دادگاههای سراسر کشور ابلاغ کرده تا روند رسیدگی به پروندههای مدنی مرتبط با سوءاستفاده از ابزارهای هوش مصنوعی و تولید محتوای جعلی یکپارچه شود.
سند قضایی مذکور اختلافهای حقوقی پیرامون ویدیوها و صداهای تولیدشده با دیپفیک، محتوای جنسی، تخلفات مالی، حریم خصوصی دیجیتال و قیمتگذاری نظارتی را پوشش میدهد. یکی از محورهای کلیدی تدوینشده، رسیدگی به محتوایی است که با شبیهسازی چهره و صدای افراد زنده یا بازآفرینی مجازی مردگان ساخته میشود.
سی یانلی (Xi Yanli)، معاون دفتر پژوهشهای دادگاه عالی خلق چین، گفت: «در عمل، افراد زیادی نگرانی شدید خود را نسبت به دیپفیکهای هوش مصنوعی ابراز میکنند. فناوری تغییر چهره میتواند تصویر هر فردی را بدون تمایز جمعآوری کند و افراد عادی را به اهداف بالقوه جعل عمیق تبدیل سازد. فناوری شبیهسازی صدا نیز میتواند صداها را با هزینهای بسیار اندک بدزدد و نتایجی بهشدت باورپذیر تولید کند.»
راهبرد جدید علاوه بر پروندههای جعل تصویر، تدابیری برای برخورد با پدیده دوکسینگ یا افشای غیرقانونی اطلاعات خصوصی افراد در اینترنت پیشبینی میکند. سی یانلی در این باره گفت: «دوکسینگ به شکل برجستهای از آزار سایبری تبدیل شده است که حریم خصوصی قربانیان را نقض میکند، زندگی روزمره آنها را بر هم میزند و امنیت عمومی را در فضای مجازی کاهش میدهد.»
نظام حقوقی چین مبتنی بر حقوق مدنی فعالیت میکند و دادگاههای محلی الزامی به پیروی از رویههای قضایی پیشین ندارند؛ اما دستورالعملهای صادره از دادگاه عالی خلق وزن حقوقی بالایی دارند و مراجع پاییندستی موظف به استناد به آنها در آرای خود هستند.
در خبری مرتبط از آمریکا، دیوان عالی نیومکزیکو وکیلی را به دلیل استفاده از شواهد و اظهارات جعلی تولیدشده با هوش مصنوعی پنج هزار دلار جریمه کرد. استفن آرونز (Stephen Arons) به علت ارائه شاهدان ساختگی و شهادتهای جعلی پلیس در پرونده فرجامخواهی قتل، با حکم اهانت به دادگاه روبهرو شد. لایحه ارائهشده شامل شهادتهای دروغین از شاهدانی کاملاً ساختگی و اطلاعات نادرست درباره پوشش و ظاهر ضارب بود. آرونز در جلسه رسیدگی اعتراف کرد که از ابزار ChatGPT استفاده کرده و گمان میکرد این سامانه خلاصهای بینقص از دادگاه ارائه میدهد.
سی. شنون بیکن، قاضی دیوان عالی، خطاب به او گفت: «جناب وکیل، آیا اخبار را تماشا میکنید؟ آیا به رادیو گوش میدهید؟ آیا چیزی درباره آنچه در جهان میگذرد میخوانید؟ چون مشکل اتکای وکلا به توهمات هوش مصنوعی هر روز به تیتر اول رسانهها تبدیل میشود.» آرونز در پاسخ گفت: «من پشیمان هستم؛ اما امیدوارم هیئت انضباطی در نظر بگیرد که ماجرا یک اشتباه صادقانه بود.»
با افزایش استفاده از ابزارهای هوش مصنوعی در فعالیتهای حقوقی، دادگاهها بارها با استنادهای ساختگی و توهمات ماشینی روبهرو شدهاند؛ سال گذشته نیز قضات، دفاتر حقوقی متعددی را به دلیل ارائه نقلقولها و ارجاعات دروغین تولیدشده با مدلهای زبانی جریمه کردند.