گسترش پرشتاب استفاده از ابزارهای هوش مصنوعی و دستیارهای کدنویسی مبتنی بر مدلهای بزرگ زبانی، شرکتهای فناوری و توسعهدهندگان نرمافزار را با چالشی جدی در مرز میان سرعت توسعه و امنیت دادهها روبرو کرده است. آیدا آستانی در گزارشی تحلیلی برای ماهنامه پیوست بررسی کرده است که توسعهدهندگان هنگام دیباگ کدهای پیچیده، ارسال لاگ‌های خطا یا بهینه‌سازی الگوریتم‌ها تا چه اندازه مجاز به اشتراک‌گذاری ساختارهای داده و سورس‌کدهای داخلی با چت‌بات‌های ابری هستند.
برای رفع یک خطای نرم‌افزاری دشوار، توصیف ساده متن ارور در اغلب موارد کافی نیست؛ برنامه‌نویس ناچار است بخشی از بدنه تابع، مدل داده‌ای، پاسخ‌های نمونه پایگاه داده و شرایط اجرای کد را برای مدل ارسال کند. با این حال، همین اطلاعات در صورتی که فیلتر نشوند، می‌توانند کلیدهای دسترسی به APIها، منطق تجاری هسته نرمافزار، ساختار پایگاه‌های داده و حتی اطلاعات هویتی و دادههای واقعی کاربران را به سرورهای ثالث منتقل کنند؛ سرورهایی که طبق خط‌مشی‌های برخی سرویس‌ها ممکن است از این ورودی‌ها برای آموزش مجدد مدلهای خود استفاده نمایند.
اگرچه ساده‌سازی کد، حذف اطلاعات هویتی و جایگزین کردن اطلاعات حساس با دادههای ساختگی (Mock Data) راهکاری متداول برای کاهش این مخاطره به نظر می‌رسد، اما در عمل تغییر شرایط دادهها گاهی بازتولید و شناسایی دقیق علت باگ را ناممکن می‌سازد. از این رو، مدیریت امنیتی فرآیند توسعه نرمافزار امروزه دیگر تنها به انتخاب میان کوپایلوت‌ها یا مدلهای زبانی محدود نیست، بلکه تعریف دستورالعمل‌های شفاف برای شیوه ارسال دادهها و بازبینی پرامپتها به بخش جدایی‌ناپذیر مهندسی نرمافزار تبدیل شده است.
کارشناسان امنیت نرمافزار توصیه می‌کنند شرکت‌ها سطوح دسترسی روشنی برای کدهای متن‌باز و غیرحساس در برابر کدهای هسته تجاری تعریف کنند. همچنین استفاده از مدلهای سبک‌تر که به صورت محلی (On-Premise) در شبکه داخلی شرکت میزبانی می‌شوند یا به‌کارگیری دروازه‌های امنیتی خودکار (Security Gateways) که قبل از ارسال پرامپت به سرورهای ابری، الگوهای کلیدهای امنیتی، توکن‌ها و ساختارهای اختصاصی را به شکل خودکار حذف و بازنویسی می‌کنند، از راهکارهای موثر برای حفظ محرمانگی بدون از دست دادن مزیت شگفت‌انگیز هوش مصنوعی در سرعت کدنویسی به شمار می‌آید.