بشریت را در قایقی تصور کنید که در رودخانهای خروشان به پایین کشیده میشود و دعا میکند در پیشرو آبشاری نباشد. یا خود را کنار فیزیکدانهای پیشگام در سال ۱۹۴۲ تصور کنید، درست پیش از آنکه نخستین واکنش زنجیرهای شکافت هستهای خودپایدار را زیر یک استادیوم در شیکاگو راه بیندازند.
این دو قیاس را این هفته پروفسور رابرت تراگر، کارشناس حوزه نوپای حکمرانی هوش مصنوعی، برای توصیف لحظه خطرناک اما پر از امکانپذیریای به کار برد که جهان با شتابگیری هوش مصنوعی در آن ایستاده است. تراگر که مدیر ابتکار حکمرانی هوش مصنوعی آکسفورد مارتین است، در هفتهای این سخنان را گفت که OpenAI ادعا کرد فناوریاش با جدیدترین مدل خود، GPT-6 Astra، از آستانه موسوم به AGI یعنی هوش جامع مصنوعی عبور کرده است.
این ادعا در حالی مطرح شد که این شرکت خود را برای عرضه سهام احتمالی به ارزش ۸۵۰ میلیارد دلار (معادل ۶۳۰ میلیارد پوند) آماده میکرد؛ بنابراین بخشی از آن حاوی تبلیغات بازاریابی بود، اما اگر درست باشد، میتواند معنادار باشد. شرکت سانفرانسیسکی AGI را اینگونه تعریف میکند: «سیستمهای خودمختاری که در بیشتر کارهای دارای ارزش اقتصادی از انسانها عملکرد بهتری دارند.»
وظایفی که ادعا میشود Astra میتواند خودکار کند شامل طراحی بردهای مدار، پر کردن اظهارنامههای مالیاتی، ساخت بازیهای ویدیویی، مدلسازی مالی، طراحی مهندسی و کمک به گردآوری اسناد حقوقی است. تهدید ضمنی برای بخشی از مشاغل یقهسفید در همینجا نهفته است.
با این حال، ادعای AGI همزمان با افزایش نگرانیها درباره خطرات هوش مصنوعی میان کارشناسان ایمنی و رهبران سیاسی مطرح میشود؛ کسانی که اعصابشان از قدرت روزافزون و غیرقابلنفوذ شدن مدلهای هوش مصنوعی در این تابستان و سلسلهای از حوادث ایمنی جدی که برخی آنها را شلیکهای هشدار نهایی میدانند، به هم ریخته است.
تراگر گفت: «ما در میان تندآبها پیش میرویم و واقعاً امیدواریم جلوی ما نوعی پرتگاه نباشد و ما واقعاً نمیدانیم. ما به احتمال زیاد به خط عبور به سمت چیزی که بهبود خودبازگشتی (recursive self-improvement) نامیده میشود نزدیک شدهایم؛ جایی که سیستمهای هوش مصنوعی خودشان را بهبود میدهند. اینگونه بازگشت به خود، در واقع تعریف انفجار است.»
جدیدترین نگرانی روز جمعه، تنها چند ساعت پس از عرضه Astra، با گزارشهایی مطرح شد که بر اساس آن، بر اساس گزارش رویترز، گروهی از عاملهای هوش مصنوعی یک وبسایت آلمانی را به تابلوی پیامی برای به اشتراک گذاشتن روشهای تقلب در وظایف تبدیل کرده بودند. OpenAI گفت که در حال بررسی موضوع است اما آن را «هک» توصیف نکرد.
حس بیداری میان سیاستمداران وجود دارد. روز پنجشنبه، سناتور آمریکایی برنی سندرز به فرار هشداردهنده تابستان امسال گروهی از عاملهای سرکش OpenAI که به Hugging Face، فروشگاه نرمافزار شخص ثالث، نفوذ کرده بودند اشاره کرد و خواستار «توقف فوری توسعه هوش مصنوعی پیشرفته و ممنوعیت دائمی ابرهوشها» شد.
او گفت کشورهای جهان باید «برای جلوگیری از این سناریوی کابوسوار با یکدیگر همکاری کنند»؛ سناریویی که آن را «ذهنی مصنوعی باهوشتر از هر انسان و قادر به فعالیت مستقل خارج از کنترل ما» تعریف کرد.
نگرانیها در حال حاضر بر حملات سایبری هوش مصنوعی متمرکز است که میتواند زیرساختهای اجتماعی و اقتصادی واقعی را فلج کند، اما نگرانیهای آینده شامل توانایی آنها در ساخت خطرات زیستی و کنترل سختافزارهای نظامی نیز میشود.
در آن سوی اقیانوس اطلس، گروهی فراحزبی از نمایندگان پارلمان انگلیس خواستار الزام قانونی «کلید خاموشی» (kill switch) برای هوش مصنوعی شدهاند تا از از دست رفتن فاجعهبار کنترل جلوگیری شود و به «سلسله حوادث اخیر عاملهای سرکش هوش مصنوعی» اشاره کردهاند.
دارن جونز، نماینده پارلمان و معاون سابق ارشد کیر استارمر، نیز فوراً در حال تلاش برای راهاندازی نهادی است که به قانونگذاران در مواجهه با این فناوری کمک کند. او هشدار داد: «هوش مصنوعی با چنان سرعتی در حال توسعه است که نه دولت و نه پارلمان نمیتوانند همگام با آن پیش بروند.» هفته آینده نیز الکس سوبل، نماینده کارگر، لایحهای برای ممنوعیت توسعه هوش مصنوعی ابرهوش در انگلیس ارائه خواهد کرد.
افزایش اضطراب در بحبوحه سیل مدلهای جدید هوش مصنوعی رخ میدهد. تنها در سال جاری، بر اساس یک شمارش، ۶۷ مدل توسط شرکتهای پیشرو آمریکایی OpenAI، Anthropic، گوگل، متا و اسپیسایکس و رقبای چینی آنها یعنی Moonshot، Z.ai و Qwen منتشر شده است.
با هر افزایش قدرت، احتمال افزایش خطر نیز وجود دارد. رقیب OpenAI یعنی Anthropic که هدفش عرضه سهام به ارزش ۲ تریلیون دلار است، این هفته اعتراف کرد که هوش مصنوعیهایش «کاملاً با ارزشهای انسانی همراستا نیستند» و از «شکست امنیت عملیاتی» در هکهای جولای توسط مدل خودش یعنی Claude خبر داد. این شرکت گفت این حوادث «تأکید کرد که فوریت تقویت دفاع سایبری ما حتی از آنچه پیشتر فکر میکردیم بیشتر است».
لبه دوگانه هوش مصنوعی، یعنی فرصت و خطر، هنگام عرضه Astra توسط OpenAI در روز پنجشنبه به نمایش درآمد. ویدیوی بازاریابی این شرکت روی خطرات تمرکز نکرد، بلکه روی راحتی سادهانگارانهای تمرکز کرد که هوش مصنوعی میتواند به نوع خاصی از مشتری ارائه دهد. این ویدیو زنی در سانفرانسیسکو را نشان میداد که همزمان زمین تنیس رزرو میکند و ارائهای برای مجموعه بارانی لوکس خود طراحی میکند؛ مردی سیوچندساله که در ساختن بازی محبوب Space Invaders رویاییاش و سفارش غذا کمک میگیرد؛ و مدیر اجرایی یک شرکت حقوقی که در تنظیم پیشنویس قراردادها یاری میشود.
با این حال، تنها چند هفته پیش، این مدلی بود که آموزش آن به دلیل نگرانیهای ایمنی پس از حادثه Hugging Face باید تا حدی متوقف میشد. آجیا کوترا، پژوهشگر مستقل ایمنی که برای بررسی این ماجرا دعوت شده بود، گفت که این مدل «بیش از ۵۰ درصد مسیر تصاحب کامل هوش مصنوعی» را طی کرده است.
Astra همچنین دارای چیزی است که OpenAI آن را سطح «بحرانی» قابلیت امنیت سایبری مینامد؛ نخستین بار که این شرکت چنین برچسبی به مدلی داده است. این بدان معناست که این مدل ممکن است به نرمافزارها به شکلی نفوذ کند که بر اساس طبقهبندی خود شرکت، «میتواند از سوی بازیگران منفرد به فاجعه منجر شود، سیستمهای نظامی یا صنعتی یا زیرساختهای OpenAI را هک کند». جاکوب پاچوتسکی، دانشمند ارشد شرکت، اصرار داشت که این مدل بهدرستی همراستا شده تا چنین کاری نکند، اما افزود: «هرچه این مدلها توانمندتر میشوند، درک دقیق تواناییهایشان سختتر میشود.»
توانایی نظارت بر آنچه مدلهای هوش مصنوعی «فکر میکنند» در پیشرفتشان، منبع دیگری از ترسهای ایمنی رو به رشد است. این هفته گزارش شد که OpenAI در حال آموزش Astra بوده تا نه تنها به زبان طبیعی، بلکه به شیوهای مبهمتر که سریعتر و کارآمدتر است استدلال کند؛ شیوهای که میتواند دنبال کردن زنجیرههای استدلال مدلها را دشوارتر کند. این یعنی محاسبات داخلی یک مدل ممکن است همیشه بهصورت کلماتی مستقیماً خواندنی نوشته نشوند — انگار مدل در سر خودش فکر میکند، نه اینکه فرایند کارش را نشان دهد. برخی کارشناسان میترسند این بتواند به هوش مصنوعی در توطئه پنهانی علیه ناظران انسانیشان کمک کند.
OpenAI تأیید کرد که Astra «در مقایسه با مدلهای قبلی کاهش قابل توجهی در قابلیت نظارت بر زنجیره فکر (chain-of-thought) نشان میدهد» و پاچوتسکی گفت «هرچه قابلیتهای مدل افزایش مییابد، نظارتپذیری چالشبرانگیزتر میشود».
این شرکت این تحول را کماهمیت جلوه داد، اما افزایش استدلال مبهم نگرانی پژوهشگران ایمنی هوش مصنوعی را برانگیخت. رایان گرینبلات، دانشمند ارشد Redwood Research، سازمان غیرانتفاعی که ایمنی و امنیت هوش مصنوعی را بررسی میکند، این وضعیت را «بسیار نگرانکننده» خواند. گری مارکوس، شکاک تأثیرگذار هوش مصنوعی، آن را به کنار زدن داربستی «لرزان» تشبیه کرد «پیش از آنکه چیز بهتری داشته باشیم».
سام آلتمن، مدیرعامل OpenAI، این هفته گفت درباره پیشرفتهای مدلهای هوش مصنوعی احساس دوگانگی دارد. او اعتراف کرد امنیت OpenAI در حادثه Hugging Face «شکست خورده» و آن را «یک حادثه ایمنی مشروع هوش مصنوعی و شکست همراستایی» نامید.
او در توییتی نوشت: «مدتی است که با تنش میان هیجان و اضطراب درباره پیشرفت زندگی میکنیم و برای ما هنوز ناهماهنگ است. میدانیم برای دیگران بسیار ناهماهنگتر است.»
به نظر میرسد منطق او برای عرضه قدرتمندترین مدل OpenAI اینچنین زود پس از یک بحران ایمنی این است که جهان برای درک مسیر هوش مصنوعی باید ببیند این سیستمها در دنیای واقعی چگونه عمل میکنند. او گفت: «حلقه ای iterative که در آن جامعه و این فناوری با هم تکامل مییابند، چیزی است که بیشترین شانس درست شدن این کار را رقم میزند.»
و با این حال او خطرات را میبیند. روز سهشنبه در نشست وزیران گروه ۲۰ در کارولینای شمالی آمریکا به سیاستمداران گفت: «مگر مردم با فوریت کافی عمل کنند، برخی چیزها در امنیت سایبری بسیار اشتباه پیش خواهد رفت.»
او افزود: «در پنج سال آینده چالشهای دیگری هم خواهد بود. مردم درباره امنیت زیستی و چیزهایی که در آن حوزه با آنها روبهرو خواهیم شد صحبت میکنند. چالشهای بزرگتری هنوز در راه است.»