آخر هفته گذشته، مدیرعامل OpenAI یعنی سم آلتمن، مدیرعامل آنتروپیک داریو آمودی، یکی از بنیانگذاران دیپمایند دمیس هاسابیس و مدیر اسپیسایکس ایلان ماسک بهطور غیررسمی بر سر کندکردن روند توسعه هوش مصنوعی به توافق رسیدند. شکاکان بلافاصله به دنبال انگیزهای پنهان گشتند. این غولهای هوش مصنوعی اعلام کرده بودند که هدفشان «کنترل سرعت پیشرفت» (pacing the frontier) است و دستکم بخشی از پیشنهادی را امضا کردند که در آن از حضور حسابرسان شخص ثالث، قانونگذاری بر آزمایشگاههای داخلی و رسیدن به توافقی جهانی برای کاهش سرعت توسعه حمایت میشود. اما منتقدان استدلال کردند که آنها صرفاً میخواهند رقبای بالقوه را متوقف کنند، به جنبش متنباز ضربه بزنند و از محافظتهای قانونی واقعی فرار کنند؛ برخی هم این توافق را صراحتاً «کارتل» نامیدند.
به گفته منابع مختلف در صنعت، اما حقیقت پیچیدهتر از اینهاست. پیشنهاد سهمرحلهای که در مقاله آمودی آمده، خواستههایی را مطرح میکند که سالهاست طرفداران ایمنی هوش مصنوعی از آن حمایت میکنند. هرچند این پیشنهاد ممکن است جایگزین قانونگذاری شود، در دوران ترامپ، قانونگذاری گسترده در هر حال بعید به نظر میرسد. با این حال کارشناسان میگویند در موضوعی که فقط اهمیتش بیشتر خواهد شد، رهبران شرکتهای هوش مصنوعی بهترین افراد برای هدایت این جریان نیستند.
«کل صنعت به قهرمانهای جدیدی نیاز دارد»، این را نیک ریس، استاد مدعو دانشگاه نیویورک و مدیر سابق سیاست فناوریهای نوظهور در وزارت امنیت داخلی آمریکا میگوید. او ادامه میدهد: «ما به آدمهایی مثل داریو آمودی، سم آلتمن و ایلان ماسک به چشم کسانی نگاه کردهایم که به مشکل نزدیکتریناند و هر روز روی آن کار میکنند و بهتر از همه میدانند. اما حقیقت این است که هرگز چشماندازی واقعبینانه از آنچه میسازیم وجود نداشته است.»
نگرانی درباره پیشرفت هوش مصنوعی ماههاست که بالا گرفته؛ جرقه اصلی آن افشاگریهایی بود که نشان میداد دستههایی از عاملهای هوشمند (agent) پشت هکهای سرکشی بودهاند که درست زیر چشم آزمایشگاههای پیشرو یعنی آنتروپیک و OpenAI رخ دادهاند. گزارشهای هر دو شرکت آتش این بحث را شعلهورتر کرد؛ استعفای پژوهشگر آنتروپیک، جیکوب کاکسون، هم مزید بر علت شد؛ او نامهای عمومی منتشر کرد و تصمیم خود را توضیح داد: «کسانی که هوش مصنوعی میسازند صادقانه باور دارند که این فناوری میتواند تا پایان دهه همه ما را بکشد» و افزود که نه OpenAI و نه آنتروپیک «مسئولانه رفتار نمیکنند» بلکه «مستقیماً به سمت ابرهوش خودبهبودشونده میدوند و با زندگی ما قمار میکنند.»
هشدارهای جدی درباره هوش مصنوعی در داخل صنعت موضوع تازهای نیست، اما به نظر میرسد نامه کاکسون از قالب بیرون زد. فقط در شبکه ایکس بیش از ۱۷۰ میلیون بار دیده شده و خود او و ماجرایش در روزنامهها و تلویزیونها چرخیده است.
با این حال، برای بخش قابل توجهی از پژوهشگران ایمنی هوش مصنوعی و کارکنان سازمانهای غیرانتفاعی این حوزه، این نامه صرفاً توجه بیشتری به موضوعی جلب کرده که پیشتر بهطور گسترده مورد بحث بود. دنیل کوکوتایلو، کارمند سابق OpenAI که حالا پروژه AI Futures را اداره میکند، میگوید: «خیلیها فکر میکنند این ایده داریو است یا از مدیران اجرایی آمده، اما این نادرست است. آدمهای بیرون از شرکتها سالهاست این خواسته را مطرح میکنند... گروه روزافزونی از صداها وجود داشته که میگفتند: لطفاً همین زود ابرهوش نسازید. ما آماده نیستیم. باید سرعت را کم کنید.»
کوکوتایلو میگوید پس از سالها «فریاد زدن» مردم برای این کار — از جمله امضای نامه سرگشاده بیش از هزار کارمند آزمایشگاههای هوش مصنوعی در ماه ژوئیه که پس از حادثه OpenAI و Hugging Face خواستار کاهش سرعت توسعه شده بودند — حالا مدیران اجرایی «زیر این فشار خم شدهاند و در حالی که واقعاً مستحقش نیستند، اعتبارش را هم به نام خود میزنند.»
در مجموع، چند منبع به The Verge گفتند که معتقدند توافق شفاهی رهبران هوش مصنوعی گامی در مسیر درست است. ریس از دانشگاه نیویورک میگوید «فکر نمیکنم همهاش حرف پوچ باشد.» ماریوس هوبهان، مدیرعامل Apollo Research آن را «ایده خوبی» خواند و گفت «اگر واقعاً اتفاق بیفتد، یکی از بهترین اتفاقها برای ایمنی در مدتی طولانی است.» تایلر جانستون از پروژه Midas آن را «نشانه خوبی» دانست و باک شلگریس، مدیرعامل Redwood Research هم گفت «خبر عالیای است — البته سخت است بدانیم آیا به چیز واقعی تبدیل میشود یا نه، اما من محتاطانه خوشبینم.» همه اما توافق داشتند که برای تبدیل این تعهد شفاهی به واقعیت، بهویژه برای محکمکردن آن به شکل یک توافق ناگسستنی، کار زیادی باقی است.
بسیاری همچنان انگیزه رهبران هوش مصنوعی را زیر سؤال میبرند. صنعت بزرگ فناوری سالهاست که با لابیگری برای قوانین مورد علاقه خود یا وعده خودتنظیمی، جلوتر از قانونگذاری حرکت میکند. پلتفرمهای بزرگ سیاستهایی پیشنهاد کردهاند که میتواند رقبای کوچکتر را سختتر ضربه بزند و با زبان نوعدوستانه اهداف خودخواهانه را توجیه کردهاند. آنها به «شستشوی ایمنی» (safety-washing) متهم شدهاند؛ یعنی انجام تغییرات بیمعنا که تصور نادرستی از وجود محافظتهای واقعی میدهد. جای تعجب نیست که مردم نگرانند همین اتفاق در صنعت هوش مصنوعی هم بیفتد، بهویژه که چارچوبهای ایمنی داوطلبانه آزمایشگاهها سالهاست مورد انتقاد بوده.
چند منبع معتقدند نگرانی از شستشوی ایمنی موجه است. کوکوتایلو میگوید: «نگرانی جدی این است که آنها واقعاً سرعت را کم نکنند» و میافزاید این ترس وجود دارد که «فقط چند حسابرس بیرونی بیاورند، یک عالمه کاغذبازی ایمنی انجام دهند — که بخشی از آن واقعاً خوب خواهد بود — اما در پایان روز، اصلاً چندان هم کند نشوند.»
ریس این مانور را با نقشه پلتفرمهای شبکه اجتماعی در دهه قبل مقایسه کرد؛ آن زمان شرکتها برای جلو افتادن از قوانین نامطلوبتری که در راه بود، خودشان خواستار اقدام نظارتی شدند. ریس درباره صنعت هوش مصنوعی میگوید: «ممکن است در این دولت چکش نیاید، اما اگر بعد از انتخابات بعدی دولت دموکرات سر کار بیاید، احتمال خیلی خوبی وجود دارد.»
ساشا هاوورث، مدیر اجرایی پروژه Tech Oversight میگوید چنین قانونگذاری حیاتی خواهد بود. به گفته او هر چارچوب داوطلبانه عملاً تسخیر نظارتی است و «نباید بگذاریم روباهها نگهبان مرغدانی شوند. این فرصتی نیست که کنگره باز هم مسئولیت را به صنعت واگذار کند.» دنیل لوبو-لوئیس، همبنیانگذار پروژه یکپارچگی سیاسی (Political Integrity Project) هم پیشبینی کرد سرنوشت خودتنظیمی، همان سرنوشت هیئت نظارتی عمدتاً بیدندان متا خواهد بود.
با این حال بیشتر مردم هم باور دارند شرکتها در خطر قریبالوقوع قانونگذاری نیستند، بهجز دورههای بازبینی پیش از انتشار مدل که آزمایشگاهها زیر نظر دولت ترامپ پذیرفتهاند. رئیسجمهور ترامپ دوشنبه نوشت: «تنها کنترل یا حفاظی که هوش مصنوعی نیاز دارد یک رئیسجمهور قوی و باهوش (با ضریب هوشی بالا!) است و آمریکا این را در حد وفور دارد!» او همچنین وقتی جنسن هوانگ روی صحنه کنفرانسی بود با او تماس گرفت و به جمعیت گفت نگرانیهای اخیر درباره هوش مصنوعی «حقه» است و «رباتها قرار نیست قدرت را بگیرند.»
در مورد نگرانی از اینکه قانونگذاری بتواند شرکتهای دیگر یا توسعهدهندگان متنباز را عقب نگه دارد، بسیاری از کارشناسان صنعت به The Verge گفتند درخواستها برای کاهش سرعت تقریباً منحصراً متوجه آزمایشگاههای بزرگ پیشرو بوده که با معیارهای دقیق اندازه تعریف میشوند.
از آنجا که قانونگذاری دولتی هوش مصنوعی در راه نیست، بهترین گزینه ممکن است واداشتن شرکتها به توافقی فوری، قابل اندازهگیری و قابل اجرا باشد. مثلاً پروژه AI Futures کوکوتایلو پیشنهاد کرده آزمایشگاهها به حسابرسان اجازه دسترسی به بودجه محاسباتیشان را بدهند و متعهد شوند بودجه محاسباتی پژوهش را بهطور جدی کاهش دهند؛ این کار پیشرفت هوش مصنوعی را کند میکند و به بقیه آزمایشگاهها فرصت رسیدن میدهد. (مقاله آمودی هم از آزمایشگاهها خواسته اجازه دهند حسابرسان مستقل بیرونی — مثل METR، Apollo و Redwood Research — تا حدی در سازمانهایشان مستقر شوند و بتوانند یافتههای مشکلساز را علامتگذاری و افشا کنند.)
اگر بخواهیم بزرگترین مانع کاهش سرعت هوش مصنوعی را در یک کلمه خلاصه کنیم، آن کلمه چین است. رهبران هوش مصنوعی و سیاستمداران سالهاست چین را دلیل کندنکردن پیشرفت هوش مصنوعی آمریکا معرفی میکنند؛ چون مهم نیست فناوری چقدر خطرناک شود، ترجیح میدهند دست آمریکا باشد نه چین، و چین هم قرار نیست ترمز بگیرد. لوبو-لوئیس ترس از چین را با شکاف موشکی جنگ سرد مقایسه کرد. یکی از کاربران ایکس نوشت: «اگر قرار است به دست هوش مصنوعی قاتل بمیرم، میخواهم آمریکایی باشد نه چینی.»
شلگریس از Redwood Research گفت نه به نفع دولت آمریکاست و نه دولت چین که توسعه هوش مصنوعی را «بیپروا» دنبال کنند و افزود «این سطح بیسابقهای از هماهنگی بینالمللی نخواهد بود.» جانستون هم گفت: «مردم بدیهی میگیرند که چین همکاری نمیکند... این موضوع آنقدر جدی و گسترده است که هماهنگی روی آن به نفع همه به نظر میرسد، همانطور که هماهنگی بر سر منع اشاعه هستهای به نفع آمریکا و روسیه بود.» دوشنبه سخنگوی وزارت خارجه چین، گو جیاکون، در واکنش به درخواستها برای کاهش سرعت آن را «هولسازی» خواند.
جانستون و شلگریس هر دو گفتند حتی بدون همکاری چین هم تشویق هماهنگی در آمریکا حیاتی است. برای هاوورث از Tech Oversight، کاهش سرعت فرصتی است تا «خود را به عنوان قطبنمای توسعه و استفاده از فناوری هوش مصنوعی معرفی کنیم.» او استدلالهای مخالف را بخشی از یک نقشه آشنا میداند: «هر بار صنعتی میخواهد از نظارت فرار کند، چین را به عنوان هیولای زیر تخت معرفی میکنند.» کوکوتایلو هم وضعیت را با کاریکاتوری مقایسه کرد که در آن مردم سوار بر ماشینی در حال پرتشدن از صخرهاند و حباب گفتارش چیزی شبیه «هورا، ما از چین جلوتریم» است.
مسئله بنیادینی که زیر همه این وحشتهای اخیر خوابیده، نقطه عطفی است به نام خودبهبودی بازگشتی (recursive self-improvement یا RSI). بر اساس مسیر فعلی صنعت، ما فقط شروع زنگهای هشدار را میشنویم. RSI به نقطه عطف بالقوهای در صنعت اشاره دارد که در آن مدلهای هوش مصنوعی میتوانند خودشان را — بدون دخالت انسان — آموزش دهند، پیشرفت کنند و نسخههای جدیدی از خود بسازند. آنتروپیک گفته این نقطه میتواند همین اوایل ۲۰۲۷ بیاید و دانشمند ارشد OpenAI هم اوایل این ماه نوشت که این شرکت منابع زیادی را صرف رسیدن به این هدف میکند. مهندسان و پژوهشگران صنعت هوش مصنوعی بهطور فزایندهای نگرانند که RSI پیشدرآمدی برای مجموعهای از نگرانیهای جدید و جدیتر باشد، از جمله حوادث شدیدتر امنیت سایبری که عمیقتر جامعه را تحت تأثیر قرار میدهند.
آمودی RSI را عامل اصلی تصمیم خود برای درخواست کاهش سرعت معرفی کرد: «از حدود تابستان امسال، هوش مصنوعی با سرعت بسیار بیشتری پیش میرود.» او در مقاله اخیرش نوشت RSI «در سراسر صنعت، از جمله در آنتروپیک، در حال شروع شدن است... اگر کنترل نشود، ممکن است از توان ما برای درک و کنترل این سیستمها سبقت بگیرد و بنابراین باید خیلی بااحتیاط دنبال شود، اگر اصلاً دنبال شود.» آمودی اجرای «نوعی محدودیت سرعت» بر نرخ RSI را پیشنهاد کرد و آن را با سقفگذاری بر تعداد موشکها مقایسه کرد.