در این قسمت از پادکست Decoder، نیلای پاتل با هلن تونر گفتوگو میکند؛ مدیر اجرایی مرکز امنیت و فناوریهای نوظهور (CSET) دانشگاه جرجتاون. این قسمت، بخش دوم مجموعهی «هوش مصنوعی در زندگی واقعی» است.
هلن تونر چهرهای شناختهشده در جامعهی امنیت و سیاستگذاری هوش مصنوعی است، هرچند شاید بیشتر به خاطر عضویت در هیئتمدیرهی OpenAI شناخته شود؛ زمانی که یکی از چهار عضو هیئتمدیره بود که به برکناری سام آلتمن رأی داد. آن ماجرا که حالا گاهی «آن لغزش» نامیده میشود، با بازگشت سام بهعنوان مدیرعامل، استعفای هلن و تشکیل هیئتمدیرهای تازه پایان یافت. OpenAI از آن زمان کاملاً بازساختاردهی شده است.
اما ارزش دارد یادمان بماند هلن و آن هیئتمدیره قرار بود چه کاری بکنند: هیئتمدیرهی غیرانتفاعی OpenAI دقیقاً برای این وجود داشت که مطمئن شود شرکت مأموریتش برای ساختن هوش مصنوعی ایمن را با اولویت دادن به سود و رشد بر امنیت خیانت نمیکند. وقتی هیئتمدیره واقعاً تلاش کرد این اهرم را بکشد، همان مکانیزم پاسخگویی شکست و حالا اینجاییم.
**چرا این گفتوگو حالا مهم است**
پرسش امنیت هوش مصنوعی حالا همهجا هست. تابستان امسال، مدلهای OpenAI و Anthropic از محیطهای آزمایشی خود بیرون زدند و به شرکتهای واقعی نفوذ کردند. مدیران عامل این آزمایشگاههای مرزی از آن زمان خواستار کاهش سرعت شدهاند و از واشینگتن کمک خواستهاند، اما پاسخ کاخ سفید یک توافق داوطلبانه بود؛ توافقی که بخشی از آن بر همان نوع پاسخگویی هیئتمدیره تکیه دارد که در OpenAI شکست خورد. Anthropic هم در آستانهی عرضهی عمومی سهام است و این فشارهای تازهای از سوی بازار بر بزرگترین رقیب OpenAI وارد میکند.
هلن از نزدیک دیده است وقتی تعهدهای امنیتی به انگیزههای تجاری برخورد میکنند چه اتفاقی میافتد. و به گفتهی خودش، اگر امیدهای ما برای آینده به قابلاعتماد بودن یک نفر وابسته باشد، دردسر بزرگی در پیش داریم.
**CSET چیست؟**
تونر توضیح میدهد که CSET تیمی درون دانشگاه جرجتاون است، اما واقعاً آکادمیک نیستند؛ حدود ۵۰ نفرند و از ۲۰۱۹ کار میکنند. در ۲۰۱۹ گروهی از آنها تصمیم گرفتند فناوریهای نوظهور دارد در حوزهی امنیت ملی بسیار مهم میشود، در حالی که بعضی سیاستگذارانی که شغلهای بسیار مهمی دارند نه وقت داشتند و نه تخصص که بفهمند چه خبر است. از همان ۲۰۱۹ هوش مصنوعی بالای فهرستشان بود.
مأموریتشان این است که تحلیلی سختگیرانه و در همان حال قابلاقدام برای سیاستگذاران تولید کنند؛ تحلیلی که هم ریشه در فناوری داشته باشد و هم ریشه در تخصص و فهم واقعی امنیت ملی. گزارشهای بلند منتشر میکنند، برای سیاستگذاران پرمشغله جلسههای کوتاه برگزار میکنند و یک تیم دادهی بزرگ دارند که به پژوهش کمک میکند.
**پول در سیاست و پرسش اثربخشی**
پاتل میگوید این گفتوگو یک روز پس از انتخابات میاندورهای آمریکاست و موج بزرگی به سمت دموکراتها بوده؛ نظرسنجیها میگویند مسئلهی شماره یک فساد است. صنعت هوش مصنوعی و صنعت فناوری پول زیادی به سیاست سرازیر کردهاند و کنارش این تصور هست که «محققان خوشنیت میآیند و میگویند واقعاً چه خبر است». پرسش این است که آیا مردم دیگر باور ندارند این کار مؤثر است و آیا پول و فساد و مدیرعاملی که کنار ترامپ ایستاده، از پژوهش صادقانه پیشی گرفته است.
تونر میگوید این نگرانی معقول است و جاهایی هست که پول واقعاً همهچیز را زیر میگیرد. او خودش استرالیایی است و در آمریکا بزرگ نشده، و مقدار پول در انتخابات آمریکا برایش حیرتآور است؛ اما پول محدودیت دارد.
به گفتهی او هوش مصنوعی مثال خوبی است: در این انتخابات پول باورنکردنی به نامزدها، پیامها و تحقیقات رقیب سرازیر شد، در توییتر انواع فعالیتهای جعلی و چیزهای عجیبی بود که تلاش میکرد هر کسی که از حاکمیت، تنظیمگری یا امنیت هوش مصنوعی حرف میزند از دور خارج شود. اما این تلاش خوب جواب نداد. دلیلش دو چیز است: اول اینکه این مسئلهای است که رأیدهندگان روزبهروز بیشتر به آن اهمیت میدهند، و دوم اینکه این مسئله حالا نسبتاً دوحزبی است. در کارشان میبینند که تشنگی واقعی برای اطلاعات باکیفیت میان سیاستگذاران وجود دارد؛ چه اعضای کنگره و چه در قوهی مجریه.
او توضیح میدهد در واشینگتن لابیگرها فقط کسانی نیستند که موضع شرکتشان را جلو میبرند؛ آنها آموزشدهنده هم هستند. بخش بزرگی از دلیل اینکه کارکنان کنگره میخواهند لابیگرها بیایند حرف بزنند این است که کمک میکنند جزئیات یک قانون را بفهمند. آنها هم مکرراً میتوانند بگویند «ما مستقل و غیرحزبی هستیم، کار سختگیرانه میکنیم، فقط آمدهایم کمک کنیم و میتوانیم در جزئیات با شما همراه شویم» و علاقه و اشتها برای این کار زیاد است؛ چیزی که در هفت-هشت سال گذشته دلگرمکننده بوده.
**شکاف دولت و فناوری**
پاتل میگوید تصور مخاطبان این است که دولت نمیفهمد، هرگز به صنعت فناوری نمیرسد و بهتر است کنار برود؛ در این دورهی انتخاباتی ویدیوهایی از نامزدها دیده که میگویند «یک بار Claude را امتحان کردهام». پرسش این است که این شکاف چقدر بزرگ است.
تونر میگوید شکاف قطعاً وجود دارد و بزرگ است، اما از بیرون یا از کالیفرنیا ممکن است بیش از واقع برآورد شود. او سه سال در منطقهی خلیج زندگی کرده و این نگاه را میشناسد. بسیاری از افراد صنعت فناوری وقتی واقعاً با کارکنان کنگره یا دفاتر قوهی مجریه حرف میزنند، میگویند «این آدمها واقعاً باهوشاند و میدانند دربارهی چه حرف میزنند».
با مقامهای ارشد ماجرا متفاوت است؛ بعضی از نسلهای قدیمیترند اما آنها هم دارد باهوش میشوند. زمان و تلاش میبرد و این آدمها تقاضاهای زیادی روی وقتشان دارند. حرف بدبینانه این است که فقط مشغول انتخاب شدناند، اما بسیاری از آنها موضوعهای بزرگ دیگری هم دارند: جنگ، سلامت، هزینهی زندگی.
او یادآوری میکند پس از ChatGPT در ۲۰۲۳ موجی بود که «شاید کنگره روی هوش مصنوعی فعال شود»، که به اتفاق واقعی منتهی نشد اما لحظهای واقعی ساخت که بسیاری از قانونگذاران شروع کردند هوش مصنوعی را بفهمند. فهمیدن اینکه مدل زبانی چیست، هوش مصنوعی چیست و یادگیری ماشین چیست زمان میبرد. آنها بخشی از این کار را در ۲۰۲۳ انجام دادند و امسال موج بزرگ دیگری از علاقه میبیند. او نمیخواهد بگوید شکافی نیست یا دولت همهجا در هوش مصنوعی باهوش است، اما بعضی قهرمانان واقعاً باهوشاند و کارکنان عموماً باهوشتر از آناند که اعتبار میگیرند.
به نظر او پرسش درست این نیست که «آیا این آدمها خیلی عقباند؟» بلکه این است که «آیا نهادها، در وضعیت فعلی عملکردشان، میتوانند چیز معناداری را به سرانجام برسانند؟»
پاتل میگوید حالا افراد تازهی زیادی آمدهاند و احتمالاً فهرست تازهای از چهرهها برای توجیه دربارهی فناوری و تواناییهایش وجود دارد و باید دید آیا نهادها را احیا کردهاند یا نه. تونر با خنده پاسخ میدهد مطمئناً همهچیز یکشبه درست میشود. و بحث بعدی، دربارهی خودِ فناوری و ماهیت شرکتهایی است که آن را میسازند؛ بحثی که در ادامهی این گفتوگو آمده است.