داریو آمودی (Dario Amodei)، مدیرعامل شرکت هوش مصنوعی آنتروپیک (Anthropic)، روز شنبه در درخواستی تازه از صنعت هوش مصنوعی خواست «سرعت خود را کم کند» و برای این کار طرحی سهبخشی ارائه داد و اعلام کرد شرکتش بهصورت «یکجانبه» اولین گام این طرح را اجرا خواهد کرد.
آمودی در پستی در شبکه اجتماعی، لینک مقالهای با عنوان «باید سرعت مرزهای هوش مصنوعی را کم کنیم» (We Must Pace the Frontier) را به اشتراک گذاشت و در آن توضیح داد که آنتروپیک چگونه «دسترسی دائمی در سطح کارمندان را به ارزیابان مستقل ثالث برای سیستمهایش فراهم میکند تا آنها بتوانند پایبندی به اقدامات ایمنی را تأیید کنند، درباره حوادث گزارش دهند و همترازی مدلها را در طول آموزش ارزیابی کنند».
این اقدام پس از هشدار روز چهارشنبه یک پژوهشگر سابق آنتروپیک صورت گرفت که گفته بود هوش مصنوعی میتواند تا سال ۲۰۳۰ انقراض بشر را رقم بزند. جیکوب کاکسون (Jacob Coxon)، پژوهشگر سابق، در مجموعهای از پستها گفت از شغل خود استعفا داده است؛ چون آنتروپیک و کارفرمای قبلیاش OpenAI پاسخگویی مناسبی به تهدید هوش مصنوعی نشان نمیدهند.
کاکسون نوشت: «هیچکدام از این دو شرکت مسئولانه عمل نمیکنند. آنها مستقیم به سمت هوش مصنوعی فوقهوشمند خودبهبودشونده میدوند و با جان ما قمار میکنند. افرادی که هوش مصنوعی میسازند صادقانه معتقدند که میتواند تا پایان این دهه همه ما را بکشد. هیچ فعالیت انسانی دیگری این سطح از خطر را ندارد.»
سخنگوی آنتروپیک در بیانیهای به گاردین گفت این شرکت «همیشه شفاف بوده که هوش مصنوعی هم مزایای عظیم و هم خطرات بیسابقهای به همراه خواهد آورد» و در حال ساخت «مدلهایی با برخی از قویترین محافظها در صنعت» است.
سم آلتمن، مدیرعامل OpenAI نیز در شبکه اجتماعی نوشت: «من با داریو موافقم که باید سرعت پیشرفت مرزها را کنترل کنیم. متعهد شدن به داشتن ارزیابان مستقل با دسترسی همسطح کارمندان برای تأیید اقدامات ایمنی، گام مهم و درستی است.»
گام دوم طرح آمودی، هماهنگی در سطح کل صنعت و گام سوم، هماهنگی در سطح جهانی است. او نوشت: «لازم نیست این مراحل دقیقاً به ترتیب انجام شوند و برخی از آنها بسیار سختتر از بقیه خواهند بود.»
آمودی گفت همچنان «باور دارد هوش مصنوعی میتواند کیفیت زندگی بشر را بهطور عظیمی بهبود بخشد»، اما هشدار داد: «اقداماتی که برای پیشبرد مرزها با سرعتی ایمن پیشنهاد میکنم آسان نخواهند بود؛ اما باور دارم ما به بشریت مدیونیم که تلاش کنیم.»