موج پروندههای حقوقی که به‌کارگیری هوش مصنوعی در تصمیمهای استخدامی را هدف گرفته است، پرسشهای جدی درباره شیوه استخدام و اخراج کارکنان در شرکتها را دوباره برانگیخته است.
ارین کیستلر چهار سال تمام برای هزاران موقعیت شغلی در شرکتهایی مانند PayPal، Microsoft و Netflix درخواست فرستاده است، اما هر بار رزومهاش در یک چاه بی‌پاسخ محو شده است. او مدیر محصولی با نزدیک به ۲۰ سال تجربه است و باور دارد برای هر یک از آن موقعیت‌ها واجد شرایط بوده است؛ با این حال حتی یک بار هم به مرحله مصاحبه دعوت نشده است.
اکنون کیستلر در قالب یک دعوای جمعی از Eightfold AI شکایت کرده است؛ شرکت وادی سیلیکونی که نرم‌افزار استخدامی آن را صدها شرکت — از جمله همان‌هایی که او به آن‌ها درخواست داده بود — به کار می‌گیرند. این پرونده که در ژانویه در دادگاهی در کالیفرنیا ثبت شده، از نخستین دعاوی‌ای است که مدعی است غربالگری خودکار در واقع نقش یک «گزارش مصرف‌کننده» یا «پرونده محرمانه متقاضی» اعلام‌نشده را ایفا میکند؛ سیستمی که شانس موفقیت داوطلبان را امتیازدهی میکند، بی‌آنکه به آن‌ها فرصتی برای دیدن یا اعتراض به نتایج بدهد. این را تیم حقوقی کیستلر می‌گوید.
این شکایت تنها یکی از چند نبرد حقوقی تازه بر سر استفاده شرکتها از هوش مصنوعی در تصمیمهای استخدامی است. کارکنان هم‌زمان از Meta شکایت کرده‌اند؛ به ادعای آن‌ها سیستمی هوش مصنوعی داخلی در این شرکت، آن‌ها را به این دلیل که مرخصی زایمان یا مرخصی پزشکی گرفته بودند برای تعدیل نیرو هدف قرار داده است. در یک شکایت اخیر علیه IBM نیز ادعا شده که ابزارهای هوش مصنوعی این شرکت با کارکنان مسن‌تر رفتار تبعیض‌آمیز داشته‌اند.
شرکت‌های آمریکایی برای سریع‌تر و کارآمدتر کردن تصمیمهای محیط کار — اغلب با شعار عینیت و بی‌طرفی — بیش از پیش به هوش مصنوعی متکی می‌شوند. اما پژوهشگرانی که این نوع نرم‌افزارها را بررسی می‌کنند میگویند همین ابزارها می‌توانند سوگیری را به فرایند راه بدهند یا آن را تشدید کنند؛ سوگیری‌هایی که می‌توانند داوطلب را از شرکتی به شرکت دیگر همراهی کنند. قانون‌گذاران نیز این موضوع را جدی گرفته‌اند. سرنوشت این نبردهای حقوقی می‌تواند شیوه‌های استخدامی آینده، میزان شفافیت آن‌ها و میزان قدرت داوطلبان در این فرایند را شکل بدهد.
ایفوما آجونوا، استاد دانشکده حقوق دانشگاه Emory و مدیر مؤسس برنامه «هوش مصنوعی و آینده کار»، می‌گوید: «در واقع هیچ قانونی وجود ندارد که استفاده از این سیستم‌های هوش مصنوعی استخدامی را مستلزم اطلاع‌رسانی یا افشا کند. به همین دلیل شرکتها لزوماً به کارکنان نمی‌گویند که با هوش مصنوعی ارزیابی می‌شوند.»
بر اساس گزارش مجمع جهانی اقتصاد، پارسال ۹۰ درصد کارفرماها از شکلی از اتوماسیون در فرایند استخدام استفاده کرده بودند. این ابزارها طیف گسترده‌ای را پوشش می‌دهند؛ از فیلترهای ساده — مانند حذف داوطلبانی که مدرک چهار‌ساله یا پیش‌شرط دیگری ندارند — گرفته تا به‌کارگیری هوش مصنوعی برای ارزیابی مهارت‌های متقاضی و حتی اجرای نخستین مصاحبه تلفنی.
در پرونده Eightfold، شرکت خود را «بزرگ‌ترین منبع داده استعداد در جهان با به‌روزرسانی خودکار» معرفی میکند. این شرکت یک بانک اطلاعاتی داخلی را پیوسته با اطلاعات رزومه‌ها، پروفایل‌های LinkedIn و پروفایل‌های شبکه‌های اجتماعی بیش از یک میلیارد نفری که از طریق پلتفرم آن برای کار درخواست داده‌اند به‌روز نگه می‌دارد. با استفاده از این داده‌ها، هوش مصنوعی شرکت به متقاضیان در مقیاس صفر تا ۵ امتیاز می‌دهد و پیش‌بینی میکند که هر فرد در یک شغل مشخص چقدر خوب عمل خواهد کرد. در نهایت همین امتیاز است که می‌تواند برخی داوطلبان را برای مصاحبه در اولویت قرار دهد.
راچل دمپسی، وکیل کیستلر، می‌گوید: «بخش عمده مشکل این است که داوطلبان کار نمی‌دانند ... در این گزارش‌ها چه نوشته شده است.»
دمپسی استدلال میکند که داوطلبان استخدام باید همان شفافیتی را درباره آنچه در فرایند استخدام می‌گذرد داشته باشند که آمریکایی‌ها هم‌اکنون درباره گزارش‌های اعتباری خود دارند. با داشتن این اطلاعات، متقاضی می‌تواند یا نادرستی‌ها را به چالش بکشد یا برای بهبود عواملی که بر شانس استخدامش اثر می‌گذارد تلاش کند. اما به گفته او، بدون هیچ دیدی نسبت به این سیستم‌ها، تشخیص این موضوع غیرممکن است که آیا این الگوریتم‌ها به شکلی آشکار علیه داوطلبان تبعیض قائل می‌شوند یا نه. او می‌گوید: «مفهوم جعبه سیاه واقعاً ترسناک است.»
Eightfold AI در پاسخ به گاردین این اتهام‌ها را رد کرد. سخنگوی این شرکت در ایمیلی نوشت: «ما معتقدیم ادعاهای مطرح‌شده فاقد اعتبار حقوقی است و قصد داریم با قاطعیت از خود دفاع کنیم.»
در واکنش به شکایت علیه IBM، این شرکت اعلام کرد از هوش مصنوعی برای غربال و حذف خودکار داوطلبان استفاده نمی‌کند و در بیانیه‌ای گفت «هیچ‌گونه تبعیض را تأیید یا تحمل نمی‌کند». Meta نیز به درخواست برای اظهارنظر درباره شکایت مطرح‌شده علیه خود پاسخی نداد.
تولیدکنندگان نرم‌افزارهای استخدامی مدعی‌اند این ابزارها وقت مدیران استخدام را آزاد می‌کنند تا روی داوطلبان واجد شرایط تمرکز کنند و سوگیری‌های شخصی انسانی را حذف می‌کنند. اما کارشناسان با این نظر مخالف‌اند. به گفته آن‌ها، هوش مصنوعی می‌تواند سوگیری‌هایی مانند ترجیح دادن کارکنان از گروه‌های جمعیتی خاص را تشدید کند.
آجونوا می‌گوید: «هرچه تحقیقات بیشتری درباره سیستم‌های استخدام هوش مصنوعی انجام داده‌ایم، در می‌یابیم که این سیستم‌ها تمایل دارند بسیاری از همان سوگیری‌هایی را بازتولید کنند که مدیران انسانی دارند.»
تقریباً همه سیستم‌های هوش مصنوعی برای یافتن الگوها آموزش می‌بینند؛ امری که می‌تواند کلیشه‌ها یا سوگیری‌های موروثی را تقویت کند. برای مثال آمازون زمانی از ابزاری هوش مصنوعی استفاده می‌کرد که رزومه‌های زنان را پایین‌تر رتبه‌بندی می‌کرد، چون عملکرد برترین کارکنان شرکت در گذشته متعلق به مردان بود. آمازون پس از کشف این مشکل استفاده از آن را متوقف کرد. در موارد دیگری، سیستم‌های استخدامی هوش مصنوعی می‌توانند سوگیری‌های مخصوص خودشان را وارد فرایند کنند. آجونوا در تحقیقاتی برای کتابش با عنوان The Quantified Worker دریافت که هوش مصنوعی به داوطلبانی که لهجه جنوبی آمریکا داشتند امتیاز پایین می‌داد، چون در مصاحبه‌های صوتی در درک گفتار آن‌ها مشکل داشت.
اگرچه مدیران استخدام انسانی هم می‌توانند بی‌انصاف باشند — مثلاً داوطلبی را انتخاب کنند که عضو همان انجمن دانشجویی آن‌ها بوده است — به گفته شوچونزی بای، استادیار دانشگاه شیکاگو که در زمینه سوگیری استخدامی پژوهش میکند، «اندازه سوگیری [در هوش مصنوعی] حتی قوی‌تر است.»
بای در پژوهشی که اخیراً به‌صورت مشترک انجام داده، از مدل‌های هوش مصنوعی خواست تصمیمهای استخدامی درباره متقاضیانی خیالی بگیرند که به گروه‌های جمعیتی ساختگی با نام‌های Tufa، Aima، Reku و Weki تعلق داشتند. پس از چند دور تصمیم‌گیری، مدل‌های هوش مصنوعی درباره داوطلبان استنتاج‌هایی کردند که هیچ ارتباطی با صلاحیت آن‌ها نداشت و در واقع برایشان کلیشه ساختند. اگر یک عضو گروه Tufa پزشک خوبی بود، داوطلبان Tufa بیشتر احتمال داشت برای شغل پزشکی انتخاب شوند و داوطلبان Weki بیشتر احتمال داشت به‌عنوان سرایدار استخدام شوند.
این پژوهش نشان داد میزان سوگیری در هوش مصنوعی از تصمیمهای استخدامی انسانی که بای پارسال بررسی کرده بود بیشتر است. همچنین معلوم شد مدل‌های جدیدتر و پیشرفته‌تر تصمیمهای استخدامی با سوگیری بیشتری می‌گیرند.
بای می‌گوید: «از دیدن این نتیجه کاملاً شوکه شدیم.» مدل‌های هوش مصنوعی در حل مسائلی که یک راه‌حل عینی دارند، مثل ریاضی یا برنامه‌نویسی، بسیار قوی‌اند. اما به گفته او «در کاوش گزینه‌های دیگر بدتر می‌شوند. در زمینه استخدام، کاوش و جستجوی گزینه‌ها اهمیت زیادی دارد، اما این مدل‌ها برای این کار آموزش ندیده‌اند.»
پیامدهای سوگیری هوش مصنوعی برای یک متقاضی می‌تواند از یک آگهی شغلی فراتر برود. وقتی یک فرد از سوی انسانی رد میشود، می‌تواند در شرکتی دیگر با مدیر استخدامی متفاوت دوباره تلاش کند. اما وقتی فرد توسط یک سیستم الگوریتمی که بین شرکت‌های متعدد مشترک است رد میشود، آن سیستم «تصمیمی را که قبلاً گرفته به خاطر سپرده و برای صرفه‌جویی در وقت، همان را دوباره می‌گیرد»؛ این را آجونوا می‌گوید. او می‌افزاید: «در واقعیت، شما به‌صورت الگوریتمی از همه جا محروم شده‌اید.»
کتی کرل، از نویسندگان مطالعه اخیری درباره خطرات «تک‌کشتی الگوریتمی» (algorithmic monoculture) در سیستم‌های استخدامی، می‌گوید چون شرکت‌های زیادی از نرم‌افزارهای استخدامی مبتنی بر همان مدل‌های پایه هوش مصنوعی استفاده می‌کنند، نگرانی این است که یک نشان منفی می‌تواند یافتن شغل را برای داوطلب به‌طرز چشمگیری سخت‌تر کند. به گفته او «مردم بیشتر از گذشته از دسترسی به مشاغل محروم خواهند شد.»
Eightfold AI درباره این موضوع اظهارنظری نکرد.
ایمان ابوزید، مدیرعامل شرکت Incredible Health — پلتفرم استخدام هوش مصنوعی که بیش از ۱۵۰۰ کارفرمای حوزه سلامت از آن استفاده می‌کنند — می‌گوید هرچند ابزارهای هوش مصنوعی ممکن است صرفه‌جویی در وقت یا سنجش مهارت داوطلبان را ممکن کنند، مدیران استخدام نباید اجازه دهند هوش مصنوعی خودش تصمیم بگیرد. این شرکت عاملی هوش مصنوعی برای انجام مصاحبه‌های تلفنی ارائه میکند، اما به گفته ابوزید، این هوش مصنوعی هیچ‌کس را خودکار رد نمی‌کند، امتیاز نمی‌دهد، رتبه‌بندی نمی‌کند و تصمیم نمی‌گیرد چه کسی به مرحله بعد برود.
ابوزید می‌گوید: «مسئله جمع‌آوری اطلاعات از داوطلبان است تا انسان برای تصمیم‌گیری مسلح‌تر به اطلاعات باشد.»
او همچنین گفت حدود ۱۰ درصد از مصاحبه‌های هوش مصنوعی این شرکت برای بررسی سوگیری توسط انسان ممیزی میشود؛ فرایندی که در شمار فزاینده‌ای از شهرها و ایالت‌ها به الزام قانونی تبدیل میشود.
در شهر نیویورک قانونی که از سال ۲۰۲۳ لازم‌الاجرا شده، کارفرمایانی که در استخدام از سیستم‌های خودکار استفاده می‌کنند ملزم به ممیزی سالانه سوگیری و اطلاع‌رسانی قبلی به داوطلبان درباره استفاده از این فناوری میکند. اما این قانون فقط نرم‌افزارهایی را در بر می‌گیرد که تصمیم‌گیری را «به‌طور اساسی یاری» می‌کنند یا جایگزین آن می‌شوند و برای مواردی که انسان بخشی از فرایند است، حفره‌ای قانونی باقی گذاشته است. قوانین اخیر ایالت‌های ایلینوی و کلرادو نیز استفاده کارفرمایان از ابزارهای هوش مصنوعی که به تبعیض غیرقانونی بینجامد را ممنوع کرده‌اند.
مقررات شهرها و ایالت‌ها به‌طور فزاینده‌ای در پی آن‌اند که اطلاع‌رسانی به متقاضیان کار درباره استفاده از هوش مصنوعی را به یک الزام پایه تبدیل کنند. اما به گفته جنی یانگ، شریک شرکت حقوقی Outten & Golden — نماینده حقوقی شاکیان در پرونده علیه Eightfold AI — در حالت مطلوب، داوطلبان باید شفافیت کامل درباره محتوای «پرونده الگوریتمی» خود داشته باشند.
یانگ درباره اطلاع‌رسانی از استفاده هوش مصنوعی می‌گوید: «این شفافیت اولیه به شناسایی بهتر جاهایی که ممکن است مشکل وجود داشته باشد کمک میکند.» به گفته او «نگرانی فزاینده‌ای میان کارکنان وجود دارد که شاید به دلایلی که هیچ‌کس نمی‌فهمد از فرصت‌ها محروم شوند.»