در چهار سال گذشته، ارین کیستلر برای هزاران شغل در شرکتهایی مانند پیپال، مایکروسافت و نتفلیکس درخواست داده است، اما بارها با این واقعیت تلخ روبهرو شده که رزومهاش در سیاهی سامانههای استخدامی ناپدید میشود. او مانند هزاران متقاضی دیگر، قربانی فرایندهایی است که شرکتها بهطور فزایندهای به ابزارهای هوش مصنوعی برای غربال کردن متقاضیان میسپارند؛ ابزارهایی که شفافیت عملکردشان بسیار کم است.
اکنون موجی از پروندههای قضایی درباره تبعیض و پنهانکاری در استخدام خودکار شکل گرفته است. دادگاهها و نهادهای نظارتی بهتدریج میپرسند که آیا این الگوریتمها بر اساس معیارهای عادلانه تصمیم میگیرند یا الگوهای تبعیض آمیز را بازتولید میکنند. مسائل متقاضیان عمدتاً حول دو نگرانی است: نبود توضیح درباره دلیل رد شدن، و نبودن امکان پیگیری انسانی در فرایند.
در سمت دیگر، شرکتها استدلال میکنند که این ابزارها سرعت و کارایی جذب استعداد را بالا میبرند و هزینهها را کاهش میدهند. اما منتقدان میگویند اتکای بیضابطه به ماشینها، بدون نظارت انسانی، میتواند افراد واجد شرایط را نادیده بگیرد و بر اساس دادههای جانبدارانه گذشته تصمیم بگیرد.
کارشناسان حقوقی هشدار میدهند که بدون شفافیت درباره نحوه کار این سیستمها و امکان اعتراض انسانی، اعتماد عمومی به استخدام خودکار از بین میرود. این پروندهها میتواند به تدوین مقرراتی در اروپا و آمریکا منجر شود که برندها و کارفرمایان را وادار کند درباره الگوریتمهای استخدامی خود پاسخگو باشند و در نهایت فرایند جذب نیرو را عادلانهتر کنند.