وقتی هوش مصنوعی استخدام را تبعیضآمیز میکند.
پرونده وورکدی؛ درسهایی برای بازار کار ایران
مردی که ۱۰۰ بار رد شد
دِرِک مابلی، یک مرد ۴۰ ساله آفریقاییآمریکایی، از اختلالات اضطراب و افسردگی رنج میبرد.
او از طریق پلتفرم وورکدی (Workday)، یکی از بزرگترین ارائهدهندگان نرمافزار منابع انسانی در جهان، برای بیش از ۱۰۰ موقعیت شغلی در شرکتهای مختلف اقدام کرد. تقریباً تمام درخواستهای او، اغلب تنها چند ساعت پس از ارسال، رد شدند. مابلی به این نتیجه رسید که تقصیر از او نیست. تقصیر از الگوریتمی است که رزومهها را غربال میکند.
«پرونده وورکدی؛ وقتی یک سیاهپوست ۴۰ ساله ۱۰۰ بار رد شد. دادگاه آمریکا حکم داد: ارائهدهنده الگوریتم استخدام هم مسئول تبعیض است. این حکم چه پیامی برای بازار کار ایران دارد؟»
در فوریه ۲۰۲۳، او یک دعوای حقوقی جمعی علیه وورکدی تنظیم کرد.
ادعای او ساده بود: ابزارهای غربالگری مبتنی بر هوش مصنوعی وورکدی، داوطلبان کار را بر اساس نژاد، سن، ناتوانی و جنسیت به طور ناعادلانه حذف میکنند. او به نمایندگی از خود و هزاران داوطلبِ دیگری که ممکن است قربانی همین الگوریتم شده باشند، شکایت کرد.پرونده مابلی علیه وورکدی، اولین و بزرگترین دعوای حقوقی از نوع خود محسوب میشود. این پرونده که از ۲۰۲۳ آغاز شده و تا ۲۰۲۶ گسترش یافته، به یک «آزمون تاریخی» برای نحوه اعمال قوانین ضدتبعیض در عصر هوش مصنوعی تبدیل شده است. و در ژوئن ۲۰۲۶، قاضی فدرال ریتا لین در سانفرانسیسکو رأی داد که پرونده باید پیش برود، و وورکدی نمیتواند از زیر بار مسئولیت شانه خالی کند.
«دِرِک مابلی، مردی ۴۰ ساله و سیاهپوست، از طریق پلتفرم وورکدی برای بیش از ۱۰۰ موقعیت شغلی اقدام کرد. همه آنها، اغلب تنها چند ساعت پس از ارسال درخواست، رد شدند. او به دادگاه رفت و ادعا کرد که الگوریتم هوش مصنوعی وورکدی، او را بر اساس نژاد، سن و ناتوانی حذف کرده است. پس از سه سال نبرد حقوقی، در ژوئن ۲۰۲۶، قاضی فدرال کالیفرنیا رأی داد که پرونده باید پیش برود. این حکم، زنگ خطری برای تمام کسبوکارهایی است که از هوش مصنوعی در استخدام استفاده میکنند، از سیلیکون ولی تا خیابانهای تهران.»
این حکم، فقط یک خبر حقوقی از آمریکا نیست. برای بازار کار ایران، که به تازگی استفاده از ابزارهای هوش مصنوعی در فرایند استخدام در آن رو به گسترش است، این پرونده میتواند یک هشدار جدی و یک نقشه راه باشد.
بعد حقوقی: وورکدی چه کرد و دادگاه چه گفت؟
در قلب این پرونده، یک سؤال حقوقی اساسی قرار دارد: آیا یک ارائهدهنده نرمافزار هوش مصنوعی میتواند به خاطر تبعیضی که الگوریتمهایش ایجاد میکنند، مستقیماً مسئول شناخته شود؟
شاکیان ادعا کردند که ابزارهای هوش مصنوعی وورکدی، که برای ارزیابی، رتبهبندی و در برخی موارد رد خودکار داوطلبان استفاده میشوند، تأثیرات نابرابری (disparate impact) بر گروههای تحت حمایت قانون داشتهاند: کارگران مسنتر، افراد دارای معلولیت، و گروههای نژادی خاص.وورکدی در دفاع خود استدلال کرد که قوانین ضدتبعیض کالیفرنیا نباید در مورد افرادی اعمال شود که خارج از کالیفرنیا ساکن هستند و برای مشاغلی در خارج از این ایالت اقدام میکنند. همچنین این شرکت تأکید کرد که ابزارهای استخدامی هوش مصنوعی آن «تصمیمات استخدامی نمیگیرند» و صرفاً به کارفرمایان در غربالگری کمک میکنند.اما قاضی ریتا لین با این استدلالها موافقت نکرد. او در رأی ژوئن ۲۰۲۶ خود اعلام کرد که چون وورکدی ابزارهای غربالگری الگوریتمی خود را از دفتر مرکزیاش در کالیفرنیا طراحی، توسعه و اجرا میکند، ارتباط کافی با این ایالت برای اعمال قوانین ضدتبعیض کالیفرنیا وجود دارد. قاضی همچنین تأکید کرد که شرکتهایی که از طرف کارفرمایان عمل میکنند، میتوانند مستقیماً تحت قوانین استخدامی مسئول شناخته شوند.
به عبارت دیگر، دادگاه تشخیص داد که تفکیک بین تصمیمگیرنده انسانی و نرمافزاری، قوانین ضدتبعیض را در عصر مدرن بیمعنا میکند.
اهمیت این رأی فراتر از خود پرونده است. همانطور که تحلیلگران حقوقی اشاره کردهاند، این حکم میتواند سدی برای طرح دعاوی مشابه علیه سایر شرکتهای فناوری که ابزارهای استخدامی هوش مصنوعی ارائه میدهند، ایجاد کند.
بعد اجتماعی و اخلاقی: الگوریتمها چگونه تبعیض میآفرینند؟
ماجرای مابلی، یک نمونه از یک پدیده گستردهتر است: سوگیری الگوریتمی (algorithmic bias).
سیستمهای هوش مصنوعی با دادههای تاریخی آموزش داده میشوند. اگر آن دادهها حاوی سوگیریهای موجود در جامعه باشند، مانند سابقه استخدامی که به نفع مردان یا گروههای نژادی خاص بوده، الگوریتم آن سوگیریها را نه فقط بازتولید، که تشدید میکند.
مشهورترین نمونه، الگوریتم استخدام آمازون بود که در سال ۲۰۱۸ به دلیل تبعیض علیه زنان کنار گذاشته شد؛ چون با دادههای تاریخی آموزش دیده بود که در آنها مردان غالب بودند. نمونه دیگر، ابزارهای غربالگری است که از کلمات کلیدی مانند «پرانرژی»، «مشتاق» و «هیجانزده»، که در عمل کدهایی برای «جوان» هستند، برای امتیازدهی به داوطلبان استفاده میکنند.در پرونده وورکدی، شاکیان ادعا کردند که الگوریتم این شرکت به طور کارآمد داوطلبان مسنتر را «در اولویت پایینتر» قرار میداده و عملاً یک گروه کامل تحت حمایت قانون را از فرصتهای شغلی محروم میکرده است.ابعاد اجتماعی این مسئله عمیق است. نظرسنجیها نشان میدهد که بیش از ۸۰ درصد از کارفرمایان آمریکایی و تقریباً تمام شرکتهای فورچون ۵۰۰ از ابزارهای هوش مصنوعی در استخدام استفاده میکنند. اما بسیاری از داوطلبان حتی نمیدانند که تصمیمات استخدامیشان توسط الگوریتم گرفته میشود، و این، خود یک بحران شفافیت است.
از منظر اخلاقی، سؤال این است: آیا میتوانیم به ماشینها اجازه دهیم که درباره سرنوشت انسانیها تصمیم بگیرند، بدون آنکه بتوانیم نحوه تصمیمگیری آنها را توضیح دهیم؟
بعد اقتصادی: هزینه پنهان الگوریتمهای تبعیضآمیز
برای کسبوکارها، استفاده از هوش مصنوعی در استخدام وسوسهانگیز است: سرعت، هزینه کمتر، و ظاهراً «بیطرفی». اما پرونده وورکدی نشان میدهد که این «صرفهجویی» میتواند هزینههای بسیار بزرگتری در پی داشته باشد.
نخست، هزینه حقوقی. دعاوی تبعیض الگوریتمی میتوانند میلیونها دلار هزینه داشته باشند، چه از نظر هزینههای دادگاه، چه از نظر خسارت و چه از نظر آسیب به شهرت. پرونده وورکدی در مرحله کشف مدارک (discovery) قرار دارد و ممکن است سالها طول بکشد.
دوم، هزینه نیروی انسانی. الگوریتمهای تبعیضآمیز، استعدادهای ارزشمند را از چرخه استخدام حذف میکنند. همانطور که یکی از تحلیلگران حقوقی اشاره کرده، «ابزارهای هوش مصنوعی که با دادههای جانبدارانه آموزش داده شوند، میتوانند تبعیض را بازتولید و حتی تشدید کنند»، و این یعنی از دست دادن تنوع فکری و نوآوری.سوم، هزینه نظارتی. قوانین جدید در حال شکلگیری هستند. در کلرادو، قانون جدید هوش مصنوعی که الزامات مدیریت ریسک و ارزیابی تأثیر را برای کارفرمایان تعیین میکند، از ژانویه ۲۰۲۷ اجرایی خواهد شد. در کالیفرنیا نیز مقررات جدیدی از اکتبر ۲۰۲۵ لازمالاجرا شده که سیستمهای تصمیمگیری خودکار تبعیضآمیز را ممنوع میکند.
بعد فرهنگی: درسهایی برای بازار کار ایران
در ایران، استفاده از هوش مصنوعی در فرایند استخدام در حال افزایش است. پلتفرمهای کاریابی آنلاین، سیستمهای رزومهخوان، و حتی برخی شرکتهای بزرگ از ابزارهای هوش مصنوعی برای غربالگری داوطلبان استفاده میکنند.
اما سؤال این است: آیا این سیستمها از نظر تبعیض مورد بررسی قرار گرفتهاند؟
در ایران، قوانین خاصی برای شفافیت الگوریتمی یا ممنوعیت تبعیض الگوریتمی وجود ندارد.
نظام حقوقی ایران عمدتاً با قوانین کار و تأمین اجتماعی، که پیش از عصر هوش مصنوعی تدوین شدهاند، به موضوع اشتغال میپردازد. هیچ سازوکار مشخصی برای ارزیابی تأثیر الگوریتمهای استخدامی بر گروههای مختلف وجود ندارد.
این شکاف قانونی، دو خطر عمده ایجاد میکند. نخست، خطر برای داوطلبان کار: اگر الگوریتمی آنها را بر اساس جنسیت، سن، قومیت یا وضعیت سلامتی حذف کند، هیچ مرجع حقوقی مشخصی برای اعتراض وجود ندارد. دوم، خطر برای کسبوکارها: اگر روزی قوانین مشابه قوانین اروپا یا آمریکا در ایران تصویب شوند، شرکتهایی که از سیستمهای تبعیضآمیز استفاده کردهاند، با هزینههای سنگین حقوقی و اعتباری مواجه خواهند شد.
همانطور که یک گزارش ایرانی اشاره کرده، «الگوریتم تبعیضآمیز میتواند نه فقط عدالت، بلکه سودآوری و نوآوری یک سازمان را در بلندمدت تحت تأثیر قرار دهد».
راهکارهای عملی: از امروز شروع کنید
برای داوطلبان کار
۱. حقوق خود را بشناسید: در بسیاری از کشورها، و به تدریج در ایران، داوطلبان حق دارند از نحوه تصمیمگیری الگوریتمی مطلع شوند.
۲. مدارک خود را متنوع کنید: اگر احساس میکنید الگوریتمها شما را حذف میکنند، رزومه خود را برای سیستمهای مختلف بهینهسازی کنید.
۳. اعتراض کنید: اگر معتقدید به طور ناعادلانه حذف شدهاید، از کارفرما بخواهید فرایند تصمیمگیری را توضیح دهد.
برای کسبوکارها
۱. الگوریتم خود را ممیزی کنید: پیش از استفاده از هر سیستم هوش مصنوعی در استخدام، آن را از نظر سوگیریهای احتمالی بررسی کنید. ممیزی منظم، اولین گام پیشگیری است.
۲. شفاف باشید: به داوطلبان اطلاع دهید که از هوش مصنوعی در فرایند استخدام استفاده میشود و چه دادههایی مورد بررسی قرار میگیرد.
۳. نظارت انسانی را حفظ کنید: هیچ الگوریتمی نباید بدون امکان بازبینی انسانی، تصمیم نهایی استخدام را بگیرد.
۴. قراردادهای خود را بهروز کنید: اگر از خدمات ارائهدهندگان خارجی استفاده میکنید، در قراردادها مسئولیت تبعیض الگوریتمی را شفاف کنید.
برای سیاستگذاران
۱. تدوین چارچوب نظارتی: با الهام از مدلهای موفق جهانی، مانند قانون هوش مصنوعی اتحادیه اروپا یا قوانین ایالتی آمریکا، چارچوبی متناسب با بافت حقوقی و فرهنگی ایران طراحی کنید.
۲. ایجاد مرجع شکایت: نهادی تعیین کنید که داوطلبان بتوانند در صورت مواجهه با تبعیض الگوریتمی به آن مراجعه کنند.
۳. حمایت از پژوهش: بررسی تأثیرات اجتماعی و اقتصادی الگوریتمهای استخدامی در ایران را در اولویت تحقیقاتی قرار دهید.
جمعبندی: عدالت در عصر الگوریتمها
پرونده درک مابلی علیه وورکدی، فقط یک دعوای حقوقی در آن سوی دنیا نیست. این پرونده، آیینهای است که چالشهای پیش روی تمام کشورهایی را که از هوش مصنوعی در استخدام استفاده میکنند، از جمله ایران، نشان میدهد.
هوش مصنوعی میتواند استخدام را سریعتر، ارزانتر و بهظاهر بیطرفانهتر کند. اما اگر این سرعت و هزینه با نادیدهگرفتن عدالت به دست آید، بهای آن بسیار سنگینتر از صرفهجویی خواهد بود، هم برای داوطلبان، هم برای کسبوکارها، و هم برای جامعه.
همانطور که قاضی ریتا لین در رأی خود بهطور ضمنی تأکید کرد، فناوری نمیتواند پناهگاهی برای تبعیض باشد. الگوریتمها توسط انسانها ساخته میشوند و انسانها مسئول عواقب آنها هستند. چه در کالیفرنیا و چه در تهران، عدالت استخدامی یک حق بنیادین است، نه یک متغیر که بتوان برای صرفهجویی در هزینه آن را نادیده گرفت.
آینده استخدام، آینده الگوریتمهاست. اما آینده الگوریتمها، به تصمیماتی بستگی دارد که امروز میگیریم. آیا اجازه میدهیم ماشینها بهجای ما تصمیم بگیرند، بدون آنکه پاسخگوی تبعیضهایشان باشند؟ یا چارچوبی میسازیم که در آن فناوری در خدمت عدالت باشد، نه در تضاد با آن؟
پاسخ، در دستان ماست، از دادگاههای کالیفرنیا تا دفاتر سیاستگذاری در تهران.