في مدينة نيويورك ، يتعين على الشركات إثبات أن برامج التوظيف الخاصة بالذكاء الاصطناعي ليست متحيزة جنسيًا أو عنصرية

يتعين على الشركات في مدينة نيويورك التي تستخدم الذكاء الاصطناعي للمساعدة في العثور على موظفين الآن أن تظهر أن العملية خالية من التمييز على أساس الجنس والعنصرية.

يُعتقد أن القانون الجديد ، الذي يدخل حيز التنفيذ يوم الأربعاء ، هو الأول من نوعه في العالم. بموجب القاعدة الجديدة لنيويورك ، يجب أن يجتاز برنامج التوظيف الذي يعتمد على التعلم الآلي أو الذكاء الاصطناعي لمساعدة أصحاب العمل في اختيار المرشحين المفضلين أو التخلص من السيئين – تسمى أداة قرار التوظيف التلقائي ، أو AEDT – تدقيقًا من قبل شركة خارجية لإظهاره. خالٍ من التحيز العنصري أو الجنسي.

يجب على الشركات التي تشغل برامج توظيف الذكاء الاصطناعي أيضًا نشر هذه النتائج. لم يعد بإمكان الشركات التي تستخدم برنامج AEDT الخاص بطرف ثالث استخدام هذه البرامج بشكل قانوني إذا لم يتم تدقيقها.

تستخدم الشركات بشكل متزايد الأدوات الآلية في عمليات التوظيف. قالت كاثي أونيل ، الرئيس التنفيذي لشركة Orcaa ، وهي شركة استشارية تدير عمليات تدقيق لأدوات التوظيف للشركات التي تريد أن تكون في وضع جيد مع قانون نيويورك الجديد ، إن زيادة الأدوات التي تحكم تلقائيًا على المرشحين للوظائف أصبح ضروريًا لأن يستخدم الباحثون عن عمل أيضًا أدوات ترسل أعدادًا هائلة من الطلبات.

“في عصر الإنترنت ، أصبح التقدم لوظيفة أسهل كثيرًا. وهناك أدوات للمرشحين لتبسيط هذه العملية. مثل “أعطنا سيرتك الذاتية وسوف نتقدم إلى 400 وظيفة” ، قال أونيل. “لقد حصلوا على عدد كبير جدًا من التطبيقات. يتعين عليهم انتقاء القائمة بطريقة ما ، لذا فإن هذه الخوارزميات تفعل ذلك من أجلهم “.

لقد اجتذبت برامج التوظيف المليئة بالذكاء الاصطناعي تمحيصًا دقيقًا ، وعلى الأخص ما إذا كان سينتهي بهم الأمر إلى إظهار التحيزات بناءً على البيانات التي تم تدريبهم عليها. لقد وجدت الدراسات منذ فترة طويلة أن البرامج التي تستخدم التعلم الآلي أو الذكاء الاصطناعي غالبًا ما تظهر العنصرية والتمييز على أساس الجنس وغيرها من التحيزات.

مع ازدياد شعبية تطبيقات الذكاء الاصطناعي المبتكرة مثل ChatGPT و Midjourney ، دعا المشرعون الفيدراليون وحتى العديد من المديرين التنفيذيين لشركات التكنولوجيا مرارًا وتكرارًا إلى التنظيم. لكن حتى الآن ، لا يوجد لدى الكونجرس معنى يذكر لما قد يبدو عليه ذلك.

يقول الخبراء إنه على الرغم من أهمية قانون نيويورك للعمال ، إلا أنه لا يزال محدودًا للغاية.

قالت جوليا ستويانوفيتش ، أستاذة علوم الكمبيوتر في جامعة نيويورك والعضو المؤسس لفريق عمل أنظمة القرارات التلقائية بالمدينة ، إنها بداية مهمة ولكنها لا تزال محدودة للغاية.

قال ستويانوفيتش: “بادئ ذي بدء ، أنا سعيد حقًا بأن القانون موجود في الكتب ، وأن هناك قواعد الآن وسنبدأ في تطبيقها”.

لكن هناك أيضًا الكثير من الفجوات. لذلك ، على سبيل المثال ، تدقيق التحيز محدود للغاية من حيث الفئات. نحن لا ننظر إلى التمييز على أساس السن ، على سبيل المثال ، الذي يعتبر في التوظيف صفقة ضخمة ، أو الإعاقات ، “أضافت.

كما أنه ليس من الواضح كيف سيتم تطبيق القانون أو إلى أي مدى.

قال متحدث باسم الوكالة إن إدارة حماية المستهلك والعمال في نيويورك ، المكلفة بإنفاذ القانون ، “ستجمع وتحقق في شكاوى” الشركات المتهمة بانتهاك القانون.

قال جيك ميتكالف ، الباحث المتخصص في منظمة العفو الدولية للبيانات والمجتمع ، وهي مجموعة غير ربحية تدرس آثار التكنولوجيا على المجتمع ، إن صياغة القانون – وهي تُعرِّف AEDT على أنها تقنية “ستساعد بشكل كبير أو تحل محل اتخاذ القرار التقديري” – قاد المحامين الذين ينصحون الشركات الكبيرة بعدم أخذ الأمر على محمل الجد.

قال ميتكالف: “هناك عدد غير قليل من مكاتب قانون العمل في نيويورك التي تنصح عملائها بأنهم ليسوا مضطرين للامتثال ، بالنظر إلى نص القانون ، على الرغم من أن روح القانون قد تنطبق عليهم”. .

قال: “من الصعب للغاية معرفة ما تعنيه كلمة” جوهريًا “.

حتى لو ساعدت عمليات التدقيق في تقليل بعض التحيز ضد المرشحين للوظائف ، فلا يزال من غير الواضح ما إذا كان فحص الوظائف بالذكاء الاصطناعي جيدًا بشكل خاص فيما يسعى إلى القيام به.

قال أونيل من Orcaa: “لا أعتقد أنهم يقومون بتحسين النظام العام للأشخاص الموجودين في النظام ، سواء للمرشحين أو لمديري التوظيف”. “إنها مجرد معلومات زائدة وليس سببًا كبيرًا للثقة في هذه الأدوات لتحسين الأمور.”

وذهبت ستويانوفيتش إلى أبعد من ذلك قائلة إن بعض أدوات التوظيف الآلي التي درستها ببساطة لا تعمل.

“أحد الأشياء التي لا يحمينا هذا القانون منها هي تلك الطرق غير المنطقية ، وأساليب فحص الثور. يمكنني أن أخبركم عن بعض هؤلاء الذين قمت بتدقيقهم ، جنبًا إلى جنب مع فريق من المتعاونين ، حيث لا معنى له تمامًا. لذلك لن يكون متحيزًا ، لأنه عشوائي فقط ، بقدر ما أستطيع أن أقول. وقال ستويانوفيتش: “لذلك سيكون الأمر على نفس القدر من الهراء بالنسبة للرجال والنساء والسود والبيض”.