محاولات السيطرة على اليد الخفية للذكاء الاصطناعي في حياة الأمريكيين تفشل

تواجه المحاولات المبكرة لتنظيم برامج الذكاء الاصطناعي، التي تلعب دورًا خفيًا في قرارات التوظيف والإسكان والقرارات الطبية لملايين الأمريكيين، ضغوطًا من جميع الجهات وفشلًا في المجالس التشريعية للولايات في جميع أنحاء البلاد.

لم يتم إقرار سوى مشروع قانون واحد فقط من أصل سبعة مشاريع قوانين تهدف إلى منع ميل الذكاء الاصطناعي إلى التمييز في اتخاذ القرارات المهمة (بما في ذلك من يتم تعيينه، أو الحصول على المال لشراء منزل، أو الرعاية الصحية). وقع حاكم كولورادو جاريد بوليس بتردد على مشروع القانون ليصبح قانونًا يوم الجمعة.

واجه مشروع قانون كولورادو وتلك التي فشلت في واشنطن وكونيتيكت وأماكن أخرى معارك على العديد من الجبهات، بما في ذلك بين جماعات الحقوق المدنية وصناعة التكنولوجيا، ويخشى المشرعون من الخوض في التكنولوجيا التي لا يزال عدد قليل من الناس يفهمونها، ويشعر المحافظون بالقلق من كونها غريبة ولاية. وتخويف الشركات الناشئة في مجال الذكاء الاصطناعي.

ووقع بوليس على مشروع قانون كولورادو “مع تحفظات”، قائلا في بيان إنه يشعر بالقلق من اللوائح التي تثبط الابتكار في مجال الذكاء الاصطناعي. ويستمر مشروع القانون لمدة عامين ويمكن تعديله قبل أن يصبح قانونًا.

وكتب بوليس: “أشجع (المشرعين) على تحسين هذا بشكل كبير قبل أن يدخل حيز التنفيذ”.

يعد اقتراح كولورادو، إلى جانب ستة مشاريع قوانين مماثلة، معقدًا ولكنه سيتطلب على نطاق واسع من الشركات تقييم مخاطر التمييز فيما يتعلق بالذكاء الاصطناعي الخاص بها وإبلاغ العملاء عندما يتم استخدام الذكاء الاصطناعي لمساعدتهم على اتخاذ قرار مهم بالنسبة لهم.

مشاريع القوانين منفصلة عن أكثر من 400 مشروع قانون يتعلق بالذكاء الاصطناعي تمت مناقشتها هذا العام. ويستهدف معظمها قطاعات الذكاء الاصطناعي، مثل استخدام التزييف العميق في الانتخابات أو إنشاء مواد إباحية.

وتعد مشاريع القوانين السبعة أكثر طموحا، وتنطبق على الصناعات الكبرى، وتستهدف التمييز، وهو أحد أكثر المشاكل انحرافا وتعقيدا في مجال التكنولوجيا.

وقال رومان شودري، مبعوث وزارة الخارجية الأمريكية للذكاء الاصطناعي والذي قاد سابقًا فريق أخلاقيات الذكاء الاصطناعي: “ليس لدينا حقًا رؤية للخوارزميات المستخدمة، سواء كانت تعمل أم لا، أو ما إذا كنا نتعرض للتمييز”. من تويتر. .

في حين أن قوانين مكافحة التمييز موجودة بالفعل، فإن أولئك الذين يدرسون التمييز في الذكاء الاصطناعي يقولون إنه وحش مختلف، حيث أن الولايات المتحدة متأخرة بالفعل في التنظيم.

وقالت كريستين ويبر، محامية الحقوق المدنية التي عملت في دعاوى قضائية جماعية تتعلق بالتمييز، بما في ذلك ضد بوينغ وتايسون فودز: “إن أجهزة الكمبيوتر تتخذ قرارات متحيزة على نطاق واسع”. والآن، أصبح ويبر على وشك الحصول على الموافقة النهائية لإحدى المستوطنات الأولى في البلاد في دعوى قضائية جماعية بشأن التمييز في مجال الذكاء الاصطناعي.

وقال ويبر: “ولا بد لي من القول إن الأنظمة القديمة لم تكن خالية تماماً من التحيز”. لكن “لا يمكن لأي شخص أن يرى سوى هذا العدد الكبير من السير الذاتية في يوم واحد. لذلك لا يمكنك اتخاذ سوى عدد كبير جدًا من القرارات المتحيزة في يوم واحد، ويمكن للكمبيوتر القيام بذلك بسرعة بين عدد كبير من الأشخاص.”

عندما تتقدم بطلب للحصول على وظيفة، أو شقة، أو قرض رهن عقاري، فمن المرجح أن يقوم الذكاء الاصطناعي بتقييم طلبك: إرساله إلى قائمة الانتظار، أو تعيين درجة، أو تصفيته. تشير التقديرات إلى أن ما يصل إلى 83% من أصحاب العمل يستخدمون الخوارزميات للمساعدة في التوظيف، وفقًا للجنة تكافؤ فرص العمل.

الذكاء الاصطناعي نفسه لا يعرف ما الذي يجب البحث عنه في طلب الوظيفة، لذلك فهو يعلم نفسه بناءً على السير الذاتية السابقة. قد تحتوي البيانات التاريخية المستخدمة لتدريب الخوارزميات على تحيزات مهربة.

على سبيل المثال، عملت شركة أمازون على خوارزمية توظيف تعتمد على السير الذاتية القديمة: معظم المرشحين من الذكور. عند تقييم المتقدمين الجدد، قام بتخفيض السيرة الذاتية بكلمة “للنساء” أو التي أدرجت كليات البنات لأنها لم تكن ممثلة في البيانات التاريخية (السير الذاتية) التي تعلم منها. لقد غرق المشروع.

تزعم الدعوى القضائية الجماعية التي رفعها ويبر أن نظام الذكاء الاصطناعي الذي يسجل طلبات التأجير أعطى درجات أقل بشكل غير متناسب للمتقدمين من السود أو من ذوي الأصول الأسبانية. وجدت إحدى الدراسات أن نظام الذكاء الاصطناعي الذي تم إنشاؤه لتقييم الاحتياجات الطبية أهمل المرضى السود للحصول على رعاية خاصة.

قدمت الدراسات والدعاوى القضائية لمحة عما تخفيه أنظمة الذكاء الاصطناعي، لكن معظم الخوارزميات تظل مخفية. وتظهر استطلاعات مركز بيو للأبحاث أن الأميركيين لا يدركون إلى حد كبير أن هذه الأدوات تُستخدم. لا يُطلب من الشركات عمومًا الكشف صراحةً عن استخدام الذكاء الاصطناعي.

وقال ويبر: “إن مجرد سحب الستار حتى نتمكن من معرفة من يقوم بالفعل بالتقييم وما هي الأداة المستخدمة هو خطوة أولى كبيرة”. “القوانين الحالية لن تكون فعالة إذا لم نتمكن من الحصول على بعض المعلومات الأساسية على الأقل.”

وهذا ما يحاول مشروع قانون كولورادو، إلى جانب مشروع قانون آخر باقي في كاليفورنيا، تغييره. وتتشابه مشاريع القوانين، بما في ذلك الاقتراح التاريخي في ولاية كونيتيكت الذي رفضته معارضة الحاكم، إلى حد كبير.

سيتطلب مشروع قانون كولورادو من الشركات التي تستخدم الذكاء الاصطناعي للمساعدة في اتخاذ القرارات المهمة للأمريكيين أن تقوم سنويًا بتقييم الذكاء الاصطناعي الخاص بها بحثًا عن أي تحيز محتمل؛ تنفيذ برنامج الإشراف داخل الشركة؛ إبلاغ المدعي العام للولاية إذا تم العثور على تمييز؛ وإبلاغ العملاء عند استخدام الذكاء الاصطناعي لمساعدتهم على اتخاذ القرار، بما في ذلك خيار الاستئناف.

وتخشى النقابات والأكاديميون من أن الاعتماد على الشركات لمراقبة نفسها يعني أنه سيكون من الصعب معالجة التمييز بشكل استباقي في نظام الذكاء الاصطناعي قبل أن يسبب الضرر. وتخشى الشركات من أن تؤدي الشفافية القسرية إلى كشف الأسرار التجارية، بما في ذلك في الدعاوى القضائية المحتملة، في هذا المجال الجديد الذي يتسم بالمنافسة المفرطة.

كما حثت شركات الذكاء الاصطناعي على وضع بند يسمح فقط للمدعي العام، وليس المواطنين، برفع الدعاوى القضائية بموجب القانون الجديد، ورحبت بها بشكل عام. وقد تركت تفاصيل التنفيذ للنائب العام.

في حين أن شركات الذكاء الاصطناعي الكبرى وافقت بشكل أو بآخر على هذه المقترحات، قالت مجموعة من شركات الذكاء الاصطناعي الأصغر حجمًا ومقرها كولورادو إن المتطلبات يمكن أن تكون قابلة للإدارة من قبل شركات الذكاء الاصطناعي العملاقة، ولكن ليس من خلال الشركات الناشئة في مهدها.

وقال لوغان سيركوفنيك، مؤسس موقع Thumper.ai، في إشارة إلى مجال الذكاء الاصطناعي: “نحن في عصر جديد من الحساء البدائي”. “إن وجود تشريعات مقيدة بشكل مفرط تجبرنا على وضع تعريفات وتقييد استخدامنا للتكنولوجيا أثناء تشكيلها سيكون ببساطة ضارًا بالابتكار.”

واتفقوا جميعا، جنبا إلى جنب مع العديد من شركات الذكاء الاصطناعي، على أهمية معالجة ما يسمى رسميا “التمييز الخوارزمي”. لكنهم قالوا إن مشروع القانون كما هو مكتوب لا يحقق هذا الهدف. وبدلاً من ذلك، اقترحوا تعزيز القوانين الحالية لمكافحة التمييز.

يشعر تشودري بالقلق من أن الدعاوى القضائية مكلفة للغاية وتستغرق وقتًا طويلاً بحيث لا يمكن اعتبارها أداة فعالة لإنفاذ القانون، وأن القوانين يجب أن تذهب إلى أبعد مما تقترحه كولورادو. وبدلاً من ذلك، اقترح تشودري وأكاديميون إنشاء منظمة مستقلة ومعتمدة يمكنها اختبار التحيزات المحتملة في خوارزميات الذكاء الاصطناعي بشكل صريح.

وقال شودري: “يمكنك أن تفهم وتتعامل حتى مع شخص واحد يمارس التمييز أو التحيز”. “ماذا نفعل عندما يتم دمجها في المؤسسة بأكملها؟”