موظفو OpenAI وGoogle DeepMind يحذرون من مخاطر الذكاء الاصطناعي ويطالبون بسياسات أفضل لحماية المبلغين عن المخالفات

تعد OpenAI وGoogle DeepMind من بين شركات التكنولوجيا الرائدة في طليعة إنشاء أنظمة وقدرات الذكاء الاصطناعي. ومع ذلك، فقد وقع العديد من الموظفين الحاليين والسابقين في هذه المنظمات على رسالة مفتوحة تشير إلى أنه لا يوجد سوى القليل من الرقابة على بناء هذه الأنظمة، وأنه لا يتم إيلاء الاهتمام الكافي للمخاطر الرئيسية التي تشكلها هذه التكنولوجيا. ويحظى الخطاب المفتوح بدعم اثنين من “العرابين” الثلاثة لمنظمة العفو الدولية، وهما جيفري هينتون ويوشوا بنجيو، ويسعى إلى وضع سياسات أفضل لحماية المبلغين عن المخالفات من قبل أصحاب العمل.

يطالب موظفو OpenAI وGoogle DeepMind بالحق في التحذير من الذكاء الاصطناعي

هو رسالة مفتوحة يدعي أنه تم كتابته من قبل موظفين حاليين وسابقين في شركات الذكاء الاصطناعي الرائدة الذين يؤمنون بإمكانيات الذكاء الاصطناعي لتقديم فوائد غير مسبوقة للبشرية. ويشير أيضًا إلى المخاطر التي تشكلها التكنولوجيا، والتي تشمل تعزيز الفوارق الاجتماعية، وانتشار المعلومات المضللة والتلاعب، وحتى فقدان السيطرة على أنظمة الذكاء الاصطناعي مما قد يؤدي إلى انقراض الإنسان.

تسلط الرسالة المفتوحة الضوء على أن هيكل الإدارة الذاتية الذي تنفذه شركات التكنولوجيا العملاقة هذه غير فعال في ضمان التدقيق في هذه المخاطر. وذكر أيضًا أن “الحوافز المالية القوية” تحفز الشركات على التغاضي عن الخطر المحتمل الذي يمكن أن تسببه أنظمة الذكاء الاصطناعي.

تشير الرسالة المفتوحة إلى أن شركات الذكاء الاصطناعي تدرك بالفعل القدرات والقيود ومستويات المخاطر لأنواع مختلفة من الضرر الناجم عن الذكاء الاصطناعي، وتشكك الرسالة المفتوحة في عزمها على اتخاذ إجراءات تصحيحية. “ليس لديهم حاليًا سوى التزامات ضعيفة بمشاركة بعض هذه المعلومات مع الحكومات، وليس مع المجتمع المدني. ويقول: “لا نعتقد أنه يمكن الوثوق بالجميع لمشاركتها طوعًا”.

تقدم الرسالة المفتوحة أربعة مطالب لأصحاب العمل. أولاً، يريد الموظفون من الشركات عدم الدخول في أو تنفيذ أي اتفاقيات تحظر انتقاداتهم بشأن المخاوف المتعلقة بالمخاطر. ثانياً، دعوا إلى إنشاء عملية مجهولة المصدر يمكن التحقق منها للموظفين الحاليين والسابقين لرفع المخاوف المتعلقة بالمخاطر إلى مجلس إدارة الشركة، والجهات التنظيمية، ومنظمة مستقلة مناسبة.

كما يحث الموظفون المنظمات على تطوير ثقافة النقد المفتوح. أخيرًا، تسلط الرسالة المفتوحة الضوء على أنه لا ينبغي لأصحاب العمل الانتقام من الموظفين الحاليين والسابقين الذين يشاركون علنًا المعلومات السرية المتعلقة بالمخاطر بعد فشل العمليات الأخرى.

وقع على الرسالة ما مجموعه 13 موظفًا حاليًا وسابقًا في OpenAI وGoogle DeepMind. وبالإضافة إلى “العرابين” للذكاء الاصطناعي، دعم عالم الكمبيوتر البريطاني ستيوارت راسل هذه المبادرة أيضًا.

موظف سابق في OpenAI يتحدث عن مخاطر الذكاء الاصطناعي

أحد موظفي OpenAI السابقين الذين وقعوا على الرسالة المفتوحة، دانييل كوكوتاجلو، قام أيضًا بعمل سلسلة من المنشورات على X (المعروف سابقًا باسم Twitter)، مسلطًا الضوء على تجربته في الشركة ومخاطر الذكاء الاصطناعي. وادعى أنه عندما استقال من الشركة، طُلب منه التوقيع على شرط عدم الانتقاص لمنعه من قول أي شيء ينتقد الشركة. كما ادعى أن الشركة هددت كوكوتايلو بسحب رأس ماله المكتسب لرفضه التوقيع على الاتفاقية.

وقال كوكوتايلو إن الشبكات العصبية في أنظمة الذكاء الاصطناعي تنمو بسرعة من مجموعات البيانات الكبيرة التي يتم تغذيتها بها. وأضاف أنه لا توجد إجراءات كافية للسيطرة على المخاطر.

وأضاف: “هناك الكثير مما لا نفهمه حول كيفية عمل هذه الأنظمة وما إذا كانت ستظل متوافقة مع المصالح البشرية عندما تصبح أكثر ذكاءً وربما تتجاوز مستوى الذكاء البشري في جميع المجالات”.

على وجه الخصوص، تقوم OpenAI بإنشاء Model Spec، وهي وثيقة تهدف من خلالها إلى توجيه الشركة بشكل أفضل في إنشاء تكنولوجيا الذكاء الاصطناعي الأخلاقية. وفي الآونة الأخيرة، أنشأت أيضًا لجنة للأمن والمراقبة. وأشاد كوكوتايلو بهذه الوعود في إحدى المنشورات.