يعتبر سلوك الذكاء الاصطناعي ناشئ أكثر منه مصمماً، ولهذا السبب لدينا القليل من الفهم لإمكاناته ولما هو قادر على عمله. ويحذر علماء الكمبيوتر الآن بضرورة أن يتغير هذا الواقع قبل انتشار الذكاء الاصطناعي على نطاق واسع.
Bottom of Form
Top of Form
Bottom of Form
أصبحت آلات الذكاء الاصطناعي جزءاً مهماً في سماء التكنولوجيا في السنوات الأخيرة. فهي حالياً في طور إحداث ثورة في القانون والرعاية الصحية والتعليم والعديد من نماذج الأعمال.
في الواقع، لقد وصل الذكاء الاصطناعي إلى لحظة فاصلة، ووفقاً لريشي بوماساني وبيرسي ليانغ وزملائهما في جامعة ستانفورد في قلب وادي السيليكون: "يشهد الذكاء الاصطناعي نقلة نوعية مع ظهور النماذج التي يتم تدريبها على بيانات واسعة على نطاق وقابلة تكيف كبيرة مع مجموعة واسعة من المهام. نطلق على هذه النماذج نماذج الأساس".
تتمتع نماذج الأساس بإمكانيات هائلة، ولكنها تمثل أيضاً خطراً كبيراً. يقول بوماساني: "على الرغم من الانتشار الوشيك لنماذج الأساس، فإننا نفتقر حالياً إلى فهم واضح لكيفية عملها، ومتى تفشل، وما هي قادرة على تحقيقه بسبب خصائصها الناشئة".
لذلك شرع هذا الفريق في استكشاف طبيعة نماذج الأساس - تلك المستندة على فئة عامة من نماذج الذكاء الاصطناعي - حيث يتم تطبيقها والمخاطر التي تثيرها هذه العملية. تجعل استنتاجاتهم القراءة ممتعة.
السلوك الناشئ
تتمثل إحدى مشكلات هذه النماذج في أن سلوكها ناشئ وليس مصمماً. لذلك ليس من الممكن دائماً معرفة ما ستفعله هذه الأنظمة. يقول الباحثون: "إن (النشوء) هو مصدر الإثارة العلمية والقلق بشأن العواقب غير المتوقعة".
وهناك مشكلة أخرى تتمثل في أن هذه النماذج هي الآن الأساس للعديد من النماذج الأخرى. وهذا يعني أنه يمكن تطبيقها على مجموعة واسعة من الظروف، ولكنها أيضاً مشاكل يتم حلها - فهي موروثة من قبل جميع ما سبقها.
يقول بوماساني: "إن البيئات التي يحركها الربح للشركات الناشئة والشركات الكبرى، ليست بالضرورة أفضل الأماكن لاستكشاف المشكلات المحتملة التي يمكن أن يؤدي إليها ذلك. إذ يمكن للحافز التجاري أن يقود الشركات إلى تجاهل العوامل الخارجية الاجتماعية مثل الاستبدال التكنولوجي للعمالة، وصحة النظام البيئي المعلوماتي، والتكلفة البيئية لموارد الحوسبة، والبيع القائم على الربح لتكنولوجيات بعض الأنظمة".
في كثير من الأحيان، عند تطوير منتج جديد، يتجاوز بداية جميع الاعتبارات ويؤدي إلى سلوك يصعب تبريره. قدم الفريق مثالاً على النهج المشكوك فيه قانوناً لشركة كليرفيو للذكاء الاصطناعي، وهي شركة تستخدم الصور من الإنترنت لتطوير برامج التعرف على الوجه. عملت الشركة على ذلك بدون موافقة أصحاب الصور أو الشركات المضيفة. ثم باعت هذه الشركة البرنامج لجهات مثل أقسام الشرطة.
عواقب خبيثة
قد تكون عواقب الاستخدام الواسع لنماذج الأساس أكثر دهاء. يقول الباحثون: "كتقنية وليدة، لم يتم بعد ترسيخ معايير تطوير أنموذج الأساس المسؤول ونشره بشكل جيد". وهذا واقع يحتاج التغيير بسرعة.
يقول بوماساني وزملاؤه إن المجتمع الأكاديمي مهيأ جيداً لمواجهة هذا التحدي، لأنه يضم علماء من مجموعة واسعة من التخصصات التي لا يحركها الربح. يقول الفريق: "لذلك نرى أن الأوساط الأكاديمية تلعب دوراً حاسماً في تطوير النماذج الأساسية بطريقة تعزز المنفعة الاجتماعية، وتخفف أضرارها الاجتماعية". قد تساهم الجامعات والكليات أيضاً في وضع المعايير من خلال مراجعة نماذج المؤسسة الحالية ونشر نتائجها، وإنشاء مجالس مراجعة الأخلاقيات، وتطوير نماذج التأسيس الخاصة بها".
ستكون هذه وظيفة مهمة. يجب أن يكون ضمان الاستخدام العادل والمنصف للذكاء الاصطناعي أولوية بالنسبة إلى الديمقراطيات الحديثة، لأسباب ليس أقلها أن الذكاء الاصطناعي لديه القدرة على تهديد سبل عيش جزء كبير من سكان العالم. يبدو أنه لا يوجد أحد متأكد تماماً من الوظائف التي ستكون في مأمن من التقدم الحتمي لعملية صنع القرار الآلي، ولكن من المرجح أن يظل عدد قليل جداً دون تغيير.
ومن الواضح أن الشركات الربحية، ليست على مستوى التحول نحو هذا المستقبل، مع مراعاة مصالح المجتمع الفضلى. ولكن المجموعات الأخرى من الأوساط الأكاديمية والمنظمات غير الهادفة للربح، هي في وضع أفضل، ومساهمة بوماساني وزملائه في هذا البحث هي دليل على ذلك.
----