بعد أن أصبحت أجهزة الكمبيوتر تربطنا جميعاً، للأفضل والأسوأ، فماذا بعد؟ جلبت الثورة الرقمية روبوتات متطورة وتحديات أخلاقية جديدة.
تمت كتابة هذه المقالة على أجهزة كمبيوتر محمولة. كانت مثل هذه الأجهزة لتذهل علماء الكمبيوتر قبل بضعة عقود فقط، وكانت لتبدو سحراً مطلقاً. تعالوا معنا في رحلة نكتشف فيها البدايات ونرصد المآلات.
كانت أجهزة الكمبيوتر ذات يوم كبيرة جداً لدرجة أنها تملأ الغرف. هي الآن في كل مكان وغير مرئية، سيكون العالم الحديث مستحيلاً بدونها.
يهدف العلماء إلى جعل أجهزة الكمبيوتر أسرع والبرامج أكثر ذكاءً، مع محاولات لنشر التكنولوجيا بطريقة أخلاقية.
في عام 1833، ابتكر عالم الرياضيات الإنجليزي تشارلز باباج آلة قابلة للبرمجة كانت تمهيداً لبنية الحوسبة الحالية، قام باباج ببناء قطعة من الآلة فقط، ولكن بناءً على وصفها، رأت إحدى معارفه آدا لوفليس أن الأرقام التي يمكن أن تتلاعب بها الآلة يمكن أن تمثل أي شيء، وقد أصبحت خبيرة في تشغيل الآلة المقترحة وغالباً ما يُطلق عليها اسم المبرمج الأول.
في عام 1936، قدم عالم الرياضيات الإنجليزي آلان تورينغ فكرة جهاز كمبيوتر يمكنه إعادة كتابة التعليمات الخاصة به، ما يجعله قابلاً للبرمجة إلى ما لا نهاية. يمكن لتجريده الرياضي محاكاة آلة مهما كانت معقدة، مما يكسبها اسم "آلة تورينغ الشاملة".
تم الانتهاء من أول كمبيوتر رقمي إلكتروني موثوق، Colossus، في عام 1943 لمساعدة إنجلترا على فك رموز زمن الحرب. واستخدمت فيه أجهزة للتحكم في تدفق الإلكترونات مما أدى إلى جعله سريعاً.
ربما بوحي من مفهوم تورينغ للكمبيوتر القابل لإعادة البرمجة بسهولة، قام الفريق الذي أنشأ أول كمبيوتر رقمي إلكتروني في الولايات المتحدة، بصياغة بنية جديدة لخلفه. وصف عالم الرياضيات جون فون نيومان، الذي صاغ التصميم في عام 1945، نظاماً يمكنه تخزين البرامج في ذاكرته جنباً إلى جنب مع البيانات، وهو إعداد يسمى الآن بنية فون نيومان. يتبع كل جهاز كمبيوتر اليوم هذا الأنموذج تقريباً.
في عام 1947، تم اختراع الترانزستور، وكان ثورة حقيقية في زيادة كفاءة وسرعة الكمبيوتر.
في عامي 1958 و 1959 تم تصنيع الترانزستورات والدوائر الداعمة لها على شريحة في عملية واحدة.
لفترة طويلة كان الخبراء فقط هم القادرون على برمجة أجهزة الكمبيوتر. ثم في عام 1957، أطلقت شركة IBM لغة الفورتران، وهي لغة برمجة كان من السهل فهمها وما زالت مستخدمة حتى اليوم. وفي عام 1981، كشفت الشركة عن كمبيوتر IBM الشخصي، وأصدرت مايكروسوفت نظام التشغيل الخاص بها المسمى MS-DOS، لتوسيع نطاق وصول أجهزة الكمبيوتر إلى المنازل والمكاتب. كما قامت Apple بتخصيص الحوسبة مع أنظمة التشغيل الخاصة بها، مما وفر للمستخدمين استخدام مؤشر الماوس بدلاً من سطر الأوامر.
مكان الصورة الأولى
في غضون ذلك، كان الباحثون يعملون على تغيير طريقة تواصل الناس مع بعضهم البعض. في عام 1948، نشر عالم الرياضيات الأمريكي كلود شانون "نظرية رياضية للتواصل"، والتي عممت كلمة بت (للأرقام الثنائية) وأرست الأساس لنظرية المعلومات. لقد شكلت أفكاره الأساس لمشاركة البيانات. ثم وفي عام 1969، أنشأت وكالة مشاريع الأبحاث المتقدمة الأمريكية شبكة كمبيوتر تسمى ARPANET، والتي اندمجت لاحقاً مع شبكات أخرى لتشكيل الإنترنت. وفي عام 1990، طور الباحثون في سيرن - وهو مختبر أوروبي بالقرب من جنيف - قواعد لنقل البيانات التي من شأنها أن تصبح أساس شبكة الويب العالمية.
جعلت هذه التطورات التكنولوجية من الممكن للناس العمل واللعب والتواصل بطرق تستمر في التغير بوتيرة مذهلة.
ملاحقة السرعة
أجهزة الكمبيوتر تتحدث لغة البتات، وكلما زاد عدد الترانزستورات في الكمبيوتر، زادت سرعة معالجته للبتات، مما يجعل كل شيء ممكناً.
يشكل الجمع بين الترانزستورات إحدى اللبنات الأساسية للدارة، وتسمى البوابة المنطقية. ويمكن أن تحتوي شريحة الكمبيوتر على ملايين البوابات المنطقية.
لذا فكلما زادت البوابات المنطقية، زادت قوة الكمبيوتر. في عام 1965 كتب غوردون مور، أحد مؤسسي شركة Intel، ورقة بحثية عن مستقبل الرقائق، وفي حديث له عام 1975، حدد مور ثلاثة عوامل وراء تزايد قوة الكمبيوتر: ترانزستورات أصغر، ورقائق أكبر وذكاء الأجهزة والدارات. وتوقع أن تحدث مضاعفة قوة الكمبيوتر كل عامين. لقد فعلت، واستمرت في ذلك لعقود. هذا الاتجاه يسمى الآن قانون مور.
ولكن في مرحلة ما، تتدخل الفيزياء. لا يمكن لتطوير الرقائق أن يواكب قانون مور إلى الأبد، حيث يصبح من الصعب جعل الترانزستورات أصغر.
اليوم، لم يعد قانون مور ساري المفعول؛ المضاعفة تحدث بمعدل أبطأ. نستمر في ضغط المزيد من الترانزستورات على الرقائق مع كل جيل، لكن الأجيال تأتي بشكل أقل. يعمل الباحثون على عدة اتجاهات للمضي قدماً: ترانزستورات أفضل، ورقائق أكثر تخصصاً، ومفاهيم رقاقات جديدة، وتحسين البرمجيات.
يقول سانجاي ناتاراجان، الذي يقود تصميم الترانزستور في شركة إنتل: نعتقد أننا استخرجنا كل ما يمكننا ضغطه من بنية الترانزستور الحالية. في السنوات القليلة المقبلة، سيبدأ مصنعو الرقاقات في إنتاج ترانزستورات يكون فيها العنصر الأساسي على شكل شريط بدلاً من الزعنفة، مما يجعل الأجهزة أسرع وتتطلب طاقة ومساحة أقل.
التباطؤ
حتى عام 2004 تقريباً، أدى تقليص الترانزستورات إلى تحسينات في أداء الكمبيوتر... لكنه توقف الآن عن تقديم نفس الفوائد.
قد تستخدم بعض أنواع المسرعات يوماً ما الحوسبة الكمومية، والتي تستفيد من ميزتين للعالم دون الذري. الأولى هي التراكب، حيث يمكن أن توجد الجسيمات ليس فقط في حالة أو أخرى، ولكن في مجموعة من الحالات حتى يتم قياس الحالة بشكل صريح. والثانية هي التشابك، أي الاعتماد المتبادل بين العناصر الكمومية البعيدة. وهو ما يسمى نظام الكيوبتات.
يمكن أن تتخذ الكيوبتات عدة أشكال، ولكن أكثرها شيوعاً هو التيار في الأسلاك فائقة التوصيل. بحيث يجب أن تبقى هذه الأسلاك عند جزء صغير من درجة حرارة فوق الصفر، لمنع الذرات الساخنة المتذبذبة من التداخل مع التراكب والتشابك الدقيق للكيوبتات.
تمتلك أجهزة الكمبيوتر الكمومية العديد من التطبيقات المحتملة: التعلم الآلي ومحاكاة ميكانيكا الكم في العالم الحقيقي، لكنها لن تصبح على الأرجح أجهزة كمبيوتر للأغراض العامة.
مفاهيم الرقاقة الجديدة
لا تزال هناك طرق جديدة لتسريع ليس فقط المسرعات المتخصصة ولكن أيضاً الرقائق العامة. يشير توم كونتي، عالم الكمبيوتر في جامعة أتلانتا، إلى أنموذجين. الأول هو التوصيل الفائق، حيث تعمل الرقائق عند درجة حرارة منخفضة بما يكفي للقضاء على المقاومة الكهربائية.
الأنموذج الثاني هو الحوسبة العكسية، حيث يتم إعادة استخدام البتات بدلاً من طردها كحرارة. في عام 1961، دمج عالم الفيزياء في شركة IBM، رولف لانداور، نظرية المعلومات والديناميكا الحرارية، فيزياء الحرارة. وأشار إلى أنه عندما تأخذ البوابة المنطقية بتتين وتخرج واحدة، فإنها تدمر قليلاً، وتطردها على أنها عشوائية على شكل حرارة. عندما تعمل مليارات الترانزستورات بمليارات الدورات في الثانية، تتراكم الحرارة الضائعة، وتحتاج الآلة إلى مزيد من الكهرباء للحوسبة والتبريد.
ولكن في الحوسبة القابلة للعكس، تحتوي البوابات المنطقية على العديد من المخرجات مثل المدخلات. توصل بعض الباحثين إلى تصور لبوابات ودوائر منطقية قابلة للعكس لا يمكنها فقط حفظ تلك الأجزاء الخارجية الإضافية ولكن أيضاً إعادة تدويرها لإجراء حسابات أخرى.
يقول كونتي: اجمع بين الحوسبة العكسية والموصلية الفائقة وستحصل على "ضربة مزدوجة". تسمح لك الحوسبة الفعالة بإجراء المزيد من العمليات على نفس الشريحة دون القلق بشأن استخدام الطاقة أو توليد الحرارة.
تحسين البرمجيات
إن تحسين الكود يساعد في الحصول على مزيد من الفائدة.
في ورقة بحثية نُشرت عام 2020 في العلوم، درس الباحثون المشكلة البسيطة المتمثلة في ضرب مصفوفتين، وشبكات من الأرقام المستخدمة في الرياضيات والتعلم الآلي. تم إجراء الحساب أسرع بأكثر من 60 ألف مرة عندما اختار الفريق لغة برمجة فعالة وحسّن الكود للأجهزة الأساسية، مقارنةً بجزء قياسي من الكود في لغة بايثون، والذي يعتبر سهل الاستخدام وسهل التعلم.
توقع الناس، بمن فيهم مور، نهاية قانون مور بعد عقود من الزمن. ربما يكون التقدم قد تباطأ، لكن الابتكار البشري أبقى التكنولوجيا تتحرك بسرعة.
ملاحقة الذكاء
منذ الأيام الأولى لعلوم الكمبيوتر، سعى الباحثون إلى تكرار الفكر البشري. افتتح آلان تورينغ ورقة بحثية في عام 1950 بعنوان "آلات الحوسبة والذكاء" بعبارة: "أقترح التفكير في السؤال" و"هل يمكن للآلات أن تفكر؟"، وشرع في تحديد الخطوط العريضة للاختبار الذي أسماه: لعبة التقليد (تسمى الآن اختبار تورينغ )، حيث كان على الإنسان الذي يتواصل مع جهاز كمبيوتر وإنسان آخر عبر أسئلة مكتوبة عليه أن يحكم أيهما يفكر. إذا فشل في الحكم، فمن المفترض أن الكمبيوتر يفكر.
تمت صياغة مصطلح "الذكاء الاصطناعي" في اقتراح عام 1955 وذلك لإيجاد طريقة لجعل الآلات تستخدم اللغة، وتشكيل التجريدات والمفاهيم، وحل أنواع المشاكل المخصصة.
بعد أكثر من ستة عقود وساعات عمل لا توصف، ليس من الواضح ما إذا كانت التطورات ترقى إلى مستوى الحلم. يحيط بنا الذكاء الاصطناعي بطرق غير مرئية. فهل وصل إلى ما كان يدور في ذهن تورينغ: نظام يمكنه القيام بمعظم ما يفعله البشر.
خوارزميات
قد لا نحقق أبداً الذكاء الاصطناعي العام، لكن المسار قاد وسيؤدي إلى الكثير من الابتكارات المفيدة على طول الطريق. تقول دونيا بريكوب، عالمة الكمبيوتر في جامعة McGill: أعتقد أننا أحرزنا تقدماً كبيراً. لكن أحد الأشياء التي لا تزال مفقودة في الوقت الحالي هي فهم المبادئ الأساسية في الذكاء.
حقق الذكاء الاصطناعي تقدماً كبيراً في العقد الماضي، ويرجع الفضل في ذلك إلى التعلم الآلي. في السابق، كانت أجهزة الكمبيوتر تعتمد بشكل أكبر على الذكاء الاصطناعي الرمزي، والذي يستخدم خوارزميات تستند إلى قواعد وضعها الإنسان. من ناحية أخرى، تعالج برامج التعلم الآلي البيانات للعثور على الأنماط بمفردها. أحد الأشكال تستخدم الشبكات العصبية الاصطناعية، وهي برامج بها طبقات من عناصر الحوسبة البسيطة التي تحاكي معاً مبادئ معينة للعقول البيولوجية. أما الشبكات العصبية ذات الطبقات المتعددة، أو أكثر، فهي شائعة حالياً وتشكل نوعاً من التعلم الآلي المسمى التعلم العميق.
يمكن لأنظمة التعلم العميق الآن ممارسة ألعاب مثل الشطرنج. والتحكم بالروبوتات وتأليف الموسيقى. لكنها تفتقر أيضاً إلى الكثير مما يندرج تحت مظلة مصطلح الفطرة السليمة. إنها لا تفهم الأشياء الأساسية حول كيفية عمل العالم، جسدياً أو اجتماعياً. إن تغيير الصور قليلاً بطريقة قد لا يلاحظها الإنسان يمكن أن يؤثر بشكل كبير على ما يراه الكمبيوتر.
أنواع التعلم
كيف يمكن تحسين الذكاء الاصطناعي؟ يستفيد علماء الكمبيوتر من أشكال متعددة من التعلم الآلي. حيث يُطلق على أحد الأشكال الشائعة التعلم الخاضع للإشراف، حيث يتم تدريب أنظمة أو نماذج التعلم الآلي من خلال تغذيتها بالبيانات المصنفة، لكن هذا يتطلب الكثير من الجهد البشري. نهج آخر هو التعلم غير الخاضع للإشراف أو الإشراف الذاتي، حيث تتعلم أجهزة الكمبيوتر دون الاعتماد على الملصقات الخارجية، بالطريقة التي نتنبأ بها أنت أو أنا بالشكل الذي سيبدو عليه الكرسي من زوايا مختلفة أثناء تجولنا حوله.
نوع آخر من التعلم الآلي هو التعلم المعزز، حيث يتفاعل الأنموذج مع البيئة، ويستكشف تسلسل الإجراءات لتحقيق الهدف. أتاح التعلم المعزز للذكاء الاصطناعي أن يصبح خبيراً في ألعاب الفيديو.
للتعلم بكفاءة، تحتاج الآلات (والأشخاص) إلى التعميم، واستخلاص المبادئ المجردة من التجارب. تقول ميلاني ميتشل، عالمة الكمبيوتر في معهد سانتا في نيو مكسيكو: جزء كبير من الذكاء هو القدرة على أخذ المعرفة وتطبيقها في مواقف مختلفة.
في عام 2019، أنشأ الباحث بالذكاء الاصطناعي فرانسوا شوليت من غوغل نوعاً من اختبار الذكاء للآلات يسمى مجموعة التجريد والاستدلال، أو ARC، حيث يجب أن تكمل أجهزة الكمبيوتر الأنماط المرئية وفقاً للمبادئ الموضحة في أنماط الأمثلة. تعد الألغاز سهلة على البشر، ولكنها تمثل تحدياً للآلات حتى الآن.
تقول ميتشل: لقد لعبت مع الروبوتات كثيراً. إنها تفعل أشياء لا تصدق. ولكن يمكن أيضاً أن ترتكب بعض الأخطاء الغبية بشكل لا يصدق.
العواطف
قد يتطلب الذكاء الاصطناعي العام أيضاً جوانب أخرى من طبيعتنا الخاصة، مثل العواطف، وفقاً لإيليا سوتسكيفر، الشريك المؤسس وكبير العلماء في شركة OpenAI، فالعواطف تمنحنا هذه الجاذبية الإضافية من الحكمة. حتى لو لم يكن لدى الذكاء الاصطناعي نفس المشاعر الواعية التي نمتلكها، فقد يكون لديه رمز يقارب الخوف أو الغضب. يتضمن التعلم المعزز بالفعل عنصراً استكشافياً يشبه الفضول.
البشر ليسوا ألواحاً فارغة. لقد ولدنا ولدينا ميول معينة للتعرف على الوجوه وتعلم اللغة واللعب بالأشياء. تتطلب أنظمة التعلم الآلي أيضاً النوع الصحيح من البنية الفطرية لتعلم أشياء معينة بسرعة. ما مقدار الهيكل ونوعه موضوع نقاش حاد. يقول سوتسكيفر إن البناء بالطريقة التي نعتقد أننا مشكلون بها "مغر فكرياً". ومع ذلك، "نريد أفضل قائمة فارغة".
آليات التفكير
قد يساعدنا الذكاء الاصطناعي نفسه في اكتشاف أشكال جديدة من الذكاء الاصطناعي. هناك مجموعة من التقنيات تسمى AutoML، حيث تساعد الخوارزميات في تحسين بنيات الشبكة العصبية أو جوانب أخرى من نماذج الذكاء الاصطناعي.
قد يستغرق وصول AGI عقوداً. تقول ميتشل: نحن لا نفهم ذكاءنا الخاص لأن معظمه يكون عفوياً. وبالتالي، لا نعرف ما الذي سيكون صعباً أو سهلاً على الذكاء الاصطناعي. ما يبدو صعباً يمكن أن يكون سهلاً وهي ظاهرة تُعرف باسم مفارقة مورافيك، تيمناً بعالم الروبوتات هانز مورافيك الذي كتب في عام 1988: من السهل نسبياً جعل أجهزة الكمبيوتر تعرض أداءً بمستوى البالغين في حل المشكلات في اختبارات الذكاء، ومن الصعب أو المستحيل منحهم مهارات طفل يبلغ من العمر عاماً واحداً عندما يتعلق الأمر بالإدراك.
فرّق تورينغ بين الذكاء العام والذكاء الشبيه بالبشر. في ورقته البحثية عام 1950 حول لعبة التقليد، كتب، ألا يحق للآلات أن تنفذ شيئاً يجب أن يوصف بأنه تفكير ولكنه يختلف تماماً عما يفعله الإنسان؟ وجهة نظره: لست بحاجة إلى التفكير كشخص معين حتى تتمتع بذكاء حقيقي.
تصارع الأخلاق
في القصة القصيرة "Runaround" عام 1942، سرد أحد شخصيات إسحاق أسيموف القواعد الأساسية الثلاث للروبوتات. تجنبت الروبوتات إلحاق الأذى بالبشر أو السماح به، وأطاعت الأوامر وحمت نفسها، طالما أن اتباع قاعدة واحدة لا يتعارض مع القرارات السابقة.
قد نتخيل "العقول الإيجابية" لأسيموف وهي تتخذ قرارات مستقلة بشأن الأذى الذي يلحق بالبشر، ولكن هذا لا يمثل حقيقة كيفية تأثير أجهزة الكمبيوتر على رفاهيتنا كل يوم.
بينما تتغلغل أجهزة الكمبيوتر في حياتنا بشكل أكبر، سنحتاج إلى التفكير بجدية أكبر حول أنواع الأنظمة التي يجب إنشاؤها وكيفية نشرها، بالإضافة إلى المشكلات الوصفية مثل كيفية تحديد هذه الأشياء - ومن يجب أن يقرر - هذا هو عالم الأخلاق، والذي قد يبدو بعيداً عن الموضوعية المفترضة للرياضيات والعلوم والهندسة. لكن تحديد الأسئلة التي يجب طرحها حول العالم والأدوات التي يجب بناؤها يعتمد دائماً على مُثُلنا العليا وتورطنا. إن دراسة موضوع غامض مثل الأجزاء الداخلية من الذرات، على سبيل المثال، له تأثير واضح على كل من الطاقة والأسلحة. تقول باربرا غروسز عالمة الكمبيوتر من جامعة هارفارد: هناك حقيقة أساسية مفادها أن أنظمة الكمبيوتر ليست محايدة من حيث القيمة، وهي أنك عندما تصممها، فإنك تجلب مجموعة من القيم إلى هذا التصميم.
أحد الموضوعات التي حظيت باهتمام كبير من العلماء وعلماء الأخلاق، هو الإنصاف والتحيز. تُعلم الخوارزميات بشكل متزايد أو حتى تملي قرارات بشأن التوظيف والقبول في الكلية والقروض والإفراج المشروط. حتى لو كانت أقل تحيزاً مما يفعله الناس، فلا يزال بإمكانها معاملة مجموعات معينة بشكل غير عادل، ليس عن قصد ولكن غالباً لأنها مدربة على البيانات المتحيزة.
مصدر قلق آخر هو الخصوصية والمراقبة، نظراً لأن أجهزة الكمبيوتر يمكنها الآن جمع وفرز المعلومات لاستخدامها بطريقة لم يكن من الممكن تصورها من قبل. يمكن أن تساعد البيانات المتعلقة بسلوكنا عبر الإنترنت في التنبؤ بجوانب حياتنا الخاصة. يمكن أن تتبعنا ميزة التعرف على الوجوه في جميع أنحاء العالم الحقيقي، حيث تساعد الشرطة أو الحكومات الاستبدادية.
يمكن لأجهزة الكمبيوتر أيضاً تمكين الخداع. فالذكاء الاصطناعي قادر على إنشاء محتوى يبدو حقيقياً. يمكن استخدام النماذج اللغوية لملء الإنترنت بأخبار مزيفة وتجنيد مواد للجماعات المتطرفة، أو إنشاء صور أو مقاطع فيديو مزيفة لأشخاص يقومون بأشياء لم يفعلوها.
على وسائل التواصل الاجتماعي، نحتاج أيضاً إلى القلق بشأن الاستقطاب في وجهات نظر الناس الاجتماعية والسياسية وغيرها. بشكل عام، تعمل خوارزميات التوصية على تحسين المشاركة (وربح المنصات من خلال الإعلانات)، وليس الخطاب المدني. يمكن للخوارزميات أيضاً أن تتلاعب بنا بطرق أخرى.
إن الأنظمة الآلية التي تم إطلاقها في العالم الحقيقي قد تسببت بالفعل في حدوث أعطال مفاجئة في سوق الأسهم وقفزات كبيرة مفاجئة في أسعار الكتب في أمازون. إذا تم تكليف أنظمة الذكاء الاصطناعي باتخاذ قرارات مصيرية، فإنها تواجه مشكلة عربة التسوق الشهيرة، وهي تحديد من أو ما الذي يجب التضحية به عندما لا يتمكن الجميع من الفوز. ها نحن ندخل منطقة أسيموف.
هناك الكثير مما يدعو للقلق. يقترح راسل، من جامعة كاليفورنيا في بيركلي، أين يجب أن تكمن أولوياتنا: الأسلحة الفتاكة ذاتية التشغيل هي قضية ملحة، لأن الناس ربما ماتوا بالفعل، ويضيف: يمكن القول إن التحيز والإدمان على وسائل التواصل الاجتماعي والاستقطاب، هما مثالان على فشل محاذاة القيمة بين الخوارزميات والمجتمع، لذا فهم يعطوننا تحذيرات مبكرة عن الكيفية التي يمكن أن تسوء بها الأمور بسهولة.
هناك أيضاً أسئلة اجتماعية وسياسية وقانونية حول كيفية إدارة التكنولوجيا في المجتمع. من الذي يجب أن يحاسب عندما يتسبب نظام الذكاء الاصطناعي في ضرر؟ (على سبيل المثال، قتلت السيارات ذاتية القيادة "المشوشة" أشخاصاً). كيف يمكننا ضمان وصول أكثر تكافؤاً إلى أدوات الذكاء الاصطناعي وفوائدها، والتأكد من أنها لا تميز ضد الجماعات أو الأفراد؟ كيف ستؤثر أتمتة الوظائف المستمرة على التوظيف؟ هل يمكننا إدارة التأثير البيئي لمراكز البيانات التي تستهلك الكثير من الكهرباء؟ هل يجب أن نستخدم خوارزميات قابلة للتفسير بشكل تفضيلي ؟
ما الذي يمكن فعله؟
مايكل كيرنز عالم الكمبيوتر بجامعة بنسلفانيا، يضع المشكلات على نطاق من قابلية الإدارة. في أحد طرفيه هناك ما يسمى الخصوصية التفاضلية، وهي القدرة على إضافة ضوضاء إلى مجموعة بيانات، على سبيل المثال، السجلات الطبية بحيث يمكن مشاركتها بشكل مفيد مع الباحثين دون الكشف عن الكثير عن السجلات الفردية. يمكننا الآن تقديم ضمانات رياضية حول كيفية بقاء بيانات الأفراد محمية.
في مكان ما في وسط الطيف يوجد العدل في التعلم الآلي. طور الباحثون طرقاً لزيادة الإنصاف عن طريق إزالة أو تعديل بيانات التدريب المتحيزة، أو تعظيم أنواع معينة من المساواة - في القروض على سبيل المثال - ومع ذلك، ستظل بعض أنواع العدالة في صراع متبادل إلى الأبد، ولا يمكن للرياضيات أن تخبرنا أيها نريد.
إن القابلية للتفسير هي الأساس. على عكس الإنصاف، الذي يمكن تحليله رياضياً بعدة طرق، يصعب وصف جودة التفسير بمصطلحات رياضية. يقول كيرنز: أشعر أنني لم أرَ تعريفاً جيداً واحداً بعد. يمكنك أن تقول: هذه خوارزمية ستتخذ شبكة عصبية مدربة وتحاول شرح سبب رفضها لك للحصول على قرض، لكن "التفسير" لا يبدو مبدئياً. في النهاية، إذا لم يفهمه الجمهور، فهذا ليس تفسيراً جيداً، وقياس نجاحه - مهما حددت النجاح - يتطلب دراسات للمستخدم.
إن شيئاً مثل قوانين أسيموف الثلاثة لن ينقذنا من الروبوتات التي تؤذينا أثناء محاولتها مساعدتنا. وحتى لو امتدت القائمة إلى مليون قانون، طالما أن نص القانون لا يتطابق مع روحه. إن أحد الحلول الممكنة هو التعلم المعزز العكسي، حيث قد تتعلم أجهزة الكمبيوتر فك شيفرة ما نقدره حقاً بناءً على سلوكنا.
أيها المهندس عالج نفسك
في قصة أسيموف القصيرة، أوضح الكاتب ما أصبح "قانوناً صفرياً" حيث يجب أن تطبق القاعدة على مفهوم "الروبوتية" بدلاً من "الروبوت". من المؤكد أن العديد من علماء الكمبيوتر يتجنبون إيذاء الإنسانية، لكن العديد منهم أيضاً لا يتفاعلون بنشاط مع الآثار الاجتماعية لعملهم، مما يعرض الإنسانية للأذى بشكل فعال.
إحدى العقبات، وفقاً لغروسز، هي أن عدداً كبيراً جداً من الباحثين لم يتم تدريبهم بشكل صحيح في الأخلاق. لكنها تأمل في تغيير ذلك. حيث بدأت مع الفيلسوفة أليسون سيمونز برنامجاً في جامعة هارفارد يسمى الأخلاق المتضمنة (Embedded EthiCS)، حيث يتم تعيين مساعدين للتدريس حاصلين على تدريب في الفلسفة في دورات علوم الكمبيوتر ويقومون بإعطاء دروس حول الخصوصية أو التحيز أو الأخبار المزيفة. امتد البرنامج إلى معهد ماساتشوستس للتكنولوجيا وستانفورد وجامعة تورنتو.
تقول غروسز: نحاول حث الطلاب على التفكير في القيم ومقايضاتها.
هناك طريقة أخرى لتثقيف التقنيين حول تأثيرهم وهي توسيع التعاون. وفقاً لميتشل: يحتاج علم الكمبيوتر إلى الانتقال من اعتبار الرياضيات كل شيء ونهاية كل شيء، إلى الحفاظ على كل من الرياضيات والعلوم الاجتماعية وعلم النفس أيضاً. وتقول إنه يجب على الباحثين جلب خبراء في هذه الموضوعات.
يقول كيرنز: إذا ذهبوا في هذا الاتجاه، يجب عليهم أيضاً مشاركة خبراتهم الفنية مع المنظمين والمحامين وصانعي السياسات. خلاف ذلك ستكون السياسات غامضة للغاية بحيث تصبح عديمة الفائدة. بدون تعريفات محددة للخصوصية أو الإنصاف مكتوبة في القانون، يمكن للشركات اختيار ما هو أكثر ملاءمة أو ربحاً.
عند تقييم كيفية تأثير الأداة على المجتمع، غالباً ما يكون أفضل الخبراء هم أعضاء المجتمع أنفسهم. تدعو غروسز إلى التشاور مع مجموعات سكانية متنوعة. يساعد التنوع في كل من دراسات المستخدم وفرق التكنولوجيا. تقول غروسز: إذا لم يكن لديك أشخاص في الغرفة يفكرون بشكل مختلف عنك، فإن الاختلافات ليست أمامك.
----