لا يجب أن يقتلك الذكاء الاصطناعي لجعل حياتك أسوأ أو يؤدي إلى نتائج سياسية سيئة.
إن التهديد الذي يتسبب فيه الذكاء الاصطناعي في حدوث نوع من الكوارث المجتمعية هو ، بالطبع ، سبب يجب أن نقلق بشأن البحث والأخلاق والشفافية. لكن هذا التركيز على احتمالية وقوع كارثة يمكن أن يصرف الانتباه أحيانًا عن الأخطار العادية.
إحدى النتائج غير السعيدة للتنبؤات المستمرة المؤلمة حول أسوأ عواقب الذكاء الاصطناعي أو برامج التعلم الآلي هي أنها تشجع نوعًا من الرضا عن الرضا عن الرضا عن انتشارها الحالي في السياسة العامة واتخاذ القرارات التجارية. .
والمشكلة الأكثر شيوعًا هي أنه بالنسبة لواضعي السياسات وقادة الأعمال على حدٍ سواء ، فإن كلمة “خوارزمية” يمكن أحيانًا أن تكون مشبعة بقوى سحرية. ومن الأمثلة الحديثة الجيدة على محاولة حكومة المملكة المتحدة الفاشلة تخصيص درجات للطلاب أثناء الوباء. لكن الخوارزمية هي مجرد مجموعة من البيانات التي يتم تغذيتها من خلال القواعد أو الصيغ الرياضية لإنتاج نتيجة. نظرًا لعدم وجود طالب بريطاني يجلس في GCSE أو المستوى A لديه الكثير من البيانات المفيدة حول أدائه ، كانت “الخوارزمية” في المملكة المتحدة تعسفية بشكل أساسي على المستوى الفردي. وكانت النتيجة صرخة عامة ، وخوارزمية مهجورة ، وتضخم متفشي في الدرجة.
إن الاستخدام الأكثر إثارة للقلق للخوارزميات في السياسة هو ما يسمى “خوارزميات الصندوق الأسود”: تلك التي يتم فيها إخفاء المدخلات والعمليات عن الرأي العام. قد يكون هذا بسبب اعتبارها معلومات ملكية: على سبيل المثال ، العوامل التي يقوم عليها نظام Compas ، المستخدم في الولايات المتحدة لقياس احتمالية إعادة ارتكاب الجريمة ، ليست متاحة للجمهور لأنها تعامل على أنها ممتلكات الشركة.
هذا يطرح حتما قضايا للديمقراطية. يجب على أي نظام مصمم لقياس احتمالية عودة شخص ما إلى الإجرام أن يختار بين السماح لأولئك الذين قد يستمرون في ارتكاب الجريمة مرة أخرى ، أو الاستمرار في حبس الأشخاص المستعدين ليصبحوا أعضاء منتجين في المجتمع. لا توجد إجابة “صحيحة” أو “عادلة” هنا: يمكن أن تشكل الخوارزميات طريقة اتخاذك للقرار ، لكن الحكم في نهاية المطاف هو قرار يجب أن يتخذه السياسيون وناخبوهم بشكل غير مباشر.
كما لاحظ الإحصائي ديفيد سبيجلهالتر ، لا يوجد فرق عملي بين القضاة الذين يستخدمون الخوارزميات والقضاة الذين يتبعون إرشادات إصدار الأحكام. يكمن الاختلاف المهم في أن المبادئ التوجيهية لإصدار الأحكام مفهومة بوضوح ومتاحة للجمهور وخاضعة للنقاش الديمقراطي.
لم تكن خوارزمية الاختبار المحكوم عليها بالفشل في المملكة المتحدة “صندوقًا أسود” بسبب قوانين الملكية الفكرية أو الرغبة في حماية شركة ما لمصالحها ، ولكنها كانت نتيجة لتفضيل الدولة البريطانية الافتراضي لاتخاذ قرارات مبهمة. لو كانت طريقة عمل العملية قد أتيحت في وقت سابق ، لأصبحت المعارضة السياسية لها واضحة في الوقت المناسب لإيجاد حل أكثر استساغة.
الشكل الآخر لخوارزمية الصندوق الأسود هو الشكل الذي تكون فيه المعلومات متاحة للجمهور ولكنها معقدة للغاية بحيث لا يمكن فهمها بسهولة. هذا ، مرة أخرى ، يمكن أن يكون له آثار وخيمة. إذا كانت الخوارزمية التي تقرر من تم تسريحه لا يمكن فهمها بشكل معقول من قبل الموظفين أو ، في الواقع ، أصحاب العمل ، فهي أداة سيئة للمديرين وتسبب التعاسة. في السياسة العامة ، إذا كانت العمليات الخارجية للخوارزمية معقدة للغاية ، فإنها يمكن أن تربك النقاش بدلاً من مساعدة صانعي السياسات على اتخاذ قرارات أفضل.
يقترح سبيجلهالتر عملية من أربع مراحل للخوارزميات والتعلم الآلي في السياسة العامة ومكان العمل ، يمكن مقارنتها بالعملية التي يجب أن تمر بها المستحضرات الصيدلانية في المملكة المتحدة من أجل الموافقة عليها. أحد الأسباب التي تجعل هذه الخطة جيدة هو أنها يمكن أن تتجنب خطأ إنهاء العالم: لكنها يمكن أيضًا أن تتجنب المآسي الصغيرة وإخفاقات السياسة العامة أيضًا.
ماهر حمصي