لماذا «تغرق» المساءلة وتصبح مسعى بعيد المنال؟
توزيع اللوم في عصر اتخاذ القرارات عبر الخوارزميات عملية محفوفة بالمخاطر
إذا كنت تسافر بالطائرة بشكل متكرر وعادة ما تكون سيئ الحظ، تخيل هذا السيناريو: هناك حجز يفوق الطاقة الاستيعابية ولتوفير أماكن يجب استبعاد بعض الركاب. وأولئك الذين لديهم عدد أقل من الأميال يتم استبعادهم أولاً. بالطبع يمكنك تقديم شكوى، لكن الشخص الذي ينفذ هذه السياسة ليس من وضعها، ولا يمكنه تغييرها. وحتى إن كان لديك رقم هاتف الرئيسة التنفيذية للخطوط الجوية، فهذا ليس خطأها: إنها سياسة الشركة.
استخدم دان ديفيز هذه التجربة الفكرية في كتابه الجديد الممتع «آلة عدم المساءلة»، لتوضيح ما يسميه بـ «غرق المساءلة»: فكتب القواعد، والإجراءات، وفي بعض الحالات مؤسسات كاملة في الحياة المعاصرة، نزعت بشكل أساسي المسؤولية الفردية من عملية اتخاذ القرار. مضيفة الطائرة التي ترافقك خارجها ليست مسؤولة ولا مديرها. رغم ذلك، فقد وافقت ضمنياً على هذه الاحتمالية عندما حجزت تذكرتك.
ورغم أن «غرق المساءلة» مصطلح جديد، إلا أن هناك مفكرين آخرين يتحدثون عن مشكلات مشابهة. ويتحدث الباحثون في مجال العدالة والمسؤولية والشفافية في تعلم الآلة عن «المسؤولية» (أي امتلاك فكرة واضحة عمن يجب اللجوء إليه عندما تنتج الخوارزمية قراراً لا يعجبك) و«القابلية للتفسير» (يجب أن يكون هذا الشخص قادراً على شرح سبب الوصول لهذا القرار بلغة مفهومة). ولهذا يشعر آخرون بالقلق من أن تعلم الآلة يخلق «فجوة في المسؤولية»؛ لم يعد فيها صناع القرار من البشر بحاجة إلى تحمل مسؤولية القرارات التي ينفذونها، أو حتى فهمها.
هناك بطبيعة الحال أمور في الحياة أسوأ من تأخر رحلة طيران. وفضيحة «ويند راش» مثال أشد خطورة على «غرق المساءلة»، حيث عانى عشرات آلاف البريطانيين المولودون في جزر الهند الغربية من سوء المعاملة، وفقد العديد منهم وظائفهم ومنازلهم، وتم ترحيل بعضهم من المملكة المتحدة عن طريق الخطأ، فمن المسؤول؟ هل هم مهندسو سياسة البيئة العدائية، التي نقلت تطبيق قوانين الحدود إلى كل مكان عمل، ومالك عقار، وخدمة عامة؟ أم هم البيروقراطيون الذين مزقوا بطاقات الوصول التي كان يمكن استخدامها كبديل لبطاقات الهوية؟ أم مجموعة من الحكومات التي شرعت قوانين تقيد حق مواطني الإمبراطورية البريطانية في التنقل بحرية داخلها؟
وبعد أن انتشرت هذه الفضيحة في الأخبار، كان الشخص الوحيد الذي استقال بسبب هذا الظلم هو آمبر رود، التي كانت جريمتها أنها وزيرة الداخلية، التي لم تنفذ هذه القرارات المهينة. وسرعان ما عادت، بعد غياب قصير، لتتولى منصبا رفيعاً في إدارة بوزارة أخرى مهمة. وهناك غياب مماثل للمساءلة يحدث الآن في خطة تعويض «ويند راش»، التي عرقلتها التأخيرات.
لكن ليس كل غياب للمساءلة سيئ. فعملية التوظيف التي تسمح لصديقي المدير التنفيذي باستبعاد طلب ابن أخي غير الكفؤ دون الإساءة لي هي أيضاً مثال على غياب المساءلة. قد ينتج عن القواعد الواضحة المنصوص عليها في كتب القوانين والإجراءات والخوارزميات ظلم كبير. لكنها على الأقل، قابلة للقياس والكشف، بعكس الأحكام المتسرعة التي نصدرها جميعاً كل يوم. والمبادئ التوجيهية لإصدار الأحكام في القضايا الجنائية هي في جزء منها وسيلة لإزالة التحيز الشخصي والظلم التعسفي في عملية تطبيق العدالة، رغم أنها نفسها قد تؤدي إلى ظلم تعسفي.
غياب المساءلة يعد نتيجة ثانوية للعيش في مجتمع أكثر تعقيداً، وسيؤدي نشر تعلم الآلة واتخاذ القرارات في السياسة العامة بواسطة الخوارزميات إلى كثير منها. استقلالية القاضي مقيدة بشدة في أغلب المجتمعات بالمبادئ التوجيهية والحدود الإلزامية لإصدار الأحكام، لكنه سيظل صاحب القرار النهائي حتى إن تلقى مساعدة من الخوارزميات. لكن، على من تقع المسؤولية عندما تخطئ هذه الأنظمة الرقمية، أو تنحرف بشدة في اتجاه أو آخر؟
وهناك مثال جيد يمكن رؤيته في فوائد وصعوبات استخدام برمجيات التعرف إلى الوجه. فرغم أن هذه التكنولوجيا تعمل حالياً بشكل أفضل من الحكم البشري وحده، إلا أنها لا تزال أكثر عرضة للخطأ في تحديد هوية الأشخاص ذوي البشرة الداكنة والنساء. على من تقع المسؤولية إذا ما أدى هذا إلى سوء تطبيق لعدالة؟ ومن الذي سيتحمل مسؤولية ضمان أن تكون البرمجيات في المستقبل أفضل مما هي عليه اليوم؟
لكن حتى الإنسان العادي غير المقيد بكتاب للقواعد، سيقع في كثير من الأخطاء أيضاً. وأنا أفضل أن أعرض نفسي لظلم عرضي من كتاب القواعد العادي، الذي من الناحية العملية هو مجرد خوارزمية، عن التعرض لقرار بشري غير مقيد. لكن بالنسبة للقادة، سواء أكانوا قادة شركات أم دول، فإن شرح الخطأ الذي حدث في عملية صنع القرار بمساعدة الآلة، يعني القدرة على التحدث بطلاقة عن معنى «غرق المساءلة»، ولماذا يحدث هذا، وما إذا كان ينبغي علينا التخلص منها.
