بينما تعني إنسانيتك قدرتك على تحدي الصعاب، تحاول النبؤات الخوارزمية منافستك في ذلك.

بينما تقرأ هذه الكلمات، ربما تُشكل العديد من الخوارزميات النبؤات عنك. فعلى الأرجح صادفتك المقالة لأن الخوارزمية تنبأت بأنك ستقرأها. حيث يمكن للتنبؤات الخوارزمية أن تقرر ما إن كنت ستحصل على قرض أم وظيفة أم شقة أم تأمين، وأكثر من ذلك.

تواصل هذه التحليلات التنبؤية احتلال مساحات أكبر من الحياة، ومع ذلك لم يطلب أحدهم إذنك لرصد تلك النبوءات. فلا رقابة حكومية تُشرف عليهم ولا أحد يخبرك عن النبؤات التي من شأنها تقرير مصيرك. والأكثر سوءًا هو ما كشفه أحد أبحاث الكتب الأكاديمية لأخلاقيات التنبؤ حول ميادين المعرفة التي لم تُستكشف بعد. حيث غفلنا كمجتمع عن التداعيات الأخلاقية لرصد التنبؤات عن الناس – الذي يُفترض أن تغرس فيهم القوة والإرادة الحرة.

 يُجبل قلب الإنسان على تحدي الصعاب. أبطالها الخارقين هم من ذللوا الصعوبات في طريقهم مثل أبراهام لينكولن، والمهاتما غاندي، وماري كوري، وهيلين كيلر، وروزا باركس، ونيلسون مانديلا وغيرهم، فجميعهم قد كسر نجاحهم سقف التوقعات. فالمعلم في مدرسته يعلم أي من طلابه قد تعدى إنجازه ما جرى تناوله في بطاقته.

وبالإضافة إلى ترسيخ القواعد، نريد لمجتمعنا أن يُفسح الطريق لآليات تحدي الصعاب وتحفيزها. ولكن، كلما اتخذنا الذكاء الاصطناعي مرجعًا لتصنيف الناس والتنبؤ بالمستقبل وتحديد كيفية التعامل معهم على أساسه، تضاءلت الفاعلية الإنسانية، والذي بدوره يلقى بنا إلى الخطر المجهول.

 وقد بدأ البشر باستخدام التنبؤ ممنذ عصر الكاهنة دلفي. كانت الحروب تُشنّ على أساس تلك التنبؤات. وفي العقود الأكثر حداثة، استُخدم التنبؤ للإبلاغ بالإجراءات مثل تعيين أقساط التأمين. استندت هذه التنبؤات إلى أعداد كبيرة من الحالات، على سبيل المثال، عدد الأشخاص الذين ستتحطم سياراتهم من أصل مائة ألف شخص.

سيكون بعض هؤلاء الأفراد أكثر حظًا وحرصًا من الآخرين، ولكن أقساط التأمين تقريبًا متماثلة (باستثناء الفئات العامة مثل الفئات العمرية)، بافتراض أن تحمل المخاطر سيتسبب بتكاليف باهظة نتيجة الاستهتار وسوء الحظ على عكس الأشخاص الحذرين والمحظوظين الذين ستكون خسارتهم أقل نسبيًا. فكلما كان التكبد أكبر، كان التنبؤ بالأقساط الثابتة أكثر سهولة.

 واليوم، غالبًا ما تقوم خوارزميات التعلم الآلي مُستخدمة الإحصاءات لملء الفراغات في سطور المجهول. تستخدم لوغاريتمات النصوص قاعدة بيانات لغوية ضخمة للتنبؤ بأكثر نهاية منطقية لسلسلة من الكلمات. تستخدم خوارزميات الألعاب البيانات الخاصة بالألعاب السابقة للتنبؤ بأفضل خطوة مستقبلية يمكن اتخاذها.

تستخدم الخوارزميات التي تنطبق على السلوك الإنساني البيانات السابقة ليستنتج مستقبلنا؛ ما سوف نشتريه أو ما إن كنا سنغير وظائفنا أو إن كنا سنمرض أو إن كنا سوف نرتكب جريمة أو ستتحطم سياراتنا. في إطار هذا النموذج، لم يعد التأمين يقتصر على مجرد تحمل المخاطر المحتملة لعدد كبير من الناس. وإنما ستتخذ التنبؤات اتجاهًا فرديًا سيدفع بك إلى تحمل نفقاتك باستمرار وفقًا إلى حسابات المخاطر الشخصية التي يمكن أن تتعرض لها والتي تطرح ضربًا جديدًا من الاعتبارات الأخلاقية.

تتسم التنبؤات بعنصر مهم وهو بعدها عن الحقيقة. حيث يصف التنبؤ المستقبل وليس الحاضر، والمستقبل هو شئ لم يتحول إلى حقيقة بعد. التنبؤ هو مجرد تخمين تنبثق عنه التقييمات الذاتية والانحياز إزاء المخاطر والقيم. لا شك أن درجة دقة التنبؤات تتفاوت، ولكن العلاقة بين الإمكانية والواقع تتضمن قدرًا هائلًا من الهشاشة والإشكالات الأخلاقية يفوق ما يتصوره الناس.

وعلى الرغم من ذلك، كثيرًا ما تحاول المؤسسات اليوم تمرير التنبؤات وكأنها نموذج للواقع الموضوعي. وحتى إن كانت تنبؤات الذكاء الاصطناعي مجرد احتمالات، فإنهم يقرّون بأنها حتمية في الواقع العملي، ويعود ذلك إلى صعوبة استيعاب البشر لفكرة الامكانية، وأيضًا إلى أن تجنب المخاطرة محفوف بالمحفزات التي من شأنها تعزيز التنبؤات. فعلى سبيل المثال، إذا كان المتوقع لشخص أن يكون موظفًا فاشلًا بنسبة 75%، الشركات لن تجازف بتعيينه في ظل وجود منافسين يتضمن تعيينهم قدرًا أقل من المخاطرة.

وما يدعو للقلق إزاء هذا النقاش، هو طرح فكرة أن لو كان التنبؤ الدقيق ممكنًا – بغض النظر عن مصدره- فإن تلك التنبؤات ستكون قد حُددت بالفعل. وفي عصر الذكاء الاصطناعي، سيكون القلق بشأن ذلك هو بؤرة الاهتمام، إذا أن التحليل التنبؤي يستمر في استهداف البشر.

ويكمن إشكالنا الأخلاقي الرئيسي في أن وضع التنبؤات عن السلوك الإنساني بات يشبه التنبؤ بالمناخ، فأصبحنا نعامل البشر معاملة الجماد. فما يعنيه احترامك للإنسان هو أن تقدر إرادته وقدرته على تغيير ذاته وظروفه. فإذا ادعينا معرفة ما يحمله المستقبل لأحدهم قبل حلوله، بل ومعاملته على أساس ذلك، فسنكون بذلك قد حرمناه من حريته في التصرف وتذليل الصعوبات الناجمة عن هذا التنبؤ.

 أما ثاني الإشكالات الأخلاقية المتعلقة بتنبؤ السلوك الإنساني هو أن معاملة الإنسان كالجماد كفيلة بصنع نبؤة “تحقيق الذات”. فقلما تتسم التنبؤات بالحياد، بل في أكثر الأحيان قد لا تملك أمام تدخلات التنبؤات في الواقع سوى المراقبة. على سبيل المثال، عندما يتنبأ فيسبوك أن المنشور سينتشر بسرعة، فإنه يزيد من فرص ظهوره ويالمفاجأة! ينتشر كالنار في الهشيم. أو دعنا نعود لمثال الخوارزميات التي ستقرر أنك على الأرجح لن تكون موظفًا ناجحًا.

ربما لن تستطيع الخوارزمية أن تقدم تفسيرًا دقيقًا عن عجزك عن الحصول على الوظيفة، ولكنها سوف توجه الشركات للعزوف عن توظيفك وستعمل الشركات بالنصيحة. إدراج الخوارزمية لك في القائمة السوداء كفيل بالحد من خياراتك في الحياة بشدة.

في حالة الذكاء الاصطناعي، إن كانت التحليلات التنبؤية تساهم في تشكيل واقع قابل للتنبؤ، فإنها ستشارك حينذاك في المسؤولية عن الاتجاهات السلبية التي تواجهها في العصر الرقمي، بدءً من عدم المساواة إلى الاستقطاب والمعلومات المضللة وتعنيف الأطفال والمراهقين.

المصدر: https://www.wired.com

ترجمة: جهاد الجمل

مراجعة وتدقيق: زينب محمد