ارتباك

يشير أعضاء المنظمة العالمية للمستهلك إلى أنه قد يكون هناك تشويش واسع النطاق حول التقارير الائتمانية. كشفت الأبحاث التي أجراها تشويس عضونا في استراليا أن 1 من كل 3 من المستهلكين الأستراليين قالوا إنهم لم يفهموا كيفية عمل التقارير الائتمانية. وبالمثل، منظمة ويتش؟ في المملكة المتحدة وجدت أن 5 ٪ فقط من المشاركين يمكن أن تحدد بشكل صحيح الإجراءات التي أثرت على تقييم الائتمان الخاص بهم من قائمة من 20 خيارا

يمتد هذا الالتباس أيضًا إلى عدم فهم السيطرة التي يتمتع بها المستهلكون على معلوماتهم. في كوريا الجنوبية و المملكة المتحدة و أستراليا، يحق للمستهلكين الوصول إلى عدد محدود من التقارير الائتمانية المجانية، لكنهم غالبًا ما يكونون غير مدركين لهذا الحق أو يعتقدون أن التقدم بطلب للحصول على تقرير ائتماني قد يضر بدرجة الائتمان الخاصة بهم

هذا مصدر قلق خاص كما أظهرت الدراسات أنه يمكن أن يكون هناك عدد لا يحصى من الأخطاء الواردة في التقييمات. أشارت منظمة تقارير المستهلك إلى أن لجنة التجارة الفيدرالية قد وجدت أن حوالي واحد من كل خمسة مستهلكين، أو ما يقرب من 40 مليون شخص، كان لديه خطأ في أحد تقارير الائتمان الخاصة بهم

الارتباط ، وليس السببية

من خلال مصادر البيانات البديلة، يتمثل الهدف في إنشاء صورة أكثر شمولية لقدرة المستهلك على سداد القرض عن طريق تجميع مجموعة أكبر من البيانات وتحليلها بسرعة باستخدام الخوارزميات. إذا أصبح استخدام الخوارزميات والذكاء الاصطناعي في إعداد التقارير الائتمانية أكثر انتشارًا وتطوراً، بما في ذلك التعلم الآلي بدلاً من التحليل البسيط، فقد يواجه المستهلكون المزيد من المخاطر

على الرغم من أن الذكاء الاصطناعي يمكن أن يكون بارعًا في اكتشاف الأنماط، إلا أنه يميل إلى تحديد الارتباط بدلاً من العلاقة السببية. استخدمت إحدى الدراسات البصمات الرقمية للتنبؤ بمن يسدد قرضًا ووجدت أن مستخدمي كمبيوتر Mac و Gmail يمثلون مخاطر ائتمان أفضل من مستخدمي حساب PC و Hotmail هذا يسلط الضوء على إمكانية الخوارزميات للتمييز على أساس الارتباطات، والتي تصبح أكثر قلقًا عند تطبيقها على الخصائص الاجتماعية مثل العرق أو الجنس أو الدخل

تشي تشي وو من المركز الوطني لقانون المستهلك، شهدت أمام مجلس النواب الأمريكي في يوليو 2019 على استخدام البيانات البديلة في سجل الائتمان، مشيرة إلى أن استخدام الخوارزميات يمكن أن يُعيد إنتاج التباينات والإجحاف المسبق. وقد شجعت على الحاجة إلى النظر في الآثار الاجتماعية الأوسع نطاقًا بدلاً من مجرد توقعات خوارزمية

أخيرًا، من الأهمية بمكان أن نلاحظ أن النتائج التي تنتجها الخوارزميات لا يمكن أن تكون جيدة مثل المعلومات التي تستخدمها. نظرًا للمخاوف الخطيرة حول دقة وأهمية بعض بيانات تسجيل الائتمان، لا ينبغي اعتبار الذكاء الاصطناعي حلاً معجزة للمشاكل القائمة