ذكاء اصطناعي يمكن من خلاله فهم نتائج الحل من قبل البشر، بعكس مفهوم ” الصندوق الأسود ” في التعلم الآلي حيث لا يستطيع حتى مصمموه شرح سبب توصل الذكاء الاصطناعي إلى قرار معين، حيث يمكن لـ XAI تحسين تجربة المستخدم لمنتج أو خدمة، من خلال مساعدة المستخدمين النهائيين على الثقة في أن الذكاء الاصطناعي يتخذ قرارات جيدة، أي أن الهدف من XAI هو شرح ما تم إنجازه، وما تم القيام به الآن، وما الذي سيتم القيام به بعد ذلك، والكشف عن المعلومات التي تستند إليها الإجراءات وغيرها، ومثل هذه الخصائص تساعد في التوصل لعدة أمور مثل تأكيد المعرفة الحالية، أو توليد افتراضات جديدة، أو الكشف عن التحيز في مجموعة بيانات التدريب وبالتالي تصحيحه.
