أنشئ المصرف العربي للتنمية الاقتصادية في أفريقيا بموجب قرار مؤتمر القمة العربي السادس المنعقد في الجزائر في 28 نوفمبر 1973 بهدف تعزيز التعاون الاقتصادي العربي الأفريقي.

وبعد ذلك ببضعة أشهر، وقعت 18 دولة عضو في جامعة الدول العربية (المساهمون) اتفاقية تأسيس في 18 فبراير 1974. وبدأ المصرف عملياته في مارس 1975، مجسداً على مدى 50 عامًا التضامن العربي الأفريقي الأصيل. 

والمصرف مؤسسة دولية مستقلة تتمتع بالاستقلال الإداري والمالي الكامل، وتحكمه اتفاقية تأسيسه ومبادئ القانون الدولي.

كان المقر الرئيسي للمصرف منذ البداية في الخرطوم (السودان) مع فرع في القاهرة (مصر)، ثم انتقل مؤقتًا إلى الرياض (المملكة العربية السعودية)، عملاً بقرار مجلس المحافظين في أبريل 2023، نتيجة التوترات في البلد المضيف.