1963年9月，在苏丹喀土穆大学召开的非洲高等教育机构负责人会议上决定创立非洲大学协会。1967年11月12日，在摩洛哥穆罕默德五世大学召开了成立大会。会议还通过了协会宪章。宗旨为促进非洲高等教育机构之间的交流、联系与合作；收集、整理、传播高等教育和研究方面的信息，尤其关注非洲地区；促进非洲高等教育机构之间在课程开发、研究生培养、科研、教学质量、资格认定、学位对等、教育政策等方面的合作；鼓励其成员积极应对发展变化的挑战，并且能够在国家、区域和全球层面的教育领域中发挥作用；了解并满足非洲大学及其他高等教育机构的需求；改善非洲高等教育的领导力、机构管理能力和政策环境；组织公共论坛，就高等教育问题进行信息传播、交流和政策对话；促进非洲高等教育领域中的性别和社会平等；加强与其他国际高等教育机构之间的交流合作。

非洲大学协会是非洲高等教育机构之间进行咨询、信息交流和合作的重要组织，旨在提高非洲高等教育的质量并通过教育促进非洲发展。成员为非洲地区的大学和其他高等教育机构，成员数量从最初的34个发展到现在的395个。工作语言为英语、法语、阿拉伯语和葡萄牙语。总部位于加纳首都阿克拉。协会现在主席是O.A.基兰博。

协会的资金来源主要为：会员缴纳的会费；协会对外提供服务所得的报酬；非盟和非洲各国政府的资助以及合作机构的赠款。

组织机构有非洲大学协会大会、非洲校长大会、董事会和秘书处。非洲大学协会大会是协会的最高权力机构，每四年召开一次，负责决策协会的总体政策；非洲校长大会是协会的常设机构，主要负责加强大学间的合作，每两年举行一次；董事会主要负责执行非洲大学协会大会的决策，每年召开会议；秘书处是协会的常设执行机构，负责执行董事会分配的任务。