Este Archivo comienza a fraguarse en 1972 con el inventario general de Archivos Parroquiales de Vizcaya, realizado por varios seminaristas. De ahí se dedujo la conveniencia de trasladar a un lugar adecuado la documentación de los archivos parroquiales anterior a 1900. El 29 de septiembre de 1976, un decreto de Monseñor Añoveros supuso la constitución del Archivo Histórico Eclesiástico de Bizkaia que comenzó su andadura el 2 de noviembre de ese mismo año, como un archivo de concentración de fondos parroquiales. Desde 1997, se pone en marcha el Servicio Diocesano de Archivos, dependiente también de la Delegación Diocesana de Patrimonio Histórico Cultural, con el fin de unificar la política archivística de la diócesis e implantar un sistema de gestión integral de todos los archivos diocesanos. Así, desde entonces, el AHEB-BEHA pasa de ser un archivo de concentración de parroquiales a integrarse y ser la pieza clave del sistema archivístico diocesano.