El Archivo General Militar de Madrid tiene su origen en el Depósito de la Guerra, nacido en el año 1810 cuando se creó el Cuerpo de Estado Mayor, con la misión de conservar la documentación histórica, geográfica y topográfica precisa para conducir la Guerra de la Independencia, entonces en curso, e historiarla más tarde.
De esta forma el Ejército se adelantaba al conjunto de la Administración Civil en el objetivo de velar por su documentación, ya que el Archivo Histórico Nacional no nace hasta el año 1866.
El Archivo Histórico del Depósito de la Guerra quedaba definido, con tal denominación, en su Reglamento de 1873 de la siguiente manera: “El archivo histórico estará a cargo de esta Sección (Sección de Historia y Estadística Militar) y en él se guardarán todos los documentos referentes a guerras civiles o con ejércitos extranjeros que vayan ingresando a la disolución de los ejércitos de operaciones y las minutas u originales de memorias y otros trabajos que se hagan en la Sección de Historia. Estos documentos serán ordenados por el personal de la misma, cuyo jefe vigilará el buen orden del archivo, y cuando haya de hacerse algún extracto, anotación o expedirse certificado, precederá la autorización a dicho jefe para sacar los documentos.” (Art. 36).
El Depósito de la Guerra se suprimió definitivamente en 1931 y en 1939 se creó el Servicio Histórico Militar como Sección del Estado Mayor del Ejército, con la misión de ordenar y conservar la documentación en él existente, a fin de facilitar el estudio y la redacción de la historia militar española. Dentro del Servicio Histórico Militar se constituyó un Archivo Central que en el año 1998, por el Reglamento de Archivos Militares, recibió el nombre definitivo de Archivo General Militar de Madrid.