Los fondos del Archivo proceden de las instituciones del ramo de la Guerra, tanto de sus órganos centrales, como de las Armas y órganos territoriales como las Capitanías Generales. Otra de las instituciones que también está representada es el Consejo Supremo de Guerra y Marina.
Con carácter general, los fondos se dividieron en nueve secciones: Personal (1ª), Asuntos (2ª), Material (3ª), Documentación del Ministerio de la Guerra referente a Ultramar (4ª), Consejo Supremo de Justicia Militar y Vicariato Castrense (5ª), que no se llegó a recibir; Capitanías Generales, Comandancias Generales Exentas, Subinspecciones, Gobiernos y Comandancias Militares (6ª), Tropa (7ª), Documentación procedente de la Caja General de Ultramar y Depósitos de Bandera y Embarque (8ª) y Justicia (9ª).
El continuo crecimiento del Archivo y la escasez de espacio obligaron en algunos momentos a la transferencia de ciertas secciones a otros archivos generales. Así la documentación del Ministerio de la Guerra referente a Ultramar fue transferida en 1982, al Archivo Central del Servicio Histórico Militar, actualmente Archivo General Militar de Madrid. Con el mismo destino, entre 1984 y 2010, se transfirió toda la documentación de las Capitanías Generales
Igualmente, fueron transferidas al mismo centro las divisiones de la Sección Sexta referentes a Ultramar y la División de Campañas de la Sección 2ª (“Asuntos”).
Por último, la Sección Séptima que incluía la documentación de tropa, se disgregó del archivo en 1967 para ser el núcleo en torno al que se creó el Archivo General Militar de Guadalajara, especializado en esta documentación.
Actualmente el archivo custodia más de 81.000 unidades de instalación que ocupan casi 15.000 metros lineales de estanterías.