La Escuela Especial de Estado Mayor se creó en 1842. La biblioteca, como tal, empezó a formarse hacia 1848 cuando se traslada al Acuartelamiento de Guardias de Corps, actual Cuartel de Conde Duque, en Madrid. Tras ocupar distintas sedes en Madrid se traslada a la Calle de Santa Cruz de Marcenado en 1920 donde permanece hasta la actualidad.