El Archivo se encuentra ubicado en el Palacio de los Marqueses de Santa Cruz en El Viso del Marqués (Ciudad Real), que fue cedido a la Armada en régimen de alquiler por una cantidad simbólica (una peseta al año) durante un plazo prorrogable de noventa años, para establecer allí un archivo-museo dedicado a la figura de D. Álvaro de Bazán, primer marqués de Santa Cruz.
El Palacio fue construido a mediados del s. XVI, siguiendo las características de los palacios genoveses de la época y está declarado Monumento Nacional por Decreto 3 de junio de 1931.
Consta de dos plantas y la mayoría de sus salas, así como las galerías alta y baja y la escalera, están pintadas al fresco. El Archivo se encuentra instalado en las salas o dependencias que no tienen decoración pictórica (salvo la Sala de Ulises que se utiliza como Sala de Investigadores), en el sótano del edificio.
Desde 1950, durante dieciocho años, recibió transferencias continuas de documentos hasta que a finales de los años sesenta los depósitos llegaron al límite de su capacidad. Este hecho propició un acuerdo en 1974 entre la Armada y el entonces Ministerio de Educación para transferir documentación en calidad de depósito al Archivo General de la Administración. La salida de documentos a este archivo y la realización de diversas obras de acondicionamiento en los depósitos permitieron al Archivo General de la Marina, a partir de los años 80, reanudar los ingresos de fondos aunque, dada la capacidad limitada del edificio, se han producido ya de manera irregular y esporádica y en número prácticamente testimonial.