El museo está ubicado en el antiguo fuerte de San José de Buena Vista, donde se expone la historia militar de Guatemala, así como las diferentes batallas centroamericanas. Fue inaugurado en 1987 y fue llamado Museo Heráldico de Armas del Ejército de Guatemala, pero en el 1998 iniciaron trabajos de estructuración, los cuales culminaron el 25 de mayo de 1999, fecha en la que se le dio el nombre que actualmente se le conoce «Servicio de Historia Militar», Museo Militar.