Tendo o seu acervo sido tombado pelo Instituto Estadual do Patrimônio Cultural do Estado do Rio de Janeiro (INEPAC), o Arquivo da Marinha tem por finalidade a custódia, o processamento técnico, a conservação e o acesso aos documentos para o público em geral. Está estruturado em três divisões: Divisão de Documentos Escritos, Divisão de Documentos Especiais e Divisão de Acesso à Documentação.
O Arquivo da Marinha é, ainda, o responsável pelo acompanhamento e pela implementação da Política Nacional de Arquivos no âmbito da Marinha do Brasil.