海军士官学校于1946年1月17日开馆，主要收集李舜臣相关文献资料，并在图书馆内设立了临时文献展览室，以展出这些文献资料。

1976年1月17日正值30周年校庆日，创设了海军士官学校博物馆。博物馆创设初期并未集中收集李舜臣的相关文献。而且当时博物馆的规模也很小，只是借用了图书馆建筑的一部分，只有一件办公室那么大。

1980年1月31日博物馆的规模扩建到李舜臣创造的龟船大小，并在VIP码头展出；1981你那2月23日在海事半岛，也是就是现在博物馆的位置上建立起了博物馆。1990年4月28日博物馆进一步扩建，保留至今。