海軍士官学校は、1946年1月17日に創設されて以来、李舜臣将軍に関する文献資料を収集してきました。これらの文献資料を展示するために図書館内に文献展示室を臨時に設け運営していました。その後、開校30周年を記念する1976年1月17日を迎えるにあたり、海軍士官学校博物館が創設されましたが、当時は李舜臣将軍に関する文献展示室を拡張したに過ぎませんでした。創設当時の海軍士官学校博物館は、図書館の一部を借りて運営されていましたが、1981年2月23日に独立した博物館の建物を現在の位置に新築しました。そして1990年4月28日には博物館を増築し、現在の形となりました。