През 1885 г. за уредник на морската музейна сбирка е определен инженер-механикът Павел Кузмински. Първите експонати са предимно образци на въоръжение и технически пособия. От това време има съхранено лично оръжие и лични вещи.

Идеята за морски музей във флота се развива. В края на Първата световна война във Варна има реални предпоставки за откриването му: набрани са експонати, намерени са реализатори и поддръжници на инициативата, осигурено е помещение. Отварянето на музея е предшествано от решение на Управителния съвет на Българския народен морски сговор (БНМС) от август 1921 г. музейната сбирка да бъде преместена от Русе във Варна. Издействано е да бъдат предоставени две стаи в тогавашната Девическа гимназия. Инициаторите са офицерите Георги Славянов, Иван Михайлов, Сава Иванов. Сред първите уредници са имената на Протаси Пампулов, Ст. Цанев, Джеферов. Привлечен е видният археолог Карел Шкорпил. Чертежите, плановете, диаграмите и легендарното „Морско дъно” се дължат на руския полковник Александър Полубояринов, археолог по образование.

Официалното откриване и освещаване на Морския музей (както се нарича тогава) става на 20 май 1923 г., с което може да бъде определен за първия публичен морски музей в България. Осветен е от Варненския и преславски митрополит Симеон. В словото на Карел Шкорпил четем: „Целта на музея е да разучи и представи на обществото развитието на българското мореплаване… има [за задача] да пропагандира идеята за любов към морето, нуждите от неговото опознаване и грамадните облаги от него. В музея ще се запознае посетителят с историята на бившия ни военен и търговски флот…“.

В следващите десетилетия постоянен служител, който е и уредник, и охранител, е Олга Полубояринова.

Дълго време съществуването на музея и оцеляването му се дължат на обществената подкрепа в лицето на БНМС. Сговорът основава фонд „Музей“ и чрез него и доброволни дарения издържа музея.

С министерска заповед № 46/10 април 1955 г. Морският музей влиза в системата на Министерството на народната отбрана под названието Военноморски музей като филиал на Централния музей на народната армия (днес Национален военноисторически музей). Разположен е в сградата на бул. „Приморски“ № 2. Официалното откриване става със заповед на министъра на народната отбрана от 9 август 1956 г. Скоро заложената още в началото идея започва да се налага – съхраняването и популяризирането на достойното минало на морска България в по-широкия смисъл – корабоплаване, корабостроене, прояви в морските спортове и в художествената маринистика. Днес музеят съхранява колекции от морско оръжие – мини, брегова и корабна артилерия, от униформи и отличия, от корабни модели, голям брой фотографии и др.

С Военноморския музей са свързани първите подводни археологически проучвания в България. Първата такава експедиция е организирана през 1959 г. при нос Калиакра. През следващите десетилетия са проведени поредица от изследвания– край нос Калиакра, при Шабла, във Варненския залив и пр.

Музеят е носител на орден „Кирил и Методий“ І степен, с който е награден през 1973 г. по случай 50-годишнината от откриването на експозицията му във Варна.

Стотици хиляди посетители са минала през откритата и закритата експозиция, където са изложени общо около 1200 предмети. Има години, в които музеят е от най-посещаваните: през 1973 г. е връчена специална грамота на двумилионния посетител (считано от 1956 г.) – съветска гражданка, а в отчетите от 80-те години на ХХ в. виждаме посещаемост от по 200 000 – 250 000 годишно.

След ремонт на сградата през 2012 г. постоянната експозиция е изцяло обновена.

В цялото си съществуване музеят се ползва със специалното отношение на варненската морска гилдия. Няма момент от историята му, в който да не е усещана грижата от страна на командването на Българския военен флот. Днес сред най-близките съмишленици на Военноморския музей е Сдружение „Национален морски музей“.