Suomeen alettiin 1950-luvulla suunnitella valtakunnallista merimuseota. Suomen merihistoriallinen yhdistys, alunperin Suomen Merimuseoyhdistys, perustettiin vuonna 1963 tukemaan museon perustamista Helsinkiin. Yhdistys kartutti tulevan museon kokoelmia ostamalla esimerkiksi 1930-luvun pikaveneen, Hai-veneen, Henry Alopaeuksen kymmenen hylyn pienoismallikokoelman sekä kokoelman 1700-luvun merikarttoja. Lahjoituksina hankittiin lisäksi muita pienoismalleja, laivatauluja, hinaajan höyrykone, laivojen kiinteitä varusteita, irtaimistoa ja työkaluja sekä S. Frosteruksen kirjasto. Yhdistys tuki myös Saimaasta 1971 nostetun purjehöyrylaiva Salaman tutkimusta ja kunnostusta sekä viimeisen höyrykäyttöisen valtionjäänmurtajan Tarmon pelastamista museoalukseksi.
Kun nykyisen Suomen merimuseon edeltäjä, merihistorian toimisto, vakiinnutti asemansa museoviraston organisaatiossa vuonna 1972, yhdistys päätti laajentaa toimintaansa merihistoriaan yleisemmin. Vuonna 1975 uudeksi nimeksi otettiin Suomen merihistoriallinen yhdistys ry − Sjöhistoriska föreningen i Finland rf. Tehtäväksi tuli merellisen historian ja perinteiden vaaliminen, merihistoriallisen tutkimuksen, museotoiminnan ja tallennustyön harjoittaminen ja tukeminen sekä merihistoriasta kiinnostuneiden yhteisöjen ja yksityisten ihmisten yhdyssiteenä toimiminen.
Yhdistys on 1970-luvun alusta lähtien toimittanut ja julkaissut Suomen merimuseon vuosikirjana aloittanutta Nautica Fennica -sarjaa yhdessä Museoviraston kanssa. Vuorovuosin Nautica Fennican kanssa toteutettavia Merihistorian päiviä on järjestetty vuodesta 2001 alkaen.
Suomen merihistoriallisen yhdistyksen (vuoteen 1975 Suomen merimuseoyhdistys) entiset puheenjohtajat, varapuheenjohtajat ja sihteerit
Puheenjohtajat:
Kontra-amiraali Svante Sundman 1964−1967
Vara-amiraali Oiva Koivisto 1968−1971
Toimitusjohtaja Aatos Erkko 1972−1973
FT Nils Cleve 1974−1975
FM Pertti Koistinen 1976−1978
Kontra-amiraali Jorma Haapkylä 1979−1995
Kommodori Raimo Tiilikainen 1996−2002
Pääsihteeri Sakari Lehmuskallio 2003-2011
Dosentti Tapio Bergholm 2012−2017
FT Kirsi Keravuori 2018-2020
Varapuheenjohtajat:
FT Nils Cleve 1964−1971
FM Christoffer Ericsson 1972−1973
Komentaja Tapani Mattila 1974−1975
FM Henrik Rosenius 1976−1996
Yli-insinööri Jouni Arjava 1997−1998
Professori Juhani Sukselainen 1999−2001
Professori Yrjö Kaukiainen 2001-2010
Amanuenssi Anne Ala-Pöllänen 2011-2014
Merikapteeni Yrjö Tiitinen 2015−2017
Merikapteeni Hannu Vartiainen 2018-2020
FT Aaro Sahari 2020–2024
Sihteerit:
FM Christoffer Ericsson 1964−1971
HuK Risto Halme 1972−1973
FM Christoffer Ericsson 1974−1976
FT Valto Veltheim 1977−1981
DI Ora Patoharju 1982−1998
FM Tytti Nieminen 1999−2002
Fil. yo. Essi Tulonen 2003
FM Miia-Leena Tiili 2004−2006
FM Aaro Sahari 2007−2009
Fil. yo. Vilma Lempiäinen 2010−2014
Fil. yo. Ville Honkanen 2015−2017
Fil.yo. Heikki Laurila 2018-2019