Myšlenka založit železniční muzeum v Ostravě vznikla již v roce 2000. Tehdy České dráhy, Správa dopravní cesty Ostrava připravovala projekt na rekonstrukci historické výpravní budovy z 19. století v železniční stanici Ostrava střed, kde tyto prostory navrhla. Pro zamyšlené zaměření regionálního železničního muzea byla snaha dokumentovat historii železnice na Ostravsku od příjezdu prvního vlaku do Ostravy a Bohumína dne 1. května 1847 do současnosti a to ve specializovaných činnostech železnice především dopravy a železniční infrastruktury. Vzniká tak značný prostor pro práci zájemců o tuto část moravskoslezského regionu a jeho historii. Archivy jednotlivých odborných činnosti na železnici, které jsou dnes ve správě drah a ze kterých se dá čerpat, jsou v různých objektech a někdy, již u různých organizací. Sbírková činnost železničních artefaktů je prováděná jen zapálenými jednotlivci, většinou bez odborného hodnocení předmětů, bez jejich ošetření a bez znalosti jejich historie a souvislosti. A to zcela na vlastní náklady bez nároku na ocenění

Bylo konstatováno, že Ostravsko nemá železniční muzeum, ale není ani muzejní expozice, která by význam železné dráhy, tohoto fenoménu pro rozvoj dnes již Moravskoslezského kraje zaznamenala. Objektivně vzato jsou v Ostravě pro vznik železničního muzea podmínky jako málo kde!

a) Železnice v Moravskoslezském kraji má evropskou historii a kontinentální význam

b) Na Ostravsku, Opavsku a Těšínsku stále stojí historické stavby a objekty dráhy

c) v Ostravě a v regionu jsou odborně vzdělaní lidé s osobním nasazením pro věc dokumentovat historii železniční dráhy v regionu

d) Těšínské muzeum provozuje v Petřvaldě zdařilou dopravní expozici "místní dráha Moravská Ostrava - Karviná".

e) V kraji jsou sběratele originálních železničních artefaktů, kteří by rádi a své sbírky prezentovali na veřejnosti.

f) Nedaleký Bohumín byl a je dosud křižovatkou tří historických železničních drah: Severní Ferdinandovy dráhy, Pruské Hornoslezské dráhy prince Viléma, Košicko - bohumínské dráhy

Impulsem pro muzeum byla i skutečnost, že v současné době dochází k rychlé obměně techniky na železnici a původní technické a technologické předměty a zařízení jsou likvidovány. Taktéž lidé mají doma různé sbírky a nevědí, kam tyto dokumenty, zařízení a předměty umístit. Zároveň vzniká digitální fond, který není kde archivovat. Neexistuje jednotné místo, kde by byly umístěny historické údaje vývoje železnice na Ostravsku. V mediích jsou pak uváděny zkreslené informace o historických událostech. V mnoha ohledech mají muzejní knihovny ve srovnání s veřejnými knihovnami horší postavení. Nejsou dostatečně vybavené informačními technologiemi, takže nemohou využívat jejich možností. Často unikátní knižní fondy nejsou dostatečně zpracované. Tady je další možnost, aby železniční muzeum archivovalo vedle knih, rukopisů a historických fondů i jiné materiály a dokumenty jako jsou fotografie, plakáty, výstavní katalogy a podobně.

Praktickou myšlenku na zřízení železničního muzea v Ostravě znovu inicioval v roce 2006 vedoucí kanceláře vrchního přednosty Správy dopravní cesty v Ostravě pan Vojtěch Hermann. Využil situace, že v této době odešlo do důchodů několik vedoucích zaměstnanců vedení organizace z různých odborných činností. Jmenovitě to byl Ing. Ladislav Drozd, který vedl skupinu a dále to byl František Hromada, Ing. Milan Grim, Ing. Miroslav Brdíčko, Tomáš Havlín, Ing. Milan Růžička a Petr Woller. Poprvé se sešli 23. 11. 2006 a od prvního dne se velmi iniciativně zajímali o možnosti zřízení muzea v oblasti dopravy a infrastruktury, neboť oblast kolejových vozidel je již v Česku dostatečně podchycená. Jednali s možnými partnery, zajímali se o způsoby zřízení jiných muzeí na Ostravsku, ekonomickou stránku i místa pro vznik muzea. Hlavní překážkou však bylo místo - objekt pro muzeum. Vhodné objekty však byly v majetku Českých drah.

Přínosem pro zřízení železničního muzea byla i podnětná a dobře organizovaná akce Ostravského muzea ve dnech 1. - 3. února 2007 na Černé louce v Ostravě pod názvem - Setkání muzeí Horního Slezska a veletrh hornoslezských muzeí - byla zajímavým kulturním přínosem pro obyvatelé Ostravy, kteří se tak mohli seznámit s historii i současnosti, kdysi společného území spojeného železniční dráhou s hlavním městem rakouské monarchie Vídni, později pak s Berlínem, Krakovem a Košicemi. Na veletrhu muzeí vystavovalo celkem 18 polských a 8 českých muzeí. Nebylo překvapením, že železniční dopravou, její historii a zejména její důležitosti pro průmyslový rozvoj tohoto území se však nezabývala žádná expozice.

Bylo uvažováno že, muzeum bude určeno všem věkovým kategoriím, které by zde našly různé oblasti exponátů z historie železnice - původní železniční zařízení a předměty, historické fotografie, původní výkresy, písemné dokumenty, předpisy, jízdní řády, mapy, obrázky, filmy, knihy a časopisy se železniční tématikou apod. Předmětem úvah bylo, že součástí muzea by se stala i modelová železnice včetně prostorů pro modelářské fanoušky Na Ostravsku je dostatek odborníků, kteří by uměli toto modelové kolejiště postavit (muzeum však nyní nemá vhodné prostory).

Dojde k vytvoření jednotného místa pro umístění všech historických údajů vývoje železnice na Ostravsku. Muzeum zajistí archivaci vznikajícího digitálního fondu. Počítá s vlastní knihovnou, často unikátní knižní fondy, rukopisy a historické dokumenty nejsou dostatečně zpracované, chybí moderní informační technologie. Vedle toho muzeum může shromažďovat dobové fotografie, plakáty, výstavní katalogy apod. Byl záměr, aby zájemcům o badatelskou činnost z historie železnice byl zpřístupněn archív, včetně evidence odkazů na další archívy se železniční tematikou.

Muzeum tohoto charakteru v Česku není. Ostatní muzea jsou zaměřena na železniční vozidla a jen některá města mají muzea s menší expozici orientovanou na příslušnou místní regionální trať.

Při výběru vhodné budovy pro železniční muzeum se nejvhodnějším objektem jevila výpravní budova v železniční stanici Ostravě střed. Jde o historickou památnou budovu z roku 1880. Byla zachována původní architektura budovy a výpravní budova je ozdobou Statutárního města Ostravy. Patří mezi památky města a historicky do že1ezničního muzea zapadá. Dalším důvodem bylo, že budova muzea je v linii atraktivní trasy odpočinkové lokality Černá louka - obchodní zóna Karolina - muzeum Dolní oblast Vítkovice.

Bylo osloveno Generální ředitelství Českých drah, ale ze strany tehdejšího vedení Českých drah nebyl zájem ke vstřícnému pronájmu objektu. V roce 2008 tak byla činnost pracovní skupiny ukončena.

Další podnět na vznik železničního muzea byl v roce 2011. Již během veletrhu Czech Raildays bylo na toto téma hovořeno i se zástupci železničních firem na Ostravsku. Zájem byl, a proto byly podniknuty první kroky zakladatelů na vytvoření podmínek vzniku muzea. Byly osloveny České dráhy o možnosti vstřícného nájmu objektu pro železniční muzeum. Byly zpracovány návrhy činnosti a důvody pro vznik muzea. Zároveň zakladatelé jednali s lidmi, se kterými bylo uvažováno do správní rady a dozorčí rady.

Je obecně známo, že muzea při zahájení ani během provozu nemají na tržní nájem vhodného objektu, včetně případných stavebních investic. Muzeum je schopno si zajišťovat finanční a materiálové prostředky jen na svůj provoz. První jednání o výši nájmu proběhlo v prosinci 2011 na GŘ Českých drah. Vzhledem k personálním změnám na GŘ ČD proběhlo ještě jedno jednání dne 16. 01. 2012. Zde byla stanovena i reálnost výše nájmu. K tomuto byla zaslána oficiální písemná žádost připravovaného muzea, na kterou České dráhy odpověděly počátkem dubna. České dráhy vyšly železničnímu muzeu vstříc a stanovily akceptovatelné nájemné.

Ještě v tomto měsíci dne 25.04.2012 se sešli zakladatelé, navržení členové správní a dozorčí rady. Projednali rozsah činnosti. Bylo rozhodnuto, že do rozsahu činnosti muzea bude zahrnutá i historie železničního provozu na vlečkách hutí a šachet jako historické specifičnosti Ostravska. Byl potvrzen zájem přítomných se podílet na přípravě a zpracování podkladu pro zaregistrování muzea u Krajského soudu. Bylo rozhodnuto o vzniku neziskové organizace - obecně prospěšné společnosti. Bylo rozhodnuto o názvu, který by specifikoval územní rozsah činnosti železničního muzea. Byl schválen název Železniční muzeum moravskoslezské, o.p.s.. Zároveň zakladatelé navrhli a přítomní podpořili návrh na prvního ředitele muzea pana Vojtěch Hermanna.

Zakládací smlouvou ze dne 11. 06. 2012 byla založena obecně prospěšná společnost Železniční muzeum moravskoslezské, o.p.s., která vznikla 26. září 2012 zápisem do rejstříku obecně prospěšných společností, vedeném u Krajského soudu v Ostravě v oddílu O, vložka číslo 1086.

Zprovozňování muzea je dlouhodobý proces. Muzeum se bude postupně rozšiřovat podle příjmu sbírek artefaktů a dokumentace. Využije i dary soukromých sběratelů nebo lidí vlastnících různé historické dokumenty, zařízení a předměty. Vše bude evidováno v digitální formě - seznam, číslo exponátu, popis stavu, jméno dárce, hodnota apod.

Vznik železničního muzea podporuje také Statutární město Ostrava, Moravskoslezský kraj a Správa železniční dopravní cesty

České dráhy se staly Hlavním partnerem muzea.