A múzeum 1930-ban nyitotta meg kapuit a Postavezérigazgatóság Krisztina körúti palotájának nyolcadik emeletén. A gyűjtemény hamarosan kinőtte a rendelkezésre álló helyet, ezért 1939-ben átköltözött az Erzsébetvárosban akkor elkészült Rimanóczy Gyula tervezte postaépületbe, mely az első modern kori műemléképület hazánkban. A Postapalota tervezésénél figyelembe vették a múzeumi szempontokat. Az épület és a kiállítóterem hangulatához illő mustárszínű, bélyegperforáció díszítésű csempék, melyek a múzeum lépcsőházát és márványtermét díszítik, egyedi megrendelésre készültek a Zsolnay gyárban.
A csempék mellett bélyeg előtti postabélyegzők lenyomatát idéző nagyobb domborművek tagolják a kiállítóterem előterét. A korai bélyegzőket sokszor maga a postamester készítette, így egyediek. Ilyen a patkó alakú, 1848-ban használt “Sárkeresztúr„ hely-kelet bélyegző, amelynek nagyított képe a kiállítóterem bejáratával szemben látható. A Zsolnay gyárban készültek a hasonló stílusú, kerámia díszvázák is.
A kiállítási helyiség egyetlen impozáns terem, mely látszatra egy hatalmas könyvtár hangulatát idézi. A bélyegeket ugyanis falba süllyesztett fémkeretes üveglapok között, hőtől, fénytől, párától védetten helyezték el. A kiállítóteremben 3200 kihúzható keretben “Világegyetem – bélyegtörténelem„ című állandó kiállításban közel 500 ezer művészi kivitelezésű bélyeg található. Az állandó világkiállítás legnagyobb és egyben teljes gyűjteményét a magyar bélyegek képezik.
