Pustinja je jedan od najvećih i najpoznatijih muzeja u našoj zemlji. Njegova najbogatija kolekcija nalazi se u nekoliko zgrada. Glavni muzejski kompleks smješten je na obali Neve. Unatoč višesatnoj gradnji, ove građevine formiraju jedinstven arhitektonski ansambl.
Četiri od pet zgrada kompleksa s pogledom na palaču gleda na nasip palače. Zimska palača ostavlja trajan dojam. Izgrađena je kao svečana kraljevska rezidencija 1754. - 1762. prema nacrtu Francesca Bartolomea Rastrellija. Upravo je ta građevina odredila jedinstveni arhitektonski izgled ansambla na obalama Neve. Palača je sagrađena u stilu ruskog baroka. Vrlo je elegantan, upečatljiv u razmjeru, bogatstvu i raznolikosti arhitektonskog uređenja. Istodobno, cjelovitost i proporcionalnost dijelova daju stvaranju Rastrellija skladnu i svečanu sliku.
S lijeve strane je Mali pustinjak. Proteže se okomito na Nevu i gleda na palački nasip s uskom pročeljem. Mali pustinjak je stvoren posebno za smještaj kolekcije Katarine II. Gradnja se nastavila od 1764. do 1775. godine. Zgrada je podignuta pored Zimske palače kao "zgrada u nizu" i zbog toga je njena arhitektonska odluka morala biti usklađena s odlukom palače. Arhitekti Felten i Valen-Delamot stvorili su jednu od prvih i najfiniranijih zgrada ranog klasicizma. No svojim se klasičnim oblicima Mali pustinja uspješno pridružuje baroknoj Zimskoj palači velikodušno zasićenoj ukrasnom plastikom. Mali pustinjak je proporcionalan palači: poput Zimske palače podijeljen je u dva sloja, donji služi kao osnova za svjetliji gornji dio. U drugom je sloju izgrađena kolona korintskog reda, slična palači.
Izgradnja Malog pustinja još nije dovršena, kad su zbog sve veće kolekcije umjetničkih predmeta počeli graditi novu zgradu - Veliki pustinjak, a od sredine 19. stoljeća nazvana je Stara. Godine njezina stvaranja od 1771. do 1787. Arhitekt Felten uspješno je ušao u novu zgradu na prednju tribinu fasada, odlučivši je sažeto i strogo. To je pokazalo takt arhitekta. Naglasio je reprezentativnost Malog pustinjaka i plastičnu ekspresivnost glavne zgrade ansambla - Zimske palače.
Felten je hrabro povezao zgradu Starog pustinjaka s lukom Ermitažova kazališta. Bačena je preko Zimskog kanala. Kazalište je sagrađeno 1783. - 1786. prema projektu arhitekta Giacoma Quarenghija. Ovo je izvrstan primjer visokog ili strogog klasicizma. Quarenghi je nastavio jasan ritam zgrada prethodnih stvaralaca kompleksa. Kazališne predstave na kraljevskom dvoru u 18. stoljeću postale su tradicionalne, popratile su mnoge blagdane. Pročelje kazališta neobično je za zgrade ove vrste. Nema ulaznih vrata, jer su gledatelji došli iz Zimske palače kroz natkrivenu galeriju iznad luka.
1842. započela je gradnja još jedne muzejske zgrade. Riječ je o projektu graditelja minhenskog pinakoteka Leona von Klenzea. Njemački arhitekt bio je angažiran na projektu udaljenom od St. Nadao se da će uspjeti dobiti dozvolu za uništavanje Starog pustinjaka i urediti trg između Zimske palače i Novog Ermitaža. Ali to se nije dogodilo, a ukrašeno glavno pročelje Novog pustinjaka sada je okrenuto Millionnaya Streetom. Zgrada je, u skladu s tadašnjim trendovima, građena u eklektičnom stilu i u svojoj arhitekturi kombinira odlike različitih epoha - antike, renesanse, baroka i klasicizma. New Ermitage prva je zgrada u našoj zemlji, sagrađena posebno za muzej. Novi Ermitaž ima veličanstven trijem koji je ukrašen s deset granitnih figura Atlanteana koje je stvorio kipar Terebenev.