Visu Svēto baznīca - viens no vērtīgākajiem piemēriem baroka baznīcu traks, pieder Romas katoļu koncesijā. Iekļautas ansamblis no novitiate (vieta iesācēji) un karmelītu klosteris vecpilsētā.

Baznīca tika uzcelta kopā ar klosteri, 11 gadus no 1620 uz 1631 pie vārtiem Rudnicki. Karadarbības ar Maskavas dievnamā laikā nodedzinātas un renovācija 1655 ir būtiski pārbūvēta. Vēlāk, 1743.gadā, ap ziemeļaustrumu stūrī, tā vietā turrets, tā tika uzcelta kompleksā formas zvanu torni Thiele vēlā baroka. In 1812, baznīca ir cietusi ievērojamus zaudējumus Napoleona karavīri ņemot dedzināmos confessionals un pews. Francijas padevās baznīcas slimnīcā. Atjaunota un modernizētas baznīca bija 1823.

Krievijas varas iestādes ir atcēlušas klosteri, un 1885. gadā telpās klostera iestudētas jauki dzīvokli, bet no 1948. gada baznīca tika slēgta, un, ņemot izvietotas tajā esošās pārtikas noliktava.

No 1967. līdz 1975. templis restaurācijas darbi, ko veic saskaņā ar Aldona Shvabauskene uzraudzībā. Pēc restaurācijas tempļa darbojās kā muzeja lietuviešu tautas mākslu. Baznīcas restitūcija tika veikta uzreiz pēc režīma maiņas 1990. gadā baznīca tika atdota ticīgajiem un darbojas līdz pat šai dienai.

Grīdas plāns baznīcas ir forma latīņu krusta formā tempļa - trīs nave bazilika veidam. Par telpu iekšpusē baznīcas īpatnība ir tā, ka ejas veido sānu kapelas baznīcas. Ejas 3 reizes un 2 reizes jau zem centrālā, atdalot ar diviem pāriem torņiem katrā pusē. Arkas nave - cilindriska ar LUNETTES.

Galvenais fasāde ir forma agrā baroka arhitektūru, fasāde ir sadalīts divos līmeņos dzegas, pilastri uzsvērt savu vertikālo asi. Kronēts fasāde Divslīpju trīsstūrveida ar vysyaschimisya par pusēs obelisks. Portāls renesanses stilā uzsver centrālo asi ēkas. Jo nišas iepriekš uzstādītas statujas dibinātājiem karmelītu mūku - St Elias un St Elīsas, kas izgatavoti no koka.

Monumentālā četru līmeņu zvanu tornis, paplašinot leju beidzas ķivere un filigrānu krustu. No zemāka līmeņa pilastri, dekorēts ar apmesta, padarot spilgtu kontrastu ar iebūvētu stūriem kolonnas. Korintiešu pilastri otrā līmeņa rotā stuka motīvu. Trešajā līmenī atrodas slīpi sānu pilastri sāns kolonnu. Attiecībā uz pēdējo, ceturto līmenis no pilastriem it kā aug no volūtām.

Logiem ir cita niša zvanu tornis arku formas un rotā ar apmetumu, un ceturtajā līmenī par niša joprojām iežogota dekoratīvās režģa balkoni. Tiek pieņemts, ka zvanu tornis būvēts pats arhitekts, kas būvēts tornis karmelītu baznīcas Baltkrievijā.

Sienas un arkas no baznīcas jomos, dome sānu kapelas rotā freskas un ornamentiem, freskas attēlo ainas no svēto dzīvi un vēsturi Lietuvā. Dekoratīvās līstes dekorēšana interjeru baznīcas tiek veikta vēlu 18.gadsimta. 18 Baznīcas altāris dekorēts ar statujas svētajiem, un freskas attēlojot stāstus par savu dzīvi. Galvenais altāris tika celta, iespējams, vēlu 1780s, kas paredzēti, Martin Kanfusa.

Laikā restaurācijas darbi veikti 1902. gada iniciatīvas priesteris Chudovsky, gleznojumi tika krāsot, ciktāl atvēra tikai nelielu daļu no tiem.