由太原至汾陽公路上，將到汾陽時，便可望見路東南百餘米處，聳起一座龐大的殿宇，出簷深遠，四角用磚築立柱支著，引人注意。由大殿之東，進村之北門，沿寺東牆外南行頗遠，始到寺門。寺規模宏敞，連山門一共六進。山門之內為天王門，天王門內左右為鍾鼓樓，後為天王殿，天王殿之後為前殿，正殿(毗盧殿)及後殿(七佛殿)。除去第一進院之外，每院都有左右廂，在平麵布置上，完全是明清以後的式樣，而在構架上，則差不多各進都有不同的特征，明初至清末各種的式樣都有代表“列席”。在建築本身以外，正殿廊前放著一造像碑，為北齊天保三年物。
天王殿正中弘治元年(公元 1488年)碑說：
大相裏橫枕卜山之下……古來舍刹稽自大齊天保三年(公元 552年)，大元延祐四年(公元 1317年)，……奉敕建立後殿，增飾慈尊，額題崇勝禪寺，於是而漸成規模，……大明宣德庚戌五年(公元 1430年)，功豎中殿，廊廡翼如；周植樹千本。……大明成化乙未十一年(公元 1475年)，……構造天王殿，伽藍宇祠，堂室俱備。……
按現在情形看，天王殿與中殿之間，尚有前殿，天王殿前尚有鍾樓鼓樓，為碑文中所未及。而所“植樹千本”，則一根也不存在了。
山門三間，最平淡無奇；簷下用一鬥三升鬥拱，權衡甚小，但布置尚疏朗。
天王門三間，左右挾以斜照壁及掖門。鬥拱權衡頗大，布置亦疏朗，每間用補間鋪作二朵，角柱微生起，乍看確有古風。但是各拱昂頭上過甚的雕飾，立刻表示其較晚的年代。天王門內部梁架都用月梁。但因前後廊子均異常的淺隘，故前後簷部鬥拱的布置都有特別的結構，成為一個有趣的斷麵；前麵用兩列鬥拱，高下不同，上下亦不相列，後簷卻用垂蓮柱，使簷部伸出牆外。
鍾鼓樓天王門之後，左右為鍾鼓樓，其中鍾樓結構精巧，前有抱廈，頂用十字脊，山花向前，甚為奇特。
天王殿五間，即成化十一年所建，弘治元年碑，就立在殿之正中；天王像四尊，坐在東西梢間內。鬥拱頗大，當心間用補間鋪作兩朵，次梢間用一朵，雄壯有古風。
前殿五間，大概是崇勝寺最新的建築物，鬥拱用品字式，上交托角替，墊拱板前羅列著全副博古，雕工精細異常，不唯是太瑣碎了，而且是違反一切好建築上結構及雕飾兩方麵的常規的。
前殿的東西配殿各三間，亦有幾處值得注意之點。在橫斷麵上，前後是不均齊的；如峪道河龍天廟正殿一樣，“前廊後無廊”，而前廊用極大的鬥拱，後廊用小鬥拱，使側麵呈不均齊象。鬥拱布置亦疏朗，每間用補間鋪作一朵。出跳雖隻一跳，在昂下及泥道拱下，卻用替木式的短拱實拍承托，如大同華嚴寺海會殿及應縣木塔頂層所見；但在此短拱拱頭，又以極薄小之翼形拱相交，都是他處所未見。最奇特的乃在闌額與柱頭的聯接法，將闌額兩端斫去一部，使額之上部托在柱頭之上，下部與柱相交，是以一構材而兼闌額及普拍枋兩者的功用的。闌額之下，托以較小的枋，長盡梢間，而在當心間插出柱頭作角替，也許是《營造法式》卷五所謂“綽幕方”一類的東西。
正殿(毗盧殿)大概是崇勝寺內最古的結構，明弘治元年碑所載建於宣德庚戌五年(公元 1430年)的中殿即指此。殿是硬山造，“前廊後無廊”，前簷用碩大的鬥拱，前後亦不均齊。鬥拱布置，每間隻用補間鋪作一朵。前後各出兩跳，單抄單下昂，重拱造，昂尾斜上，以承上一縫榑。當心間補間鋪作用四十五度斜拱。闌額甚小，上有很寬的普拍枋，一切尚如古製。當心間兩柱，八角形，這種柱常見於六朝隋唐的磚塔及石刻，但用木的，這是我們所得見唯一的例。簷出頗遠，但隻用椽而無飛椽，在這種大的建築物上還是初見。
前廊西端立北齊天保三年任敬誌等造像碑，碑陽造像兩層，各刻一佛二菩薩，額亦刻佛一尊。上層龕左右刻天王，略像龍門兩大天王。座下刻獅子二：碑頭刻蟠龍，都是極品，底下刻字則更勁古可愛。可惜佛麵已毀，碑陰字跡亦見剝落了。清初顧亭林到汾訪此碑，見先生《金石文字記》。
最後為七佛殿七間，是寺內最大的建築物，在公路上可以望見。按明萬曆二十年《增修崇勝寺記》碑，乃“以萬曆十二年動工，至二十年落成”。無疑的這座晚明結構已替換了“大元元祐四年”的原建，在全部權衡上，這座明建尚保存著許多古代的美德；例如鬥拱疏朗，出簷深遠，尚表現一些雄壯氣概。但各部本身，則盡雕飾之能事。外簷鬥拱，上昂嘴特多，彎曲已甚；耍頭上雕飾細巧；替木兩端的花紋盤纏；闌額下更有龍形的角替；且金柱內額上鬥拱坐鬥之剔空花，竟將荷載之集中點(主要的建築部分)，作成脆弱的纖巧的花樣；匠人弄巧，害及好建築，以至如此，實令人悵然。雖然在雕工上看來，這些都是精妙絕倫的技藝，可惜太不得其道，以建築物作賣技之場，結果因小失大，這巍峨大殿，在美術上竟要永遠蒙恥低頭。
七佛殿格扇上花心，精巧異常，為一種菱花與球紋混合的花樣，在裝飾圖案上，實是登峰造極的，殿頂的脊飾，是山西所常見的普通做法。