對於太原守敵之瓦解工作，其實在晉中戰役結束時，徐向前等即已著手進行。他與周士弟在向中央和華北局的報告中，就提出“擬命趙承綬勸降”閻錫山。因為趙跟隨閻錫山多年，是閻一手提拔起來的戰將，趙在晉中戰役中被俘後，表現較好，並願意前往太原勸說閻錫山，但考慮到趙的安全問題，徐向前決定改派閻錫山的老師、一位年近八旬的老秀才帶著他的信件，先進行試探。但是，閻錫山不僅不聽其老師的勸告，反而將其殺害。

太原被包圍後，解放軍太原前線司令部，又積極做前不久調來太原協助閻錫山守城的國民黨第30軍軍長黃樵鬆的工作。黃樵鬆為河南尉氏縣人，1922年入馮玉祥學兵團當兵，他有正義感，也很有民族氣節，抗戰爆發後，在娘子關、台兒莊戰役中，率部英勇殺敵，在娘子關一仗中，他率部擊斃日軍步兵第77聯隊長鯉登大佐。抗戰勝利後，他對蔣介石發動內戰也頗為不滿。來到太原後，閻錫山雖然對他拉攏重用，向蔣介石建議並經同意提拔黃樵鬆為軍長，但他對閻卻總保持一定距離。由於有這樣的背景，所以，太原前線司令部利用黃樵鬆與邯鄲起義的高樹勳私交甚厚，同高之部下一位叫杜廷的軍官也有一定友誼這些關係，通過高、杜二人對黃進行爭取工作。黃樵鬆經過反複考慮決定率部起義。10月31日，他派隨身參謀兼諜報隊隊長王正中到解放軍前線司令部接洽起義事宜，解放軍派出第3縱隊參謀處長晉夫前往30軍與黃商議起義的具體方案。雙方確定起義的時間為11月4日。然而，當起義前一天黃將起義計劃告訴由他一手提拔起來的師長戴炳南後，戴卻利欲熏心，把這個計劃全盤告訴給了閻錫山。閻得知此事後，又驚又怕，立即找來他的參謀處長趙世齡等，決定以召開緊急會議為名誘捕黃樵鬆，並對第30軍進行監視控製。而黃此時仍不知戴炳南已將他出賣，當閻錫山親自打電話給他並派小車接他時，他便前往綏靖公署參加會議。黃樵鬆一進綏署，即被逮捕，並從其身上搜出高樹勳等給他的信件。第二天又把前來聯絡的晉夫逮捕。11月6日，閻錫山將黃送往南京。11月27日，黃樵鬆被判處死刑，在南京水西門外英勇就義。晉夫等5人則在太原被殺害。戴炳南升任第30軍軍長。

閻錫山雖然僥幸挫敗了黃樵鬆起義，但這件事對閻錫山的打擊卻十分沉重。而其後不久，東山“四大要點”陣地的失陷，更令閻錫山恐慌不堪。更讓閻錫山憂慮的是，解放軍攻克東山陣地，並將太原重重包圍起來後，雖然未馬上發起攻城戰鬥，但是，他們發動的強大政治攻勢，甚至比軍事攻勢還要厲害。解放軍采用陣地對話和散發傳單等形式，宣傳人民解放戰爭的勝利形勢，揭露國民黨和閻錫山的種種罪行和謊言，使忍受饑餓和政治高壓的閻軍官兵紛紛投誠。據統計，從1948年12月至1949年3月底，閻軍共有1.24萬人投奔解放軍，其中有整團、整營、整班閻軍官兵集體向解放軍投誠的。不僅如此，整個華北戰場的形勢，也越來越不利於太原的防守。因為，與太原互為犄角之勢的天津、北平兩大城市，也相繼被解放。1949年1月15日，解放軍攻克天津，全殲守軍15萬人，守軍總指揮陳長捷被活捉。由於天津的解放，駐北平的華北“剿總”總司令傅作義企圖率部從海上逃跑的道路被切斷，在解放軍重兵圍城的威懾和政治攻勢下，傅作義正醞釀著接受提出的和平改編，雖然在此前後，閻錫山6次急電傅作義，勸他“隻有犧牲奮鬥，萬不敢僥幸共存”（《閻錫山年譜》（六），第2297頁），並以“一和之後，就要對軍官、官紳、教員、廠主、經理逐漸清算”，“屢清算屢建立鐵幕直至殘殺盡淨而後已”（《山西省公安廳敵偽檔案》5—2—5）相恐嚇，以動搖傅作義接受和平解放北平的決心。但傅作義深明大義，仍於1月22日接受了和平改編。解放軍於1月31日舉行入城式，北平宣告和平解放。

在北平和平解放之前，由於解放軍對太原保衛圈日益縮小，閻錫山的部下就有不少人認為孤守太原已是毫無希望，曾勸閻錫山離開太原。1月18日，邱仰睿電閻錫山，傳達了美國人陳納德意見：勸閻不必堅守太原，到不得已時，他願接閻錫山脫險。而邱本人也認為“大局現轉變到如此地步，成仁已無甚代價，何如到必要時借機離開，另圖複興大計”。但閻錫山複電邱仰睿說：“不死太原，等於形骸，有何用處？”（《山西省公安廳敵偽檔案》9—2—5）。而北平的和平解放，使受到極大震動的閻錫山上層幹部中，許多人也傾向和平，主張效法傅作義走北平之路。閻的親信、高幹、“綏靖”公署秘書長吳紹之就曾向閻進言來個和平解放。而閻在召集其高幹和基幹開會時，卻要他們“成功成仁”，不走“北平道路”，並罵傅作義“毫無人格”，“出賣了北平人民”。盡管如此，中央仍未放棄對閻錫山的爭取工作。北平和平解放前夕，中央軍委曾電示、羅榮桓、聶榮臻和徐向前：“北平和平解放後，太原亦有和平解放的可能”，“東北臨時配屬之兩個炮兵團，即直接向太原開進。受徐周陳指揮，控製太原一切機場，迫使閻匪談判，和平接收太原”（《軍事文集》軍事科學出版社、中央文軒出版社1993年版，第5卷，第489頁）。還指示他們和葉劍英、彭真對住北平的閻錫山的參謀長郭宗汾、山西省臨時參議會議長王懷明及閻軍師長之家屬拉一把，並要葉劍英入城後找郭宗汾談判和平解放太原、大同問題。中央甚至在2月4日還表示太原如能和平解決，閻錫山又能表示改變過去的立場，還可以讓其參加新政治協商會議。在北平的一些山西教授、學者以及閻錫山政權中的骨幹，也致電閻錫山，希望他“順時達變，休戰言和，以蘇困於生息之途，培元氣於凋敝之後”。章士釗等人還托人打電報給閻勸他走和平解放道路，但均被閻錫山拒絕。非但如此，閻錫山為顯示他與太原城共存亡的決心，還準備了毒藥和棺材，對來訪的美國《柯利亞》雜誌記者約翰旦說：“我決心死守太原，如果太原不守，我就和這些小瓶同歸於盡”，“我與共軍不共戴天，有我沒他，有他沒我，這口棺材，就是我這種決心的證明”，並且找來一個身佩手槍，殺氣騰騰的士兵，對人說：“這是標準的武士道精神的日本士兵。我讓他跟隨我的左右，以便在危急的時候，將我打死。這個任務，非日本人不能完成”（董岩、征敏：《閻錫山的五十餘次作戰》，《山西文史資料全編》第9卷，第896頁）。甚至當蔣介石給閻來電，認為“太原絕難長久支持”，請他速退西安，擔任西北行營主任，負責指揮西北各處重責，把幹部由陳納德的飛機接走，由胡宗南派出精銳，接濟閻軍盡量西渡的要求也予拒絕。