徐向前熟悉了家底，卻提出了一個令人深感意外的設想，他要打下山西。人們何以意外?首先，在毛澤東等人的戰略計劃里，晉冀魯豫目前沒有力量來對付閻錫山，只能等待將來再說。其次，閻錫山統治山西達37年之久，自辛亥以來，還沒有哪一個軍閥有如此長久歷史，其實力擺在那里，閻有30多萬人的強大軍隊，有較為鞏固的政權和社會支撐體系，以及完善和相當現代化的軍工工業體系，所控制的山西是名副其實的最硬最頑固的反動堡壘。所以，人們普遍認為，以目前晉冀魯豫實力，要戰勝閻錫山，打下山西，根本不可能。
其時，薄一波任晉冀魯豫軍區副政委，劉伯承、鄧小平南下后，由他主持中共中央晉冀魯豫局工作。王宏坤時為中央局常委，同為軍區副司令員，參與主持晉冀魯豫軍區工作。20世紀80年代，王宏坤對筆者說：“徐向前開始提出來時，薄一波并不相信。一段時間后，薄一波還將信將疑，后來才信服。”王宏坤還說：“為什么徐向前那么希望打山西呢?一是因為當時晉冀魯豫四面臨敵，山西又頂在我們中間，對我們牽制、威脅很大，打下后，華北可以連成一片，對全國戰局開展幫助很大。二是他好長時間沒打仗。三是心里也有點不服氣。西路軍失敗后，一些人瞧不起他，說他打了敗仗，鄙視他不能打仗。有一次，他和我閑聊時說：‘不是有人說我不能打仗嗎?我就要打給他們看看!’一般他不會說這種話。我們都替他生氣。他要打山西，我支持，我完全相信他能打下來。”(1988年11月5日王宏坤與筆者談話)
于是，1947年8月，徐向前開始從太行、太岳的地方武裝中抽調兵力組建成旅團和縱隊。山西作戰，徐向前成竹在胸。第一仗計劃奪取運城，可是因部隊太新，被敵援兵突破陣地，作戰失利。接著，再打運城，終于攻城告捷。攻下了運城，部隊再經整訓，又發起了臨汾戰役。病中的徐向前帶著幾個參謀組成的精干指揮所，坐著擔架親臨前線指揮。
臨汾素有“臥牛城”之稱，是著名的軍事重鎮，先后經日寇和閻錫山盤踞經營，城池壕溝交錯，碉堡林立，構成了堅固的縱深防御體系，又有雄厚的工業支撐，成了一座易守難攻的堅固要塞，閻錫山稱之為“銅墻鐵壁”。臨汾攻堅戰艱苦卓絕，徐向前終于以坑道作業爆破成功，勝利結束了啃“硬核桃”的典型城市攻堅。此戰最大的收獲是部隊有了硬仗惡仗的鍛煉，一個又新又嫩的兵團迅速成長為攻堅兵團，實現了“飛步跨越”，其中的八縱二十三旅尤其突出，戰后，經中央軍委批準，授予“臨汾旅”光榮稱號，它是人民軍隊建軍史上最大的模范集體。
奪取臨汾之后，徐向前又抓住閻軍到晉中平原搶糧的時機，打了一場大規模運動戰、殲滅戰——晉中戰役。晉中戰役是徐向前軍事生涯中的又一個得意之筆，他以手中的6萬新兵，與閻軍13萬精銳對陣，一舉殲敵10萬，是人民軍隊歷史上第一次殲敵10萬的戰役，也是中國近代史上的第一次。耐人尋味的是，如此大捷不是首先發生在其他戰場，卻發生在最不可能發生的地方。
國民黨中唱“成功成仁”高調的是蔣介石，但真正做過的是閻錫山部下，閻軍最頑固死硬。可是，晉中戰役在徐向前指揮下，經過幾個回合的交鋒，原本驕橫不可一世的閻軍主力潰不成軍，聽到徐向前名字就繳械。“我們大膽把部隊撒出去，追!追!追!橫掃千軍如卷席，連克上十座縣城，抓了幾萬名俘虜。那時敵人慌亂的程度，真是風聲鶴唳，草木皆兵。我們幾個戰士，追擊上百的敵人，敵人只知道拖著槍跑，不知道停下來射擊，直至累倒在地，像灘爛泥乖乖繳槍投降。清源縣有個老農，拿著扁擔，一下繳了十九個敵人的槍。三個新華社前線記者，俘敵三十七名，還繳了兩門炮、兩挺機槍、十多支步槍。什么槍桿子、筆桿子、鋤把子、伙夫、馬夫，都跑去抓俘虜，抓都抓不贏。”(徐向前：《歷史的回顧》第757頁)敵人聞風喪膽如此模樣，可見徐向前部隊的威力，也可見徐向前高超指揮藝術的威力。
緊接著，徐向前又乘勝開始了解放太原的作戰。經艱苦激烈爭奪，拿下了外圍四大要塞，完成了對太原城的包圍，太原城已入徐向前股掌之中，指日可下。此時，為了配合平津戰役開展，抑留傅作義集團，中央命令暫緩攻擊。平津戰役結束后，毛澤東調華北第十九、二十兵團及四野炮師參戰，并組成了以徐向前為書記的總前委，統一指揮各部攻城，戰役部署就緒，此時，彭德懷奉命來到太原前線，等待戰役結束即率領參戰部隊進軍大西北。太原攻城作戰進展順利，共殲敵13.8萬余人。太原的解放，標志著盤踞山西38年之久的閻錫山政權覆亡。至此，經一年多時間，徐向前以手中由幾萬民兵游擊隊組編的最新部隊，連續奪得了四次大捷，共殲閻部30余萬人，同時也將這些新部隊鍛造成了一支善打大仗硬仗的鐵軍。
幾十年后，王宏坤這樣對筆者評論說：“整個解放戰爭時期，的確打了很多好仗，要說最讓我佩服的是徐老頭打閻錫山。那里，敵人是最硬，我軍是最弱，指揮是最藝術。打仗要看條件，敵我條件對比。徐老頭當時條件最差，四五萬游擊隊，可一年后消滅了閻軍三十萬，而部隊打出了拳頭兵團，換了別人做不到的。劉鄧、林彪、彭德懷、粟裕都做不到。如果當初將他用在刀刃上，讓他統帥幾十萬大軍，情況又會如何呢?本來他完全可以發揮更大的作用，但是沒有給他那么多的機會。講究山頭，山頭主義是害人的!”(1988年11月5日王宏坤與筆者談話)
筆者以為，依靠現成兵力，以眾擊寡，以強擊弱，克敵制勝，是合格的軍事家;依靠現成兵力，以寡擊眾，以弱勝強，是上等的軍事家;而從零開始，從建軍開始，打出精兵，以寡擊眾，以弱擊強，戰而勝之，是上等之上等軍事家，徐向前就是這樣的軍事家!
