三起三落坎坷的軍事生涯
西路軍失敗后，徐向前背著失敗的黑鍋，和西路軍幸存者以及幾乎所有四方面軍指戰員一樣，飽受歧視，直到1943年，他才被認定為“可以信賴”。紅軍改編八路軍時，他被降級使用，任命為第129師副師長，成為劉伯承副手。華北危急關頭，他被派往山西，先與閻錫山開展“統戰”工作，為八路軍山西抗戰營造政治、經濟和社會環境，后親自指揮第129師部隊，“占山為王”，他嚴格要求“像鄂豫皖初期那樣，發動群眾，主力部隊和地方武裝結合，搞游擊戰。”“要珍惜力量，注意研究日軍的戰術特點，積小勝為大勝，決不可死打硬拼。”親自指導第769團抓住戰機，夜襲日軍機場陽明堡，毀敵機24架，殲日寇100余人。根據太原失陷前后敵人進逼的形勢，他作出計劃，分兵發動群眾，擴大武裝力量，組織游擊網絡，建立地方抗日政權，部署以大部兵力下到各縣區，以連為單位，配上幾名領導骨干獨當一面。結果，不多久，一支又一支抗日游擊隊、一個又一個抗日民主政權如雨后春筍，鋪展在晉東大地。
與此同時，他從實際出發，根據敵我具體情況和山地游擊戰的特點，總結和制定了一套“小打而不能大打、活打而不能死打、快打而不能慢打、穩打而不能蠻打”敵后游擊作戰的原則，相繼直接組織指揮和參與組織指揮了廣陽沾尚地區伏擊戰、反敵六路圍攻作戰、鳳凰山伏擊戰、長生口之戰、神頭嶺伏擊戰、響堂鋪伏擊戰、長樂村急襲戰、反九路圍攻作戰等一系列游擊作戰，收復縣城近20座，控制晉東南地區，基本形成了以太行山區為中心的晉冀豫抗日根據地。
1938年春，徐向前奉命前往冀南。冀南位于平漢路東的華北平原上。過去中共軍隊作戰主要依托山地，如今冀南沒有山，平原上能否開展游擊戰爭，建立敵后根據地，也成為了中共黨和武裝的新課題。徐向前反復研究了當地的地形、民情條件，響亮地提出了“創造平原地的‘人山’”的口號，也就是發動群眾，爭取人心，把人造成“山”。冀南造“人山”成就斐然，成功解決了平原地區建立和鞏固敵后抗日根據地，開展和堅持游擊戰爭的重大問題。與此同時，徐向前又運用軍事斗爭和統一戰線兩個手段，在幾個月時間內，相繼解放了縣城20多座，消滅日偽軍1萬余人，爭取偽軍反正5000余人，收編雜色武裝8萬余人，使主力部隊發展到10余萬人，游擊隊和民兵武裝20余萬，建立了50余個縣政權，平原根據地擁有人口800余萬。之后，又利用“人山”優勢，連續取得了粉碎日偽軍大“掃蕩”和國民黨頑固派“摩擦”的斗爭勝利，冀南部隊越戰越強，平原根據地越來越鞏固。
1939年5月，徐向前奉中共中央命令前往山東，統一指揮山東和蘇北的武裝斗爭。位于太行山以東、黃河下游、東海之濱的山東半島，是聯結華北、華中、東北的樞紐，為歷代兵家角逐爭雄的戰略要地。當時，中共雖然在山東已有幾支抗日武裝，但力量薄弱且分散，而對手日寇或國民黨頑固派都強大得多。就政權來說，山東有日偽的，也有國民黨的，但就是沒有中共的抗日民主政權，群眾也尚未充分發動，以致中共的數萬部隊吃飯都難，每天“叫化子要飯”。面對敵偽頑的瘋狂進逼，八路軍在山東處境困難，甚至有被擠出或消滅的危險。處于嚴重困難的山東，缺少一位獨當一面的帥才!
6月上旬，徐向前到達山東沂蒙山區，剛好趕上日寇發動的第一次“大掃蕩”，日寇2萬余人，兵分10路合擊，國民黨軍望風而逃，徐向前馬不卸鞍，立即投入反“掃蕩”的作戰指揮。反“掃蕩”作戰勝利后，即大張旗鼓地開展建立政權和發展武裝力量工作。半年之后，山東境內公開建立了40多個抗日民選縣級政權及一個行政主任公署，到1年時，縣級政權達90多個，其秘密的基層兩面政權多得無法統計，各種抗日團體遍布城鄉。
同時，徐向前大力發展武裝力量，高度重視質量建軍，嚴格教育訓練，力爭打好每一仗，在作戰中錘煉部隊。他在山東的1年期間，山東部隊共進行大小戰斗2000余次，斃傷俘日軍松井山村中將以下近2萬名，偽軍2.5萬余人，使日寇的一次次“掃蕩”均告破產，反對國民黨頑固派的“摩擦”斗爭也連續勝利，一些“摩擦專家”被擠走。尤其重要的是，在徐向前指揮下，山東那些原本“雜散”的新部隊迅速成長為一支善打硬仗的鐵軍。“在戰術思想、指揮藝術、戰斗作風、組織紀律性等方面，獲得了長足的進步”，為山東部隊“向更大規模的游擊戰、運動戰的方向前進，奠定了堅實的基礎。”(徐向前語)
1940年6月，徐向前到達山東整整一年，山東面貌大變，它以擁有人口1500萬，八路軍正規軍15萬人，地方武裝50余萬人的實力，成為了中共在全國第一大抗日根據地。正當徐向前計劃再展宏圖，將蘇北、皖北連成一片時，中共中央來電要求徐向前赴延安出席中共“七大”。
徐向前返回延安，“七大”并沒有召開。遠離抗戰硝煙，徐向前越來越不自在，他希望重返戰場，一再向毛澤東請求。可是，毛澤東卻不希望他離開延安，先任命他為聯防軍副司令員，作賀龍副手，接著又委托他“集中精力抓好留守兵團的生產”，后來又要他去“抗大”當校長。在毛澤東戰略棋盤中，山東太重要了。山東已經局面大開，現在必須由最信賴的“井岡山”來經營。于是，履歷里尚無軍事指揮歷練的羅榮桓，破格地予以接替。抗戰勝利后，羅榮桓率領山東大批人馬進兵東北，山東位子一時空缺，毛澤東計劃以另一個“井岡山”林彪接替。林彪一路兼程，向山東進發，尚在路途，毛澤東又一道命令到達，林彪轉赴東北，此時的東北更為關鍵。而山東則由又一個“井岡山”陳毅接任，要陳毅從華中前來。
徐向前希望上前線，卻在“無戰事”的陜北，過著近似于“日出而作，日落而息”般的操事農桑的生活，終于徐向前病了。病中的徐向前，仍然向往上戰場，一再向毛澤東請戰，毛澤東也一再好言相勸。直到胡宗南進犯延安前夕，延安后方機關進行人員疏散，在被疏散途中，徐向前向中央寫了報告，要求去晉東南，獲得了同意。
1947年6月，徐向前到達太行山，被任命為晉冀魯豫軍區第一副司令員。該軍區為徐向前于抗戰初期戰斗過的太行山、太岳山、冀南和冀魯豫區域的整合而成，屬當時全國六大戰略區之一，軍區司令員劉伯承，政治委員鄧小平。劉鄧此時正在邯鄲等地作挺進大別山準備，接著于6月底率領野戰軍主力13萬人渡河南進。8月中旬，陳賡、謝富治兵團8萬余人亦開始向豫西挺進。8月和9月，南下后續部隊第12縱和第10縱及補充兵員4萬余人出動，向大別山開進，加入中原戰場。
隨著主力一批又一批部隊加入中原戰團，留在晉冀魯豫軍區后方的部隊已寥寥無幾，不僅原來的老紅軍老八路的第一茬部隊全部走完，后期成長升編的游擊兵團的第二茬部隊也基本走完，留在軍區后方的只有第二茬部隊員額不足的一個旅，其余的就是小游擊隊和民兵。
