1944年至1945年春,楊秀山任陜甘寧晉綏聯(lián)防軍第三五八旅第七一六團(tuán)政治委員。奉命在綏遠(yuǎn)長(zhǎng)城內(nèi)外擴(kuò)大隊(duì)伍,打擊日、偽軍。在開辟晉西北抗日根據(jù)地的斗爭(zhēng)中,率部挺進(jìn)山西婁煩、靜樂地區(qū)開展游擊戰(zhàn)爭(zhēng)。
晉西北地區(qū),東起同蒲路北段,與晉察冀北岳區(qū)相接;西至黃河,與陜甘寧邊區(qū)隔河相連;南至汾(陽)離(石)公路,與晉軍駐區(qū)毗鄰;北至清水河,與大青山區(qū)連接。境內(nèi)轄區(qū)38縣,為八路軍控制的縣城有興縣、臨縣、保德、河曲、偏關(guān)、岢嵐6城。
1937年9月28日,第一二○師師部率第三五八旅進(jìn)入神池、八角堡地區(qū)。主力向同蒲線、雁門關(guān)出擊,半月間在雁門關(guān)截?fù)魯尺\(yùn)輸汽車千余輛,一度奪取雁門關(guān),截?cái)鄶澈蠓浇煌ň€,配合了忻口戰(zhàn)役。之后,師政治部和教導(dǎo)團(tuán)干部700多人,組成工作團(tuán),以岢嵐縣為中心,在靜樂、興縣、五寨等14縣開展工作。中共晉西北臨時(shí)省委隨同工作團(tuán),在各地恢復(fù)與發(fā)展了黨的組織,成立了岢嵐、靜樂、臨縣、興嵐、保德等地委或縣委。太原失陷后,國(guó)民黨元老、進(jìn)步人士、“第二戰(zhàn)區(qū)民族革命戰(zhàn)爭(zhēng)戰(zhàn)地總動(dòng)員委員會(huì)”(簡(jiǎn)稱“總動(dòng)員委員會(huì)”)主任續(xù)范亭,被閻錫山任命為山西省第二行政區(qū)(晉西北區(qū))保安司令。續(xù)率領(lǐng)“總動(dòng)委會(huì)”機(jī)關(guān)及保安司令部所屬部隊(duì)轉(zhuǎn)入晉西北。這時(shí),由前線潰退下來的晉軍趙承綬騎一軍、傅作義第三十五軍、郭宗汾第三十三軍、何柱國(guó)騎二軍、楊愛源第十九軍、王靖國(guó)第十一軍,齊集晉西北,分駐各地。當(dāng)時(shí),中共公開活動(dòng)受到很大限制,在多數(shù)地區(qū)是以“犧盟會(huì)”、“總動(dòng)委會(huì)”名義開展工作。經(jīng)過兩三個(gè)月活動(dòng),晉西北各地普遍建立了各級(jí)半政權(quán)性質(zhì)的“動(dòng)委會(huì)”,在寧武、神池、五寨、保德等9縣普遍組建武裝自衛(wèi)隊(duì)。
1937年10月,以共產(chǎn)黨員雷任民為政治委員的國(guó)民兵軍官教導(dǎo)第九團(tuán)由忻縣轉(zhuǎn)移晉西北,爭(zhēng)取與建立了臨縣、興縣、嵐縣3縣政權(quán),領(lǐng)導(dǎo)了該地區(qū)“犧盟會(huì)”,協(xié)助第一二○師開辟了這個(gè)地區(qū)。至年底,晉西北抗日根據(jù)地中心區(qū)已具雛型。與此同時(shí),1937年9月29日,第一二○師第七一六團(tuán)第二營(yíng)組成雁北支隊(duì),由該團(tuán)團(tuán)長(zhǎng)宋時(shí)輪率領(lǐng),開赴雁北(雁門關(guān)以北13縣總稱,在同蒲路西有右玉、左云、平魯3縣),11月1日襲占井坪,4日收復(fù)平魯縣城。1938年初,省“總動(dòng)委會(huì)”在太原、離石組織的察綏游擊軍第一、第二支隊(duì),由“總動(dòng)委會(huì)”軍事部部長(zhǎng)程子華率領(lǐng),進(jìn)入平魯、右玉、涼城一帶活動(dòng)。
中共山西省委和北方局派趙仲池、鄭林等,在平魯、右玉一帶組織了雁北戰(zhàn)時(shí)工作委員會(huì)。1937年底,中共晉西北臨時(shí)省委在偏關(guān)成立了晉綏邊特委,趙仲池任書記,領(lǐng)導(dǎo)大同、懷仁、山陰、左云、右玉、平魯、偏關(guān)、河曲等縣。至此,雁北游擊根據(jù)地形成。1938年2月20日起,日軍從南北兩線多路圍攻晉西北中心區(qū),占領(lǐng)偏關(guān)、保德、寧武、岢嵐、河曲、神池、五寨7座縣城,國(guó)民黨軍隊(duì)潰逃。
第一二○師師部指揮第三五八旅、第三五九旅,在同蒲路北段原平、陽曲地區(qū)毀橋破路,連續(xù)攻占平社、豆羅、關(guān)城、田家莊等車站和據(jù)點(diǎn),阻敵南進(jìn)。2月28日,師主力急返嵐縣,3月6日起,集中主力4個(gè)團(tuán),加獨(dú)立一支隊(duì)等部隊(duì),打擊深入岢嵐、五寨之?dāng)?。?jīng)過圍困岢嵐、五寨,夜襲三井鎮(zhèn),組織義井鎮(zhèn)虎北村戰(zhàn)斗、神池鳳凰山伏擊戰(zhàn),共殲敵1500余人,至4月1日,收復(fù)7座縣城。晉西北根據(jù)地穩(wěn)定。5月,第一二○師派出由李井泉等率領(lǐng)的大青山支隊(duì),從五寨進(jìn)入雁北地區(qū)。8月向綏遠(yuǎn)挺進(jìn),9月初,越過平綏鐵路,同楊植霖領(lǐng)導(dǎo)的蒙漢人民抗日游擊隊(duì)會(huì)合。9月下旬,大青山支隊(duì)留一部武裝在綏中活動(dòng),主力進(jìn)到武川、百靈廟以西地區(qū)進(jìn)行游擊戰(zhàn)爭(zhēng)。到12月,開辟了以大青山為依托的綏西、綏南、綏中三塊游擊根據(jù)地,逐步同晉西北根據(jù)地連成一片。