1939年8月1日，八路軍第一縱隊正式成立。徐向前和朱瑞分別任司令員和政治委員，加強了山東的統一軍事領導。山東縱隊各部隊在魯中、魯東南、清河、膠東等地大力開展游擊戰爭，擴大了根據地。
小山戰斗 1939年5月1日，山東縱隊命令四支隊抽調4個主力連組成南下挺進支隊，赴鄒縣以東山區開辟工作。7月15日，進至鄒（縣）滕（縣）泗（水）曲（阜）交界的立山、小山一帶。23日拂曉，日偽軍1000余人，分四路向小山圍攻。南下挺進支隊英勇反擊，戰斗從拂曉持續到黃昏，先后打退敵人20多次進攻。特別是扼守山頭的戰士更加頑強，高喊“中華民族萬歲”的口號與敵人展開肉搏。這次戰斗，斃傷日偽軍200多人，南下挺進支隊78人壯烈犧牲。
劉家井戰斗 1939年5月下旬，山東縱隊第三支隊按照上級指示，在鄒平縣劉家井一帶集結，準備進軍章丘一帶。6月6日，日偽軍2500余人，向駐劉家井一帶的第三支隊進犯。敵在受到打擊后，又迅速調集3500余人增援，并配備汽車100多輛、騎兵150余名，向第三支隊瘋狂攻擊。第三支隊指戰員在司令員馬耀南、副司令員楊國夫指揮下，固守圍墻，堅決抗擊，激戰竟日，黃昏時分散突出重圍。這次戰斗斃傷敵七八百人，其中斃敵417人，打擊了敵人的囂張氣焰。
1939年6月魯中地區反“掃蕩” 1939年6月1日至7月14日，日軍2萬余人，以沂蒙北部東里店為中心，采用長驅直入、分進合擊的戰術及多路逐段展開與逐段合擊的形式，對魯中山區發動第一次大“掃蕩”。至7月中旬，日軍占領莒縣、沂水、蒙陰及東里店、魯村等重要城鎮，繼而向沂蒙腹地反復進行分區“掃蕩”，并安設大量據點，割斷了魯中和魯東南、魯南的聯系。為粉碎敵人的“掃蕩”，山東縱隊各部廣泛開展游擊戰。在近兩個月的反“掃蕩”中，各支隊多次避開敵之合擊，打擊敵人20余次，共殲滅日偽軍1000余人。
五井戰斗 1939年10月25日，山東縱隊第一支隊在副司令員錢鈞指揮下，在臨朐縣西南的五井反擊來犯的日偽軍，激戰1日，斃日軍30余人、偽軍70余人，俘日軍1人、偽軍40余人，繳獲迫擊炮1門、重機槍1挺、輕機槍4挺。《大眾日報》發表了《慶祝臨朐大勝利》的社論，稱贊五井戰斗為山東抗戰兩年來最模范的勝利戰斗。
孫祖戰斗 1940年3月16日晨，日軍300余人、偽軍100余人向沂南縣孫祖進犯，妄圖襲擊中共中央山東分局及八路軍第一縱隊指揮機關。在徐向前指揮下，山東縱隊第二支隊司令員孫繼先率二支隊及其它部隊，在孫祖附近九子峰伏擊敵人。激戰1天，當夜逼迫敵退入孫祖村。第二支隊等部又連續兩夜襲擊敵人。殘敵不支，倉皇逃遁。此次戰斗，第二支隊等部擊斃日軍指揮官小林以下120余人，傷70余人，繳步槍30余支及大批作戰物資，并乘勝收復銅井據點。
楊家橫戰斗 1940年5月中旬，日軍1000余人“掃蕩”泰山區。19日，八路軍山東縱隊第四支隊主力在廖容標、胡奇才指揮下，于萊蕪縣東北的楊家橫伏擊敵軍一路，激戰1天，斃傷日軍200余人，俘3人，殘敵逃竄，繳大批武器彈藥，獲重大勝利。
魯中軍民粉碎敵“九·一八大掃蕩” 1940年9月18日，日偽軍出動1萬余人，向魯中根據地發動大“掃蕩”。日偽軍對萊蕪縣北之雪野、茶葉、抬頭等中心區域燒殺搶掠達1周之久，野蠻摧殘根據地，泰山區蒙受重大損失。張店到博山鐵路以西地區也遭敵殘酷“掃蕩”，形勢急劇惡化。陳士榘率一一五師獨立支隊，在費北（蒙山東南）與1000余名日軍展開激戰。在根據地軍民的打擊下，敵人的“掃蕩”終于被粉碎。
山東縱隊在廣泛開展游擊戰爭中多次進行整訓，到1940年秋時，轄有4個旅、4個支隊和2個直屬特務團，共5.4萬余人。山東地方武裝和人民武裝也發展起來，到1939年底，山東抗日根據地武裝自衛團已達10萬余人。
