1938年11月下旬,魯蘇戰區成立,于學忠任總司令。1939年初,于學忠率東北軍第五十一軍、第五十七軍約2萬人先后進入山東,布防于甲子山、沂蒙山和抱犢崮山區。于學忠堅持“既不紅,又不藍,三條道路走中間”的政治態度,堅持抗戰并對共產黨持友好態度。山東分局堅持團結進步勢力,爭取中間勢力,打擊頑固勢力的統戰方針,積極團結爭取了于學忠部抗戰。
于學忠部移進魯南山區,引起日軍注意。3月25日至4月25日,日軍發動了“討伐于學忠作戰”。3月29日,日偽軍一部自臨朐分三路向沂水一帶進攻,與魯蘇戰區部隊激戰于臨朐南部山區。30日,日軍進占蔣峪,隨即在此集結,準備繼續南犯。為站穩腳跟,4月1日,于學忠發動了對蔣峪的反攻,自晨至午激戰6小時,殲敵500余人,逼敵后退,于部穩于魯山山區。
隨后,于學忠著手補充兵員、裝備,整編地方部隊,開始準備戰區成立工作。6月,日軍發動對魯南的“大掃蕩”,于部被迫移動于魯中南山區,戰區成立工作暫停。至1939年秋冬,日軍撤退,于部重新集結于沂(水)、蒙(陰)、莒(縣)、臨(朐)、日(照)一帶。于學忠在沂水縣西北部、沂山南麓的圈里設立戰區總司令部,魯蘇戰區遂在魯南正式成立。
策應其他戰區的游擊戰 1939年2月,魯蘇戰區按照上級命令,以津浦、隴海、膠濟各要線為重點,開展了廣泛的游擊戰,策應第五、第一及冀察各戰區的作戰。其中,常恩多率一一一師襲諸城,秦啟榮率十二區保安隊及游擊隊襲萊蕪,吳化文率新編第四師襲新泰,張里元率第三區保安隊及游擊隊襲費縣,山東省保安處副處長劉震東率保安隊及游擊隊在昌樂、益都等地破壞鐵路。其中,除諸城方面的戰斗持續13天,予偽軍張步云部重大打擊外,其他方面的行動都較短,各約三四天。1939年11月底到1940年1月,魯蘇戰區國民黨各部隊分別于山東的泰安、沂水、泗水、滕縣、鄒縣、莒縣、安丘、濰縣、高密、日照、蒙陰、費縣、蘇北等地襲擊日偽據點,破壞交通,前后發生戰斗50余次。
牽制敵軍的破襲戰 1940年3月,日軍由各地運輸部隊至豫鄂邊區,有向鄂北國民黨軍隊攻擊的企圖。按照國民黨中央軍事委員會的命令,4月中旬,魯蘇戰區部署開展了對津浦、隴海、膠濟鐵路的破襲戰,到5月6日,共破壞鐵軌七八十米,列車24輛。1941年初,為配合豫東南和中條山戰役,于部第一一三師及第二縱隊、第一一四師和第一一一師等部對膠濟、津浦路進行了破襲戰。
從總體上看,日軍1939年6月的大“掃蕩”,使魯蘇戰區所屬部隊受創嚴重。此后,日軍較少對于學忠部出動進攻,于部長期蟄伏山區。1940年華北八路軍發動“百團大戰”以后,至1942年牟中珩主魯,日軍對魯南大規模進攻的重點是八路軍各部隊,于部未遭日軍正面打擊。