1937年8月，紅四方面軍改編為八路軍第129師，桂干生以第129師高級參謀身份，投身山西抗戰事業。當年12月，他帶領第129師教導團30名干部奔赴冀西地區，走村串戶宣傳中共抗日主張，廣泛發動群眾武裝自衛，在短短幾個月時間內，建立起一支800多人的抗日武裝——第129師游擊支隊，桂干生擔任支隊長，因此該部又稱“桂支隊”。

1938年5月，桂干生擔任晉冀豫軍區第二軍分區司令員，他指揮“桂支隊”活躍于正（定）太（原）、（北）平漢（口）鐵路沿線，采取小群多路、聲東擊西的游擊戰術，破壞敵人鐵路，襲擊敵人據點，卡斷敵人運輸，弄得敵人左右支絀。晉冀豫軍區司令員倪志亮稱贊，“桂支隊”是太行地區游擊支隊中的勁旅。

1940年5月，桂干生調離太行山區，擔任新9旅旅長兼冀南軍區四分區司令員。當時，日寇大力推行“囚籠政策”，碉堡工事遍布平原，妄圖斷絕冀南抗日軍民的生存條件。桂干生堅決執行中央關于發動群眾、打破封鎖、長期堅持的方針，團結全分區軍民，與敵人展開針鋒相對的斗爭。7月22日至28日，他指揮新9旅主力對敵人發起連續破襲戰，先后作戰21次，破壞敵人鐵路25公里、公路180公里，取得了交通作戰的勝利。7月25日，他指揮新9旅在武邑、衡水之間設伏，殲滅衡水出犯之敵40余人，繳獲野炮1門，創造了平原地區伏擊殲敵的又一范例。

1940年冬至1943年秋，正是抗戰艱苦相持階段，桂干生北調冀南一分區司令員。一分區靠近戰略要地石家莊，對敵斗爭形勢特別嚴峻，桂干生大力開展抗日統一戰線工作，團結一切可以團結的力量，巧妙與敵周旋。為分化瓦解敵人，他不避艱險，多次到駐守在魏縣的偽“東亞同盟自治軍”第一旅旅長李成華部做策反工作，使李成華率部起義，極大削弱了冀南日偽力量。

1945年6月13日，桂干生被任命為新四軍第5師干部隊副隊長，前往大別山抗日前線。7月7日，干部隊行至山西祁縣、平遙之間，不期而遇日偽軍，桂干生不幸中彈犧牲，時年34歲。

2014年9月1日，桂干生英名入選民政部公布的第一批著名抗日英烈和英雄群體名錄。