中國工農紅軍第26軍是西北地區最早由中共中央授予正式番號的一支正規紅軍隊伍。這支由謝子長、劉志丹創建并率領的部隊，發揚革命英雄主義精神，在極其艱苦復雜斗爭中英勇奮斗、不怕犧牲，逐漸成為西北紅軍的主力部隊，為西北革命做出了巨大貢獻。

1935年9月17日，中共中央決定將紅26軍改編為78師，編入紅15軍團。

抗戰全面爆發后，1937年8月25日，紅15軍團改編為國民革命八路軍第115師344旅，旅長徐海東，下轄687團、688團，紅78師改編為687團2營和688團2營。

9月24日夜，八路軍115師冒著傾盆大雨，設伏于平型關東北老爺廟至小寨村公路附近高地，采用攔頭斷尾、中間突擊、分割殲敵的戰術，居高臨下，殲滅來犯之敵。師部命344旅第687團占領西溝村、蔡家峪、東河南鎮以南高地，斷敵退路，并阻擊由靈丘、渾源方向來援之敵。以第688團為師預備隊。

9月25日晨，日軍進入伏擊圈。687團分割包圍了日軍后尾部隊，切斷了其退路，2營、3營從小寨至老爺廟一線發起攻擊。

687團2營，是清一色的原陜北紅軍，在平型關下，這支部隊打得頑強，付出了很大犧牲。2營營長閻東山、教導員賀大增指揮全營趁機對敵穿插分割，防止敵人突圍，并一舉突入敵群，與敵兵短兵相接，展開肉搏，僅用20分鐘，毀壞敵汽車20余輛，將隘口堵塞，使敵無法運動，并痛殲躲在汽車里的敵人。

這時，有60多名日軍向2營6連陣地沖來。戰斗中又冒出一股敵人向老爺廟日軍增援。副連長為組織部隊沖擊，站起來高喊：“沖啊。”話音剛落，被日軍擊中犧牲了。這位副連長是陜北紅26軍的老兵，曾經與劉志丹一起東征渡黃河。在這場戰斗結束時，6連全連90多人，只剩下30余人，后來接替6連的7連也犧牲了20多人，2營3名通訊員犧牲了兩名。

戰斗進行到下午1時，687團將敵后尾部隊分割包圍于蔡家峪和西溝村地區，并搶占韓家灣北側高地，切斷了敵人的退路。2營8連副排長程榮耀回憶，其所在連隊消滅掉日軍的后衛小隊后，“向一條線的大車隊壓縮”。被分割的敵人企圖向北逃竄，但被687團殲滅于蔡家峪東北。隨后，687團轉而南下配合343旅進行戰斗，6連奉聶榮臻之命進攻老爺廟的日軍汽車隊。

25日下午3時，日軍快速部隊由靈丘來援。687團2營5連奉命防守蔡家峪，阻擊敵人。援敵在飛機和大炮的掩護下，向5連陣地反復進行沖擊。5連指戰員頑強扼守，連續打退敵人數次進攻。敵人的進攻越來越猛，5連指戰員傷亡過半。為保證主力全殲平型關被圍之敵，團部令2營7連控制小寨北隘口陣地支援5連。7連依據有利地形頑強抗擊，打退敵人連續沖擊，戰至夜晚8時，敵損失慘重，被迫退守靈丘。隨后，2營奉命增援685團肅清殘敵。

27日夜，發現老爺廟、關溝有日軍1個小隊，徐海東即令2營、3營分別將其殲滅。2營5連、8連夜襲分隊隱蔽接敵，以迅雷不及掩耳之勢一舉全殲老爺廟守敵。688團在原路無法到達的情況下，主動跑步翻山越嶺，趕赴戰場參戰。

戰斗勝利結束后，687團供給處負責打掃戰場的劉炳華回憶：“長長的山溝里，到處都是鬼子的汽車，燒著了的還在冒煙，汽車上面和車輪下面都是鬼子尸體……半山坡上鬼子的騎兵，連人帶馬橫尸遍地……公路上的汽車和大車還滿載著彈藥、裝備、被服、糧食、餅干、香煙……遍地都扔著彈藥，東洋兵的黃尼軍服，大頭鞋子……不可盡數。”在打掃戰場時，發現2營6連陣地前倒著50多具日軍尸體，還救出6連1名倒在敵人尸體堆中身負重傷的戰士。

在匯報平型關戰斗時，當115師首長得知687團2營就是當年陜北紅軍的一部分后，認為應該重建這支隊伍。不久，根據徐海東旅長建議，經八路軍總部批準，12月18日，在河北省平山縣郭蘇鎮西柏坡村，以原紅26軍78師的人員組建了689團。