《在太行山上》这首歌创作于1938年7月，是为在山西境内浴血奋战、抗击日本侵略者的抗日军民而创作的一首合唱曲。在这首歌曲中，冼星海将充满朝气的抒情性旋律同坚定有力的进行曲旋律有机地结合在一起，使歌曲既充满战斗性、现实性，又具有革命浪漫主义的瑰丽色彩。描绘了太行山里的游击健儿的战斗生活和勇敢顽强、乐观开朗的性格。
“七七事变”爆发后，桂涛声以战动总会工作人员的名义去山西省陵川县牺盟会民众干部训练班。当时，八路军的3个师正建立敌后抗日根据地。桂涛声到街头演说，一时间，陵川到处是控诉日本侵略者而义愤填膺的人群，到处是争相参加八路军的热血青年。陵川自卫队由300多人迅速扩编为1000多人，出现不少“母送儿，妻送郎”参军的感人场面。
在随游击队转战陵川的过程中，桂涛声目睹了太行王莽岭的“千山万壑”后，又亲身感受到了抗日军民才是真正的“铜壁铁墙”，触景生情，酝酿半年的诗篇《在太行山上》从心底迸发了出来，他随手写在香烟包装纸上。5 月，桂涛声离开太行山，6 月返回武汉，即带着歌词去见冼星海。
冼星海当时在周恩来、郭沫若领导国民政府军事委员会政治部第三厅任音乐科主任，主持音乐抗战工作。1938 年 6 月的一天晚上，桂声涛找到冼星海，请他为太行山区的战友们谱一支队歌。冼星海接过桂涛声写在烟盒上的歌词，仿佛看到太行军民浴血奋战的身影。坐在钢琴前，冼星海反复琢磨、构思，连夜将歌词《在太行山上》谱写成一首兼有抒情性和进行曲风格的二部合唱曲。
桂涛声，原名桂独生，曾用名浩然、翘然，化名吴璧，涛声是笔名。1906年农历三月十七日出生于沾益县菱角乡一回族农民家庭。两岁丧父，孤儿寡母相依为命，务农为生。他天资聪明，在本村读完私塾后，城内当小学教员的伯父桂培根，视其有音体方面的特长，将他带到沾益县城里读完高小。年仅15岁的桂独生，以优异成绩考入学制5年的云南省立曲靖师范公费学校读初中。他学习刻苦，有音体美的特长，在该校仅读了四年，即于1923年8月破格考入曲靖云南省立第三师范学校。
冼星海，中国近现代著名作曲家、钢琴家，冼星海创作了大量具有战斗性和感染力的群众歌曲，1935年至1938年间，冼星海创作了《救国军歌》《只怕不抵抗》《游击军歌》《到敌人后方去》《在太行山上》等各种类型的声乐作品，开拓了中国现代革命音乐的新局面。还创作了《黄河大合唱》《生产大合唱》等不朽名作，振奋了民族精神，成为中华民族抗敌救国的精神武器 。2009年冼星海被评为100位为新中国成立做出贡献的英雄模范人物之一。
歌曲旋律兼有抒情性和进行曲风格上现实的战斗性与革命浪漫主义的有机结合。该曲为复二部曲式，由两部分组成。第一部分由两个乐段构成，前段抒情宽广，属小调色彩。乐曲开头部分“红日照遍了东方”是一个强有力的旋律上行，恰似红日东升，配以回响式的二声部，仿佛歌声在山谷中回荡，营造出此起彼伏、一呼百应的气氛。后段转入平行大调，豪迈的气势中又融入深情温柔的诉说，表现了军民鱼水之情。
第二部分为进行曲风格，节奏铿锵有力且具有弹性，生动地刻画了出没在高山密林、机智勇敢的游击队员形象。此部分的第二乐段高音区的切分节奏果敢有力，“敌人从哪里进攻，我们就要它在哪里灭亡”的歌声随着音调逐步向上推进，形成高潮，最后结束在小调上，前后呼应、完整统一。
1938年7月，《在太行山上》由张曙、林路、赵启海等在武汉纪念抗战一周年歌咏大会上唱出，迅速传遍大后方及各敌后抗日根据地，鼓舞和激励着千千万万的抗日民众。奔赴战场太行山的游击队都以它为队歌。这首充满了抗日军民革命激情的旋律，使每一个中国人都肃然产生爱国主义的豪情壮志，荡漾着庄严肃穆和博大浪漫主义的民族之魂。