关于汾河的最早文字记载是《山海经》：“管涔之山，汾水出焉。”之后，《水经注》：“汾水出太原汾阳北管涔山。”《汉书·地理志》汾阳：“北山，汾水所出。”《括地志》：“汾水源出岚州静乐县北三十里管涔山。”可见，古籍中多有汾河源头记载，均指向山西省北中部的管涔山，但具体位置语焉不详。

1992年12月由山西省水资源管理委员会编著、山西人民出版社出版的《山西水资源》（P-5）：汾河“发源于管涔山、宁武县东寨镇的雷鸣寺泉”。1995年中国大百科全书出版社出版的《中国大百科全书》中国地理分册（P-93）：汾河“发源于省境宁武县东寨镇西雷鸣寺泉。”1999年12月，由省史志研究院编著、中华书局出版的《山西通志·水利志》（P-29）：“汾河是山西境内第一大河，发源于宁武县境内管涔山脚下的雷鸣寺泉。”2004年9月科学出版社出版了由李英明、潘军峰主编的《山西河流》（P-25）：“汾河发源于宁武县东寨镇管涔山脉楼子山下水母洞，和周围的龙眼泉、象顶石支流汇流成河。”由省水利厅编著、山西人民出版社2006年1月出版的《汾河志》（P-2）：“今日汾河，发源于山西省西北部宁武县境内管涔山脉南麓东寨镇北楼子山脚下的雷鸣寺泉，此处竖立有‘汾源灵沼’石碑一尊，被视为汾河之正源。其实汾河真正的源头还应从正源雷鸣寺泉向北向西上溯16公里，至岔山乡宋家崖村之西北与五寨县交界处。”

2024年，山西省水文水资源勘测局在承担国务院下达的、与全国同步的河湖普查任务（第一次全国水利普查）时，利用1:5万国家基础地理信息、卫星遥感影像图、2.5米影像数据和其他资料，多次上下交互确定，然后通过“自上而下与自下而上相结合”的方式，与国务院普查办、流域普查办及市、县级普查办进行了大量沟通协商，制定普查指标和表格，下发到基层填报、处理、汇总、审核、上报，最后再次进行审核、评估、确定，形成了普查成果，确定了从神池县延伸过来的一条沟道为汾河源头，该地处于神池县太平庄乡西岭村管辖，位于历史水文认定的雷鸣寺泉上游。 汾河发源于神池县太平庄乡西岭村，流经（忻州市）宁武、静乐、（太原市）娄烦、古交、万柏林、阳曲、尖草坪、杏花岭、迎泽、晋源、小店、清徐、（吕梁市）文水、孝义、（晋中市）祁县、平遥、介休、灵石、（临汾市）霍州、洪洞、尧都、襄汾、曲沃、侯马、（运城市）新绛、稷山、河津、万荣6市29县（市、区），全长713公里，流域面积39721平方公里，在万荣县荣河镇庙前村汇入黄河。

汾河干流具体流向情况是：

汾河出源头，左岸与洪河汇合后改为西南流，再南流出宁武县，进入静乐县境内。汾河过静乐县城区，西南流左岸接东碾河、右汇西碾河，下过静乐水文站，南流进入娄烦县。在静游镇东北500米处汇入上游最大支流岚河。汾河过静游穿过一段长约4千米的石灰岩峡谷河段，到达汾河水库，水库坝址在杜家曲村。汾河在龙尾头进入古交市境内，接纳了天池河、狮子河、屯兰河、大川河，过古交市区到寨上水文站，其下因受石千峰阻挡，汾河流向改为东，河道迂迥曲折，峡谷夹岸，在河南村下游流出古交市。一直向东北流去，至柏崖头汾河右岸接纳柳林河后便进入汾河二库库区。出汾河二库流向改为东南。至此为上游段。

汾河出兰村峡谷，有兰村泉汇入，下游500米，有汾河一坝引水枢纽工程，它是汾河中游干流河道唯一的拦河堆石溢流坝，是在古代水工建筑基础上多次改建而成的现代水利灌溉工程汾河灌区的上游引水口。汾河过一坝南流，至南北固碾村附近左岸接纳杨兴河。汾河再南流进入太原城区。该段两岸从胜利桥上游155米至南内环桥下游125米，全长6千米，于1996年至2000年连续进行了大规模的全面综合整治与美化，建成带状的滨河胜景，改善了城市环境。

汾河出太原城区南流，西南25千米悬瓮山下，有晋祠泉汇入。汾河再西南流，潇河注入。汾河再下进入清徐县境。经汾河二坝，出清徐，流淌于祁县、文水县之间。汾河在祁县境内左岸，昌源河汇入，汇入之前接纳了象峪河（古称象谷水）和乌马河。

汾河至新堡附近流入平遥境内。汾河入平遥县境在蒋家堡附近过汾河三坝，该坝是汾河中游河道下端一处引水枢纽工程，向汾河灌区供水。

汾河入介休界先后有磁窑河和最大的支流文峪河汇入。于洪相村下游西北接纳龙凤河。汾河西南流6千米过义棠水文站东南流出介休。

汾河出介休西南流至灵石县地界，曲行10余千米到达县城。在县城上游1千米左岸接纳静升河，过县城向下游南流1千米干流突成90度弯折向西流，后有双池河汇入。汾河在此间迂迥穿行在灵霍山峡间。相传在远古时代，大禹治水曾路过此山峡，见其峡窄谷浅，便带领民众奋力劈山斩石，疏浚水道，使汾河顺利穿过。民间广为流传的“打开灵石口，空出晋阳湖”就说的是这段故事。汾河在王庄进入霍州市境内。南流有郭庄泉水汇入。

汾河入洪洞县境内，进入下游段。拐向南偏西流，再下到达左岸的赵城镇。汾河再南流到洪洞县城城北折向西流于左岸汇入洪安涧河和霍泉汇入。

汾河从洪洞出境到韩村进入临汾市区，有喀斯特大泉龙祠泉。汾河在临汾南流后折向西流再折向南流，在左岸接纳发源于东部山区的涝河和巨河的合流。汾河再南流，进入襄汾县境。汾河在襄汾境内有两条洪水峪沟从西部山区进入平川区入汾河。一为豁都峪，一为三官峪，均属季节性洪水涧河。

汾河出襄汾经曲沃县、侯马市边境。汾河在此几经流转，进入新绛境内，有浍河自左岸汇入后，流向基本折向西流。又有三泉河自右岸汇入，上游有鼓水灌区。

汾河进入稷山县境，干流河道在此呈南北较大幅度的摆动，行至底史村北出稷山县境进入河津市。再向西流进入宽广平缓的汾河入黄口。汾河河道因受黄河东侵夺汾之势的影响，时常呈南北向上下移动变迁。远至万荣县荣河镇庙前村故道入黄，近至上移到河津中湖潮东湖潮一带入黄。