Название реки происходит от алгонквийского слова lappihanne (также записанного как топпеханнок), означающего "река быстрой, поднимающейся воды" или "где прилив и отлив", название, используемое местным коренным населением, племенем раппаханнок.
Хотя в ранние колониальные времена вдоль нижнего Раппаханнока было несколько небольших деревень, заселение долины реки Раппаханнок началось всерьез в первые годы XVIII века по настоянию губернатора Александра Спотсвуда. Река Джеймс была исследована до ее осенней линии, где геологически континентальное дно Пьемонта пересекается с осадочными породами и аллювиальными почвами прибрежной равнины. Спотсвуд способствовал поселению в долине реки, отличной от долины Джеймса. В 1714 году он начал искать переселенцев из Рейнланд-Пфальц и Швейцарии в усадьбы на землях, которые он контролировал, недалеко от того места, где Раппаханнок и Рапидан объединились. Известные как поселения Германа, эти деревни были основаны с целью разработки месторождений железной руды в регионе.
Битва на реке Раппаханнок произошла во время войны 1812 года. Семнадцать британских лодок, заполненных сотнями морских пехотинцев и моряков, захватили четырех американских кавалеров.
Во время гражданской войны в Америке река, с небольшим количеством удобных фордов и меньшим количеством мостов, обеспечивала заградительную и оборонительную линию. За этой линией войска не боялись нападения со стороны реки. Особенно трудным для союзных войск был барьер, который они пытались преодолеть в попытке вторгнуться в южную Вирджинию. В ходе войны контроль над рекой неоднократно переходил из рук в руки. Значительными сражениями на реке были Фредериксбургская битва и станция "Битва при Раппаханноке". Оборонительную линию на реке окончательно обошел Улисс С. Грант в дикой (или сухопутной) кампании 1864 года, завершившейся окончательной победой Союза.
В некоторых документах XVIII-XIX веков, включая некоторые записи Гражданской войны, река Раппаханнок была названа "рекой Хеджмена". В 1736-1737 гг. в исследовании Раппаханнок над устьем Рапидана был назван "пушкой", а далее вверх по течению - "рекой Хеджмена", названной в честь Натаниэля Хеджмена, раннего поселенца этого региона.