Haut-Rhin - один из 83 департаментов, созданных во время Французской революции 4 марта 1790 года. Он был разделен на три округа: Альткирх, Бельфор и Кольмар, со столицей в Кольмаре.
В 1800 году, с созданием округов во Франции, три округа были преобразованы в пять округов: Кольмар, Альткирх, Бельфор, Делемон и Поррентруй. В 1814 году округа Делемон и Поррентруй были ликвидированы и переданы Швейцарии.
В 1857 году субпрефектура Альткирха была перенесена в Мюлуз.
Департамент Верхний Рейн был ликвидирован в 1871 году, когда территория вошла в состав Германии, за исключением части, образующей территорию Бельфор.
В 1919 году Haut-Rhin снова стал департаментом, когда территория вошла в состав Франции с округами Кольмар-Вилль, Кольмар-Кампань, Альткирх, Гебвиллер, Мюлуз, Рибовилье и Танн. Его столицей является Кольмар.
Округа Кольмар-Вилль и Кольмар-Кампань были объединены в 1934 году в округ Кольмар.
Округ Гебвиллер был ликвидирован в 2015 году, а его территория была объединена с Тарном, образовав округ Танн-Гебвиллер. В том же году был ликвидирован округ Рибовилле, а его территория была объединена с округом Кольмар, образовав округ Кольмар-Рибовилле.