4 марта 2004 года Келер ушел в отставку с занимаемых должностей, поскольку был выдвинут в качестве кандидата в президенты. В первом туре голосования Келер победил Гесине Шван 604 голосами против 580. За незначительных кандидатов было подано 20 голосов, в то время как один избиратель отсутствовал из-за сердечного приступа. Келер сменил на посту президента Йоханнеса Рау 1 июля 2004 года на пятилетний срок. Президентство Германии является в основном церемониальным. Тем не менее, оно также наделено значительным моральным авторитетом. С 2004 года до начала 2006 года Шарлоттенбургский дворец был резиденцией президента Германии. Это было связано с тем, что Шлосс Бельвю был отремонтирован.
После своего избрания Келер сказал, что "патриотизм и космополитизм не являются противоположностями". Представляя свое видение Германии, Келер также сказал, что "Германия должна стать страной идей".
В июле 2005 года по просьбе канцлера Герхарда Шрёдера он приостановил деятельность Бундестага. Шредер потерял доверие к Бундестагу. Это привело к досрочным выборам в Бундестаг в сентябре 2005 года.
В октябре 2006 года он принял далеко идущее решение, наложив вето на законопроект. Он передаст немецкое управление по безопасности полетов Deutsche Flugsicherung в частную собственность. Бундестаг принял этот закон, но как президент Келер был уполномочен не подписывать его в качестве закона, если, по его мнению, это противоречит конституции. В декабре 2006 года он не подписал закон "Об информации о потребителях", поскольку конституция не позволяет федеральному правительству давать указания муниципальным органам власти. Это могут делать только федеральные земли. До этого было только шесть случаев, когда президент Германии принимал решение об отклонении законопроектов. В большинстве случаев речь шла о менее важных законах. Его вето были первыми заметными примерами в новейшей истории Германии.
В своем рождественском обращении к нации в 2007 году Келер призвал правительство быстрее продвигать реформы. Он также критически оценил введение минимальной заработной платы в почтовом секторе, заявив, что "минимальная заработная плата, которую не могут выплачивать конкурентоспособные работодатели, уничтожает рабочие места".
22 мая 2008 года Келер заявил, что он хочет быть кандидатом на второй срок в качестве президента. 23 мая 2009 года он был переизбран Федеральным собранием и 1 июля 2009 года приведен к присяге на второй срок.
В ноябре 2009 года Келер отказался подписать "Zugangserschwerungsgesetz" (Закон о запрете доступа) без дополнительной информации. Этот закон, целью которого является затруднение доступа к сайтам во Всемирной паутине с детской порнографией, рассматривается многими экспертами в области права как неконституционный.
Ресигнация
31 мая 2010 года Келер объявил о своей отставке с поста президента Германии. Это произошло после того, как немецкие политики подвергли критике комментарии Келера в отношении размещения военных за рубежом:
Он подвергся критике за его заявление о том, что военные миссии Германии за рубежом также служат для обеспечения безопасности торговли. После этого он заявил, что в его комментариях речь идет о пиратстве у побережья Сомали. Келер заявил, что обвинения в том, что в ходе интервью он превысил свою официальную роль, отдавая предпочтение неконституционной позиции, не имеют под собой никакого смысла. Не получив никакой поддержки в этом споре, Келер ушел в отставку 31 мая 2010 года. Он выступил с заявлением, в котором заявил: "Я объявляю о своей отставке из Канцелярии Председателя с немедленным вступлением в силу". Отставка была расценена как "сюрприз". В последующие дни его критиковали за то, что он сам не смог справиться с критикой и в то же время был строгим критиком. Было также сочтено, что его беспрецедентный акт немедленной отставки свидетельствует о неуважении к его положению.
Как записано в Конституции Германии, до избрания Кристиана Вульфа президентом 30 июня 2010 г., полномочия на освободившейся должности исполнял действующий президент Бундесрата Йенс Бёрнзен.