Аякс
19 октября 2002 года де Йонг впервые сыграл за первую команду "Аякса". Свой первый гол он забил 18 февраля 2003 года в ничьей 1:1 с "Арсеналом" в Лиге чемпионов УЕФА. В следующем сезоне он стал часто играть в первой команде. В этом сезоне "Аякс" выиграл Эредивизие. В 2004-05 годах де Йонг был признан лучшим игроком сезона в составе "Аякса". Позже, после того, как он долгое время играл в полузащите, он стал чаще сидеть на скамейке запасных, чем выходить в стартовом составе в начале матча. 7 декабря 2005 года было объявлено, что де Йонг не хочет оставаться в "Аяксе". Его контракт с "Аяксом" должен был закончиться в июле 2006 года.
Гамбург
26 января 2006 года де Йонг подписал контракт на четыре с половиной года с клубом немецкой Бундеслиги "Гамбург". Он перешел туда примерно за 1 миллион евро. Через два дня он впервые сыграл за "Гамбург". В том матче "Гамбург" проиграл "Нюрнбергу" со счетом 2:1. В марте 2006 года де Йонг забил победный гол в первом в истории поражении "Баварии" на "Альянц Арене". Через неделю после этого он получил свою первую красную карточку в матче Кубка УЕФА против бухарестского "Рапида". В апреле он был вынужден прекратить играть, так как ему потребовалась операция на колене. Из-за травмы он также не смог сыграть за сборную Нидерландов на чемпионате мира 2006 года. Однако после того, как он вновь обрел хорошую физическую форму, его перевели в резерв.
Манчестер Сити
21 января 2009 года де Йонг перешел в "Манчестер Сити" за сумму около 18 миллионов фунтов стерлингов. Он подписал контракт на четыре с половиной года. Впервые он сыграл против "Ньюкасл Юнайтед" 28 января 2009 года. В Премьер-лиге он сыграл шестнадцать раз.
Де Йонг вышел в стартовом составе команды против "Арсенала" 12 сентября 2009 года. Он был признан "Человеком матча" по версии Sky Sports после победы "Манчестер Сити" над "Челси" со счетом 2:1 5 декабря 2009 года. К концу сезона он понравился болельщикам. Он был одним из первых кандидатов Роберто Манчини на позицию защитника, когда команда только что пропустила Лигу чемпионов. Де Йонг забил свой первый гол за "Манчестер Сити", когда они выиграли 2:1 у "Вест Хэм Юнайтед" 1 мая 2011 года.
Милан
31 августа 2012 года де Йонг перешел в клуб итальянской Серии А "Милан". Он подписал трехлетний контракт.