Япония была первой страной, построившей железнодорожные линии для высокоскоростного движения. Поскольку в Японии много гор, уже существовавшая сеть состояла из узкоколейных линий колеи 3'6" (1067 мм), которые, как правило, проходили по непрямым маршрутам и не могли быть приспособлены к более высоким скоростям. Из-за этого Япония испытывала большую потребность в новых высокоскоростных линиях, чем страны, где существующая система железных дорог стандартной или широкой колеи может быть легко модернизирована. В отличие от старых линий, линии "Синкансэн" имеют стандартную колею и используют туннели и виадуки, чтобы проходить через препятствия и преодолевать их, а не обходить.
Строительство первого участка линии Токайдо Синкансэн между Токио и Осакой началось в 1959 году. Линия была открыта 1 октября 1964 года, как раз к Олимпийским играм в Токио. Линия сразу же стала успешной, достигнув отметки в 100 миллионов пассажиров менее чем за три года - 13 июля 1967 года, и одного миллиарда пассажиров в 1976 году.
Первые поезда "Синкансэн" ходили со скоростью до 200 км/ч (125 миль/ч), позже скорость была увеличена до 220 км/ч (135 миль/ч). Некоторые из этих поездов, с их классическим пуленепробиваемым внешним видом, до сих пор используются для остановок между Хакатой и Осакой. Машинистский вагон одного из первоначальных поездов сейчас находится в Британском национальном железнодорожном музее в Йорке.
За первым типом поездов последовали многие более совершенные модели, как правило, каждая из них имеет свой собственный отличительный внешний вид. В настоящее время поезда "Синкансэн" регулярно ходят со скоростью до 300 км/ч (185 миль/ч), что ставит их в ряд самых быстрых поездов в мире, наряду с французскими TGV и немецкими ICE.
Первоначально предназначенные для перевозки пассажирских и грузовых поездов днем и ночью, линии Синкансэн перевозят только пассажирские поезда. Система останавливается с полуночи до 6:00 каждый день для проведения технического обслуживания, в том числе для запуска тестовых поездов Doctor Yellow. Немногие ночные поезда, которые все еще курсируют в Японии, ходят по старой узкоколейной сети, параллельно которой ходит "Синкансэн".
В 2003 году компания JR Tokai сообщила, что среднее время прибытия синкансэна было в пределах 6 секунд от запланированного времени. Этот показатель включает все природные и человеческие аварии и ошибки и рассчитан на основе примерно 160 000 поездок, совершенных синкансэном. Предыдущий рекорд был установлен в 1997 году и составлял 18 секунд.
Первый сход с рельсов пассажирского поезда "Синкансэн" произошел во время землетрясения Чуэцу 23 октября 2004 года. 6 из 8 вагонов поезда "Дзёэцу Синкансэн" сошли с рельсов возле станции Нагаока в Нагаоке, Ниигата.