Вычислительный конвейер

Преимущества и недостатки трубопроводов

Преимущества Трубопроводов:

1. Сокращается время цикла процессора; увеличивается пропускная способность команд. Трубопровод не уменьшает время выполнения команды, а увеличивает количество одновременно обрабатываемых команд ("сразу") и уменьшает задержку между завершёнными командами (так называемая "пропускная способность").
   Чем больше этапов трубопровода у процессора, тем больше команд он может обрабатывать "сразу" и тем меньше задержки между завершёнными командами. Каждый доминирующий микропроцессор
    общего назначения, выпускаемый сегодня, использует не менее 2-х ступеней трубопровода до 30 или 40 ступеней.
2. При использовании трубопроводов арифметический логический блок ЦПУ может быть спроектирован быстрее, но будет сложнее.
3. Теоретически прокладка трубопровода увеличивает производительность по однотрубному ядру в несколько раз (в предположении, что тактовая частота также увеличивается в один и тот же фактор), и код идеально подходит для выполнения трубопровода.
4. Трубопроводные процессоры, как правило, работают на более высокой тактовой частоте, чем тактовая частота ОЗУ (по состоянию на 2008 год технологии ОЗУ работали на низких частотах по сравнению с частотами ЦП), что повышает общую производительность компьютеров.

Недостатки трубопроводов:

Pipelining имеет много недостатков, хотя проектировщики CPU и компиляторов используют множество методик для преодоления большинства из них; ниже приведен список распространенных недостатков:

1. Конструкция непипериодического процессора проще и дешевле в производстве, непипериодический процессор выполняет только одну инструкцию за раз. Это предотвращает задержки ветвей (в Pipelining каждая ветвь задерживается), а также проблемы при одновременном выполнении последовательных инструкций.
2. В трубчатом процессоре вставка флипс флопов между модулями увеличивает задержку обучения по сравнению с не трубчатым процессором.
3. Непипериодический процессор будет иметь заданную пропускную способность команд. Производительность конвейерного процессора гораздо сложнее предсказать и может сильно отличаться для разных программ.
4. Многие проекты включают трубопроводы длиной до 7, 10, 20, 31 и даже больше стадий; недостатком длинного трубопровода является то, что при разветвлении программы весь трубопровод должен быть промыт (очищен). Более высокая пропускная способность конвейеров падает, когда исполняемый код содержит много ветвей: процессор не может заранее знать, где прочитать следующую инструкцию, и должен ждать, пока инструкция по ветвям закончится, оставляя конвейер пустым. Этот недостаток можно уменьшить, предсказывая, будет ли условная инструкция ветки ветвиться на основе предыдущей активности. После того, как ответвление разрешено, следующая инструкция должна пройти весь путь через конвейер, прежде чем её результат станет доступен, и процессор возобновит "работу" снова. В таких экстремальных случаях производительность конвейерного процессора может быть хуже, чем у не конвейерного.
5. К сожалению, не все инструкции независимы. В простом трубопроводе для выполнения инструкции может потребоваться 5 этапов. Чтобы работать на полную мощность, на этом трубопроводе необходимо будет выполнить 4 последующие независимые инструкции, пока заполняется первая. Любая из этих 4 инструкций может зависеть от результатов первой инструкции, что заставляет логику управления конвейером ждать и вставлять в конвейер остановку или тратить время впустую до тех пор, пока зависимость не будет устранена. К счастью, такие методы, как переадресация, могут значительно сократить случаи, когда требуется остановка.
6. Самоизменяющиеся программы могут не выполняться должным образом на конвейерной архитектуре, когда изменяемые инструкции находятся рядом с выполняемыми. Это может быть вызвано тем, что инструкции могут уже находиться в очереди ввода предварительной выборки, поэтому модификация может не вступить в силу для предстоящего выполнения инструкций. Кэш инструкций делает проблему еще хуже.
7. Опасности: Когда программист (или компилятор) пишет ассемблерный код, они обычно предполагают, что каждая инструкция выполняется до того, как выполняется следующая. Когда это предположение не подтверждается обвязкой, это приводит к некорректному поведению программы, ситуация называется опасной. Существуют
   различные методы устранения опасностей или работы с ними, такие как переадресация и задержка (путем вставки стойла или потерянного тактового генератора).

Примеры

Общий трубопровод

Справа - общий трубопровод с четырьмя ступенями:

1. Получить
2. Декодировать
3. Выполнить
4. Написать обратно

Верхняя серая рамка - это список инструкций, ожидающих выполнения; нижняя серая рамка - это список инструкций, которые были выполнены, а средняя белая рамка - это трубопровод.

Казнь выглядит следующим образом:

Время	Исполнение
0	Четыре инструкции ожидают выполнения
1	зеленая инструкция извлекается из памяти
2	декодирована зеленая инструкция фиолетовая инструкция извлекается из памяти.
3	выполняется зеленая инструкция (выполняется фактическая операция). декодирована фиолетовая инструкция голубая инструкция получена
4	результаты команды зеленого цвета записываются обратно в файл реестра или в память. выполняется фиолетовая инструкция декодирована голубая инструкция красная инструкция получена
5	зеленая инструкция выполнена фиолетовая инструкция написана в ответ голубая инструкция выполнена декодирована красная инструкция
6	Фиолетовая инструкция выполнена голубая инструкция написана в ответ красная инструкция выполнена
7	голубая инструкция выполнена красная инструкция написана обратно
8	красная инструкция выполнена
9	Все инструкции выполнены

Пузырь

Когда происходит "икота" (прерывание) в выполнении, в трубопроводе создается "пузырь", в котором ничего полезного не происходит. Во втором цикле получение фиолетовой команды задерживается, а в третьем цикле на этапе декодирования появляется пузырек. Все, что находится за фиолетовой командой, также задерживается, но все, что находится перед фиолетовой командой, продолжает выполняться.

Очевидно, что по сравнению с исполнением, приведенным выше, пузырь дает общее время исполнения 8 часов тиков вместо 7.

Пузырьки похожи на киоски (задержки), в которых ничего полезного не произойдет для получения, декодирования, выполнения и обратной записи. Это как NOP (сокращение от No OPeration) код.

Пример 1

Типичной инструкцией для добавления двух чисел может быть ADD A, B, C, который добавляет значения, найденные в ячейках памяти A и B, а затем помещает результат в ячейку памяти C. В конвейерном процессоре контроллер разбивает это на ряд задач, похожих на эти:

ЗАГРЯЗКА A, R1 ЗАГРЯЗКА B, R2 ADD R1, R2, R3 СТОР R3, C ЗАГРЯЗКА следующая инструкция

Места 'R1' и 'R2' - это регистры в процессоре. Значения, хранящиеся в ячейках памяти с метками 'A' и 'B', загружаются (копируются) в эти регистры, затем добавляются, и результат сохраняется в ячейке памяти с меткой 'C'.

В данном примере трубопровод представляет собой три этапа длительной загрузки, выполнения и хранения. Каждый из этапов называется этапами трубопровода.

На непипелинированном процессоре может работать только один этап за раз, поэтому вся инструкция должна быть завершена до того, как может начаться следующая. На конвейерном процессоре все стадии могут работать одновременно по разным инструкциям. Поэтому, когда эта команда находится на этапе выполнения, вторая команда будет на этапе декодирования, а третья - на этапе извлечения.

Пример 2

Чтобы лучше понять концепцию, можно посмотреть на теоретический трехступенчатый трубопровод:

Этап	Описание
Загрузить	Чтение инструкций из памяти
Выполнить	выполнить инструкцию
Магазин	Хранить результат в памяти и/или регистрах

и псевдокодовый список сборки, который должен быть выполнен:

Вот как это будет исполнено:

Часы 1
Загрузить	Выполнить	Магазин
LOAD

Команда LOAD извлекается из памяти.

Часы 2
Загрузить	Выполнить	Магазин
MOVE	LOAD

Команда LOAD выполняется, а команда MOVE забирается из памяти.

Часы 3
Загрузить	Выполнить	Магазин
ADD	MOVE	LOAD

Команда LOAD находится в стадии Store, где ее результат (номер 40) будет сохранен в регистре A. Тем временем, команда MOVE выполняется. Так как она должна переместить содержимое A в B, она должна дождаться окончания LOAD-инструкции.

Часы 4
Загрузить	Выполнить	Магазин
ИСТОРИЯ	ADD	MOVE

Команда STORE загружается, в то время как команда MOVE заканчивается, а ADD вычисляется.

И так далее. Обратите внимание, что иногда команда будет зависеть от результата другой команды (как в нашем примере MOVE). Когда несколько команд ссылаются на конкретное место для операнда, либо читая его (как вход), либо записывая (как выход), выполнение этих команд в порядке, отличном от исходного порядка программы, может привести к опасной ситуации (упомянутой выше).

Пузырь в цикле 3 задерживает выполнение


Общий 4-ступенчатый трубопровод; цветные коробки представляют собой независимые друг от друга инструкции

Связанные страницы

• Трубопровод (вычислительная техника)
• Параллельные вычисления
• Параллелизм на уровне инструкций