Паралелізм даних

Паралелізм задач

Етапи розробки паралельного алгоритму

Вправи і завдання до теми №4

Найрозповсюдженішим підходом до розпаралелення обчислень і обробки даних є підхід, що базується на моделях паралелізму даних і паралелізму задач. В основі кожного підходу лежить розповсюдження обчислювальної роботи між доступними користувачу процесорами паралельного комп’ютера. Причому виникають проблеми забезпечення рівномірного завантаження процесорів і ефективної організації обміну інформації між ними.

Паралелізм даних

Паралелізм даних базується на застосуванні однієї операції до кількох елементів масиву даних і може використовуватися при векторній і паралельній обробці.

Основними ознаками підходу є:

- обробкою даних керує одна програма;

- простір є глобальним (для програміста є одна єдина пам’ять, а деталі структури даних доступні до пам’яті і міжпроцесорного обміну для програміста скриті);

- слабка синхронізація обчислень на паралельних процесорах (кожен процесор виконує один той же фрагмент програми, але нема гарантії, що в даний момент часу на всіх процесорах виконується одна і таж машинна програма);

- паралельні операції над елементами масиву виконується на всіх допустимих даній програмі процесорах.

Базовими операціями для даної моделі паралелізму є: операції керування даними, операції над масивами та їх фрагментами, умовні операції, операції приведення, зсуву, сканування, пересилання даних.

Для програмування в моделі паралелізму даних використовуються спеціалізовані мови програмування, здебільшого різновидності мови FORTRAN. А сам програміст – слабо впливає на процес і результати роботи