Загальні зауваження

Є різні підходи до організації паралельного програмування. Одні широко використовуються на практиці, інші хороші своєю ідеєю, треті локанічні, тощо. Необхідно звернути увагу на то, що процес розробки паралельної програми відрізняються від процесу розробки послідовної програми. Тут необхідно попередньо проаналізувати і виявити ті фрагменти програми, які займають найбільше процесорного часу. Саме розпаралелення цих фрагментів дозволяє підвищити швидкість виконання програми. Розпаралелення зв’язане з виявленням підзадач, розв’язання яких можна доручити різним процесорам. Вимагається організація взаємодії між такими підзадачами, що можна зробити шляхом обміну повідомленнями-посилками (містять вхідні дані, проміжні і кінцеві результати роботи). Спеціальні прийоми вимагаються і при відлагодженні паралельної програми.

На ефективність розробки програм впливає і наявність відповідного програмного інструментарію. Розробнику паралельних програм необхідні засоби аналізу і виявлення паралелізму, транслятори, операційні системи (ОС), які забезпечують надійну роботу багатопроцесорних конфігурацій. Необхідні також засоби відлагодження і профілювання (побудова каркасу програми, прив’язаного до часових параметрів, що дозволяє оцінити продуктивність програми та окремих її частин). Середовищем виконання паралельних програм є ОС, які підтримують мультипроцесування, багатозадачність і багатопотоковість, наприклад, UNIX чи Microsoft Windows NT.

При розпаралеленні, яке ведеться на рівні алгоритмів необхідно: виміряти часові параметри, визначити необхідну кількість пересилань та необхідні об’єми пам’яті. Засоби відлагодження повинні забезпечити можливість безтупикової перевірки програм.