• знати базові принципи паралельних та розподілених обчислень;
• знати основні класи паралельних обчислювальних систем, особливості їх архітектури та програмування, методи оцінки продуктивності;
• знати застосування розподілених систем у різних областях;
• знати основні паралельні методи розв’язання задач;
• знати основи технологій паралельних та розподілених обчислень;
• вміти розробляти паралельні алгоритми;
• вміти проектувати та адаптувати паралельне та розподілене програмне забезпечення;
• вміти розробляти вимоги та специфікації до апаратних та програмних засобів реалізації паралельних обчислень;
• вміти визначати, обчислювати та аналізувати показники паралельних алгоритмів та програм;
• вміти оцінювати складність та ефективність програм за допомогою сучасних засобів профілювання.

Пререквізити
• Теорія алгоритмів
• Об'єктно-орієнтоване програмування
• Системне програмування
Кореквізити:
• Хмарні технології

Мета, задачі та цілі паралельної обробки даних. Принципи побудови паралельних обчислювальних систем. Способи розпаралелювання та організація обчислень у багатопроцесорних системах. Базові алгоритми паралельних обчислень. Паралельні методи розв’язання задач комбінаторики та теорії графів. Технологія OpenMP. Технологія MPI. Технологія C++ Threads. Способи розпаралелювання та організації обчислень. Багатопотокове програмування на основі технології OpenMP. Розподілене програмування на основі технології MPI. Колективні обчислення. Розподілене програмування на основі технології MPI. Обчислення в режимі «точка-точка». Багатопотокове програмування на основі технології C++ Threads

• Аксак Н.Г., Руденко О.Г., Гуржій А.М. Паралельні та розподілені обчислення: підручник. – Х.: Компанія СМІТ, 2009. – 480 с.
• Воеводин В.В., Воеводин Вл.В. Параллельные вычисления – СПб.: БХВ-Петербург, 2002. – 608 с.
• Гергель В.П. Теория и практика параллельных вычислений – М.:ИНТУИТ.РУ Интернет-Университет Информационных технологий; БИНОМ. Лаборатория знаний, 2007. – 423 с: ил., табл.
• Таненбаум Э., ван Стеен М. Распределенные системы. Принципы и парадигмы – СПб.: Питер, 2003. – 877 с.: ил.
• Эндрюс Г.Р. Основы многопоточного, параллельного и распределенного программирования – М.: Издательский дом «Вильямс», 2003. – 512 с.: ил.
• Уильямс Э. Параллельное программирование на C++ в действии. Практика разработки многопоточных программ. – М.: ДМК Пресс, 2012. – 672 с: ил.
• Эхтер Ш., Робертс Дж. Многоядерное программирование. – СПб.: Питер, 2010. — 316 с: ил

письмові звіти з лабораторних робіт, усне опитування (40%)
підсумковий контроль (контрольний захід: екзамен): письмово-усна форма (60%)

• знати базові принципи функціонування паралельних та розподілених обчислень;
• знати основні класи паралельних обчислювальних систем;
• знати рівні паралелізації обчислень, особливості їх архітектури та програмування;
• вміти визначати тип та характеристики наявного обладнання та обирати найбільш ефективну реалізацію залежно від поставлених задач;
• вміти розробляти паралельні програми за допомогою сучасних технологій.

• Теорія алгоритмів
• Об'єктно-орієнтоване програмування
• Розподілені системи баз даних і знань
• Технології проектування систем бізнес-логіки

Основні поняття та задачі побудови розподілених систем. Основні властивості розподілених систем: прозорість, відкритість, масштабованість. Концепції апаратних та програмних рішень при побудові розподілених систем. Мультипроцесори. Гомогенні та гетерогенні мультикомп’ютерні системи. Розподілені та мережеві операційні системи. Забезпечення зв’язку та процеси в розподілених системах. Синхронізація та реплікація. Відмовостійкість та захист розподілених систем. Маскування помилок та реплікація. Розподілені системи об’єктів: C0RBA, DCOM, Globe. Паралельні обчислювальні системи. Скалярна, конвеєрна та паралельна обробка. Закон Мура. Спецпроцесори. Суперскалярні та VLIW архітектури. Комутаційні схеми. SMP комп’ютери. Архітектури NUMA та eeNUMA. Система функціональних пристроїв та класифікації Фліна, Хокні, Фенга Хендлера, Шнайдера, Скілкорна. Архітектура паралельних систем. Векторно-конвеєрні комп’ютери. Паралельні комп’ютери із загальною пам’яттю. Обчислювальні системи із розподіленою пам’яттю. Продуктивність паралельних комп’ютерів. Концепція GRID та метакомп’ютинг. Граф алгоритму та паралельні обчислення. Технології паралельного програмування. Засоби паралельного програмування. Системи програмування OpenMP, DVM та MPC.

1. Таненбаум Э. Распределенные системы. Принципы и парадигмы / Э. Таненбаум – Спб.: Питер, 2010. – 877 с.
2. Уильямс Э. Параллельное программирование на С++ в действии. Практика разработки многопоточных программ / Э.Уильямс - М.: ДМК Пресс, 2012. - 672с.
3. Эндрюс Г. Основы многопоточного, параллельного и распределенного программирования/ Г. Эндрюс – М.: Вильямс, 2010. – 512 с.
4. Воеводин В.В. Параллельные вычисления. /В. Воеводин – СПб.: БХВ-Петербург, 2010. – 312с.

• Поточний контроль (40%): письмові звіти з лабораторних робіт, розрахунково-графічна робота, усне опитування
• Підсумковий контроль (60%, екзамен): письмово-усна форма.

знати:
-основні особливості організації розподілених обчислень;
-основні програмні засоби, що забезпечують організацію розподілених обчислень, а також написання, налагодження та виконання розподілених програм;
- принципи організації паралельних обчислювальних систем;
- способи організації паралельної обробки інформації;
- засоби мовної та інструментальної підтримки розробки прикладного паралельного програмного забезпечення;
-основні тенденції розвитку даної предметної області;
вміти:
- застосовувати знання до використання розподілених обчислювальних систем;
- розробляти прості розподілені програми;
- використовувати існуючі розподілені системи для вирішення прикладних задач;
- вибирати мовні засоби відповідно зі специфікою розв'язуваної задачі;
- аналізувати алгоритми рішення прикладних завдань і адаптувати їх для паралельних обчислень;
- розробляти прикладні програми для мультиядерних обчислювальних систем;
- оцінювати ефективність застосування паралельного прикладного
програмного забезпечення.

Алгоритмізація і програмування
Чисельні методи
Системний аналіз
Організація баз даних та знань

Grid-технології Паралельні обчислювальні методи Базові алгоритми паралельних обчислень Побудова паралельних обчислювальних систем Засоби підтримки паралельних обчислень (PVM, MPI)

1. Є.Ваврук, О.Лашко Організація паралельних обчислень// Навчальний посібник з дисципліни «Паралельні та розподілені обчислення» для студентів базового напряму 6.0915 — «Комп’ютерна інженерія» — Л.: Вид-во Нац. ун-ту «Львівська політехніка», 2007. — 70 с.
2. С. Н. Андрианов, А. Б. Дегтярев // ПАРАЛЛЕЛЬНЫЕ И
РАСПРЕДЕЛЕННЫЕ ВЫЧИСЛЕНИЯ. — С.-Петерб.: Издательство С.- Петербургского университета, 2007. — 61 с.
3. Миллер Р., Боксер Л. Последовательные и параллельные алгоритмы. Пер. с англ. — М.: БИНОМ. Лаборатория знаний, 2006.
4. Воеводин В.В., Воеводин Вл.В. Параллельные вычисления. — СПб.: БХВ-Петербург, 2002.
5. Воеводин В.В. Математические основы параллельных вычислений. — М.: Изд-во МГУ, 1991.

лабораторні роботи - 50
письмова компонента - 40
усна компонента – 10