Параллелизм — понятие в математике и информатике¶
Параллелизм — свойство объектов, процессов или вычислений быть параллельными, то есть одновременными, независимыми и не пересекающимися в рассматриваемом смысле. Термин применяется в математике, информатике, лингвистике, философии и ряде других областей, обозначая либо геометрическое отношение, либо одновременное выполнение нескольких операций.
¶Математическое понятие
В евклидовой геометрии параллельность — отношение между прямыми линиями (или плоскостями), которые лежат в одной плоскости (пространстве) и не пересекаются ни в одной точке. Две параллельные прямые имеют общую нормаль и постоянное расстояние между собой.
Пятый постулат Евклида (постулат параллельных) утверждает: через точку, не лежащую на данной прямой, можно провести ровно одну прямую, параллельную данной. В неевклидовых геометриях этот постулат заменяется иными допущениями, что приводит к геометриям Лобачевского (гиперболической) и Римана (эллиптической), где «параллельных» прямых может не быть вовсе или их бесконечно много.
В линейной алгебре параллельность векторов означает, что они коллинеарны: один является скалярным множителем другого. В аналитической геометрии два отрезка параллельны, если их направляющие векторы пропорциональны.
¶Параллелизм в информатике
В компьютерных науках параллелизм — одновременное выполнение нескольких вычислительных процессов, операций или задач. Он лежит в основе многопроцессорных систем, многоядерных процессоров и распределённых вычислений.
¶Уровни параллелизма
- Параллелизм инструкций (instruction-level parallelism, ILP) — одновременное выполнение нескольких машинных команд в одном процессоре. Реализуется конвейеризацией, предсказанием переходов, суперскалярным исполнением.
- Параллелизм данных (data-level parallelism) — одновременная обработка разных элементов массива или набора данных. Основа SIMD-расширений (SSE, AVX) и графических процессоров (GPU).
- Параллелизм задач (task-level parallelism) — одновременное выполнение нескольких независимых подзадач разными потоками или процессами.
- Параллелизм потоков (thread-level parallelism) — работа нескольких потоков в рамках одного процесса над общим адресным пространством.
¶Модели параллельного программирования
Для организации параллельных вычислений используются различные модели:
| Модель | Описание |
|---|---|
| Общая память (shared memory) | Потоки обращаются к общей области памяти; синхронизация через мьютексы, семафоры, атомарные операции |
| Распределённая память | Каждый процесс владеет своей памятью; обмен через передачу сообщений (MPI) |
| Акторная модель | Независимые акторы обмениваются асинхронными сообщениями |
| Dataflow | Вычисление запускается автоматически при готовности входных данных |
¶Параллелизм в языках программирования
Многие языки предоставляют встроенные средства параллелизма: threading и multiprocessing в Python, std::thread и std::async в C++, горутины в Go, акторы в Erlang. Высокоуровневые фреймворки (OpenMP, CUDA, OpenCL) позволяют распараллеливать вычисления без явного управления потоками.
¶Проблемы параллельных вычислений
- Гонки данных (race conditions) — некорректный результат при одновременном доступе к общим ресурсам без синхронизации.
- Взаимоблокировка (deadlock) — ситуация, когда два и более потока бесконечно ждут друг друга.
- Атомарность операций — необходимость гарантировать, что операция выполняется как единое неделимое целое.
- Закон Амдала — прирост производительности от параллелизации ограничен долей последовательной части программы.
¶Параллелизм в лингвистике
В лингвистике параллелизм — стилистический приём, состоящий в повторении сходных синтаксических конструкций, рифм, ритмических или семантических элементов в соседних строках или фрагментах текста. Широко используется в фольклоре, поэзии (особенно в библейских псалмах, восточной поэзии, русском фольклоре), а также в ораторском искусстве.
Различают параллелизм лексический (повторение слов), синтаксический (повторение конструкций), фонетический (повторение звуков) и семантический (параллельные образы и метафоры).
¶Параллелизм в философии
В философии сознания параллелизм — доктрина, согласно которой психические и физические явления не взаимодействуют напрямую, но развиваются параллельно по законам, соответствующим каждой сфере. Противопоставляется интеракционизму (прямому взаимодействию) и эпифеноменализму. Исторически связана с учением Готфрида Лейбница о гармонии, устанавливаемой Богом, и с позднейшими формами психофизического параллелизма (Карл Геринг, Вильгельм Вундт).
¶Применение
Понятие параллелизма применяется при проектировании многопроцессорных систем, разработке высокопроизводительных приложений, построении распределённых систем (от веб-сервисов до суперкомпьютеров), а также в анализе и создании художественных текстов.
¶Источники
- Евклид. Начала
- А. А. Таненбаум. Современные операционные системы
- Дж. Л. Хеннесси, Д. А. Паттерсон. Архитектура компьютера
- Словарь лингвистических терминов
- Stanford Encyclopedia of Philosophy: Parallelism and Interaction