並列計算は、複数のプロセッサやコアを使用して、複数の計算処理を物理的に同時に実行する方式です。マルチコアCPUやGPUを活用し、大規模データ処理や科学計算など計算量が多い処理に適しており、処理時間の大幅な短縮が可能です。
並行計算は、複数のタスクやプロセスが論理的には独立して進行する状態を指します。単一プロセッサでも時間分割により実現でき、ユーザーインタフェースの応答性向上やI/O待機時間の有効活用が目的で、複数業務の効率的な処理に適しています。
使う場面では、並列計算は計算負荷が高い処理向け、並行計算はI/O待機や複数業務の同時進行向けです。ニュアンスとして、並列計算は物理的な同時実行の強調、並行計算は論理的な独立性の強調です。対象では、並列計算は数値計算やデータ処理、並行計算はWebサーバーやマルチタスク環境が典型的です。
計算量が多く速度向上が目的なら並列計算、複数処理の効率的な進行や応答性が目的なら並行計算を選びます。ハードウェアの制約やアルゴリズムの特性も考慮して判断してください。