損失関数は、機械学習モデルの予測値と実際の値との乖離を定量化する関数です。モデルの性能を評価し、改善の必要性を示す指標として機能します。二乗誤差やクロスエントロピーなど、具体的な数式で表現されることが多いです。
目的関数は、最適化の対象となる全体的な評価基準を示す概念です。単なる予測誤差だけでなく、正則化項やペナルティ項を含めた、より広い範囲の最適化目標を表します。ビジネス観点での目標達成度も含まれます。
使う場面では、損失関数はモデル学習時の誤差評価に特化し、目的関数は学習と評価の全プロセスを統括します。ニュアンスでは、損失関数は「負の側面」を強調し最小化対象、目的関数は「達成目標」として柔軟に最小化・最大化の両方を扱います。対象では、損失関数は予測誤差のみ、目的関数は誤差と制約条件の総合評価です。
機械学習の実装では「損失関数」を、経営課題や最適化問題では「目的関数」を使い分けます。実務では、最小化する数式を指すなら損失関数、達成したい目標全体を指すなら目的関数が適切です。