ニューラルネットワークの各層で入力に非線形変換を加え、ネットワークの表現力を高める数学関数。
「活性化関数」を星図で探索する →
「活性化関数」とは?意味を解説
機械学習のニューラルネットワークにおいて、ニューロンの出力を決定する関数。線形演算だけでは複雑なパターン認識ができないため、非線形性を導入し、ネットワークがより高度な学習を実現できるようにする。ReLU、シグモイド、tanhなど複数の種類が存在し、用途や層によって使い分けられる。
例文
- ReLU活性化関数は負の値を0に変換し、正の値はそのまま出力する。
- シグモイド活性化関数は出力を0から1の範囲に正規化する。
- 隠れ層にtanh活性化関数を使用することで収束速度が向上した。
語源・由来
「活性化」は機械学習において非線形性により学習能力を高めること、「関数」は入力に対して出力を決定する数学的対応から構成される術語。英語の「activation function」の訳語として使用。
英語で言うと
activation functionnonlinear functiontransfer function
「活性化関数」との違いを比較する
似た言葉との違い・使い分けを解説しています。
「活性化関数」をもっと知る本
この言葉やそのテーマを深めたい方へ。
語彙の星雲で「活性化関数」を探索する →