Generative Pre-trained Transformerの略称。膨大なテキストデータで事前学習された深層学習モデルで、会話、文章作成、コード生成など多様なタスクに対応。ChatGPTなどのアプリケーションの基盤となっており、自然言語処理における革新的な技術として広く認識されている。
Generative Pre-trained Transformerという英語の頭文字から。2018年にOpenAIが初版を発表。Transformerというニューラルネットワーク構造をベースに、大規模データセットで事前学習した生成型モデルを指す。
似た言葉との違い・使い分けを解説しています。
この言葉やそのテーマを深めたい方へ。