機械学習システムは、機械学習アルゴリズムをソフトウェアやハードウェアに統合し、実際に動作させるシステム全体を指します。データ処理、学習、予測、監視、保守などの運用プロセスを含む具体的な実装形態です。
機械学習は、データから自動的にパターンを学習し予測や分類を行う理論的・技術的な学習方法です。アルゴリズム、数学的手法、学習プロセスなど、実装に先立つ基礎的な学習技術そのものを指します。
使う場面では、機械学習システムは導入・構築・運用の文脈で、機械学習は研究・技術説明で用いられます。ニュアンスとしてシステムはより実装的・具体的、機械学習はより理論的・抽象的です。対象として、機械学習システムは完成したプロダクト、機械学習は技術要素そのものを指す点が異なります。
具体的なシステムや製品の実装を指すなら「機械学習システム」、学習技術や手法そのものについて述べるなら「機械学習」を選びます。企業導入では前者、学術説明では後者が適切です。