Appは主にスマートフォンやタブレットで動作する小型アプリケーションの総称。App StoreやGoogle Playなどのアプリストアから簡単にダウンロード・インストールでき、ユーザーが特定の機能を気軽に追加できる仕様になっています。
ソフトウェアはコンピュータを動かすための全てのプログラムやアプリケーションの総称。OSからアプリケーション、システムツールまで含む広い概念です。OSやWebブラウザ、オフィスソフトなど規模を問わず使われます。
Appはモバイルデバイス専用で小規模・娯楽性が高く、ユーザー向けの造語です。一方ソフトウェアはPC・サーバー・組み込みシステムなど全デバイスを対象とした学術的で広い概念。Appは日常会話で親しみやすく、ソフトウェアは技術的・ビジネス文脈で使われます。
モバイルアプリなら「App」、PC・システム全般なら「ソフトウェア」を選びます。日常的には「App」、技術文書では「ソフトウェア」が一般的です。不確実な場合は広い意味の「ソフトウェア」を推奨します。