コアシステムは、組織や事業の中心となる基本的な仕組みやプロセスを意味します。IT分野に限らず、経営戦略、業務プロセス、技術基盤など幅広い文脈で使用されます。より抽象的で概念的なニュアンスを持ちます。
基幹システムは、企業の主要な業務（会計、人事、販売、製造など）を統合的に管理するコンピュータシステムを指します。ERP（統合基幹業務システム）がその代表例です。具体的なIT資産としての色合いが強いです。
コアシステムは概念的・戦略的な中核要素全般を指し、基幹システムはIT領域における具体的なシステム構築を指します。コアシステムは経営判断やビジネスモデルの文脈で使われ、基幹システムは導入・運用・保守などのIT実務の文脈で使われます。対象範囲では、コアシステムはより広く、基幹システムはより具体的です。
経営層や戦略立案で根幹となる仕組み全般を指すならコアシステム。IT部門で統合型ビジネスシステムを指すなら基幹システム。業務管理に関わる具体的なシステムならば基幹システムを選びます。