辞退とは、相手からの招待や提案、依頼などを丁寧に断る行為。職務や名誉に関わることを謙虚に断る場合に用いられることが多く、やや格式的で敬意を示すニュアンスを含みます。明確な理由や立場を背景にしていることが特徴です。
お断りとは、相手の申し出や要求を受け入れられないと伝えることの敬語表現。辞退よりも広く使え、日常会話でも用いられます。より柔軟で、相手の好意や提案を受け入れられない旨を、丁寧に伝える一般的な表現です。
使う場面では、辞退は栄誉や責任を伴う申し出（賞、役職、推薦など）に対して用いられ、お断りはより日常的な誘いや提案に対して使われます。ニュアンスでは辞退はより格式的で謙虚であり、お断りはより柔軟で親しみやすいです。対象では辞退は職務的・社会的な申し出に、お断りはあらゆる申し出に対応できます。
重要な職務や名誉に関する申し出には「辞退」を、それ以外の一般的な誘いや提案には「お断り」を使い分けることが目安です。「辞退」の方がより格式高く、謙虚な印象を与えます。