不動産ではなく代償金を取得したいが、実家の跡取りとなった長男が代償金を払うだけの金銭を持っていない
遺産分割協議がまとまらない場合には家庭裁判所に遺産分割調停の申立てをすることになりますが、調停で話し合っても長男がお金を準備しない(又はできない)場合、調停は不成立となり、審判手続に移行します。そして、審判手続において、家庭裁判所に換価分割の審判(遺産である不動産の競売を命じる審判)を出してもらいます。
なお、遺産である不動産が被相続人と長男との共有となっているような場合には、遺産を共有とする審判を出してもらったうえで、改めて地方裁判所に対して共有物分割訴訟を提起し、それでも長男がお金を準備しない(又はできない)ときは競売となり、競売代金を共有割合で分配することになります。競売となると時価の5割から7割程度の値段でしか売れませんので、いずれかの段階で共同して実家を任意売却するほうが得策です。