　直線 $CM$ と $\Omega$ の交点のうち $C$ でない方を $R$ とすると, $AB$ と $QR$ は平行であり, 特に $AQ=BR,AR=BQ$ が分かる. 次に, $\triangle CAM \sim \triangle BRM, \triangle ARM \sim \triangle CBM, AM=BM$ より
$$CA:AQ=CA:BR=CM:BM=CM:AM=CB:AR=CB:BQ$$
すなわち $AC\times BQ=AQ\times BC$ である. さらに, 四角形 $AQBC$ に対してトレミーの定理を適用すると
$$AC\times BQ+AQ\times BC=AB\times CQ$$
したがって与条件から $CQ=5$ を得る. また $\Omega$ について, 正弦定理から
$$\frac{AB}{\sin\angle BCA}=\frac{CQ}{\sin\angle QBC}$$
であるから $\sin\angle QBC=\dfrac{5}{9}$ であり, $\sin 2\angle QBC=\dfrac{20\sqrt{14}}{81}$ となる. ここで, $\triangle MQR$ が $MQ=MR$ なる二等辺三角形であることに注意すれば, 簡単な角度計算と方べきの定理から
$$\angle QMC=2\angle QBC,\quad CM\times MQ=AM\times BM=\left(\frac{18}{5}\right)^2=\frac{324}{25}$$
が分かるので, $\triangle CQM$ の面積は以下の計算で得られ, 解答すべき値は $896+25=\textbf{921}$ となる.
$$\triangle CQM=\frac{1}{2}\times CM\times MQ\times \sin\angle QMC=\frac{1}{2}\times \frac{324}{25}\times \frac{20\sqrt{14}}{81}=\frac{8\sqrt{14}}{5}=\sqrt{\frac{896}{25}}$$
公式解説
https://onlinemathcontest.com/contests/omc102/editorial/2377
　ここでは, この問題に関連する構図を紹介することに重きをおいて解説をします(解答の方針はほぼ公式解説と変わりません). まず, 言葉を二つ定義した上で, 一般的に成立する定理(構図)を三つ列挙します. 

----
**定義1.**　三角形 $ABC$ の$A$ に対する中線を $m$ とする. このとき, $\angle BAC$ の二等分線に関して $m$ と対称な直線を, 三角形 $ABC$ の $A$ に対する**疑似中線**または**symmedian**と呼ぶ. 

**定義2.**　四角形 $ABCD$ が**調和四角形**であるとは, 円に内接し, さらに $AB\times CD = BC\times DA$ を満たすことを言う. 

**定理1.**　三角形 $ABC$ の直線 $BC$ 上に $2$ 点 $P, Q$ があり, 三角形 $ABC$ の外接円と三角形 $APQ$ の外接円が接するとき, 直線 $AP$ と直線 $AQ$ は $\angle BAC$ の二等分線に関して対称である. 

**定理2.**　三角形 $ABC$ の外接円と三角形 $ABC$ の $A$ に対するsymmedianの交点を $P$ とすると, 四角形 $ABPC$ は調和四角形である. 

**定理3.**　調和四角形 $ABCD$ について, その外接円の中心を $O$, 線分 $BD$ の中点を $M$ とすると, $4$ 点 $A, C, M, O$ は同一円周上にある. 

----
定理1,2,3の証明は省略して, ここでは先に進みたいと思います. まず, 定理1より, 直線 $CQ$ は三角形 $ABC$ の $C$ に対するsymmedianであることが分かります. 従って, 定理2より四角形 $AQBC$ は調和四角形です. よって, 三角形 $ABC$ の外心を $O$ とすれば, 定理3より $4$ 点 $C, Q, M, O$ は同一円周上にあります. 以上より, Ptolemyの定理から, 定義2に気をつけることで
$$CQ = \frac{AC\times BQ + BC\times AQ}{AB} = \frac{2\times AC\times BQ}{AB} = 5$$
が分かります. さらに, 直線 $CM$ と $\Omega$ の交点を $R$ とすると, 定義1から $Q$ と $R$ は線分 $AB$ の垂直二等分線に関して対称なので, 方べきの定理より
$$CM\times QM = CM\times RM = AM\times BM = \frac{324}{25}$$
が分かります. そして, 正弦定理より 
$$\sin\angle CAQ = \sin\angle ACB \times \frac{CQ}{AB} = \frac{5}{9}$$
であるので, 
$$\sin\angle CMQ = \sin\angle COQ = \frac{20\sqrt{14}}{81}$$
が分かります. よって求める面積は
$$\frac{1}{2}\times CM\times QM\times \sin\angle CMQ = \frac{8\sqrt{14}}{5}$$
です.  


　さて, 最後に, 本問では使わなかった調和四角形やsymmedianにまつわる, 定理2,3以外の主な定理を紹介して終わりたいと思います.

----
**定理4.**　三角形 $ABC$ の $A$ に対するsymmedianと三角形 $ABC$ の外接円の $B, C$ での接線は一点で交わる. 

**定理5.**　調和四角形 $ABCD$ について, 弧 $BCD$ の中点を $M$ とすると, $\angle DAB$ の外角の二等分線, 直線 $BD$, 直線 $CM$ は一点で交わる. 

**定理6.**　三角形 $ABC$ の $A$ に対するsymmedianと辺 $BC$ の交点を $P$ とすると $BP : CP = AB^2 : AC^2$.
ユーザー解説
https://onlinemathcontest.com/contests/omc102/editorial/2377/82
　外接円を $\Omega$ とする三角形 $ABC$ において, 辺 $AB$ の中点を $M$ とします. $M$ を通り $C$ で $\Omega$ に内接する円が, 線分 $AM$ と $M$ でない点で交わったのでこれを $P$ とし, 直線 $CP$ と $\Omega$ の交点のうち $C$ でない方を $Q$ とすると,
$$AB=\frac{36}{5},\quad \sin\angle ACB=\frac{4}{5}, \quad AC\times BQ=18$$
が成立しました. このとき, 三角形 $CMQ$ の面積は互いに素な正整数 $a,b$ によって $\sqrt{\dfrac{a}{b}}$ と表されるので, $a+b$ を解答してください.