　方べきの定理より，
$$AM\cdot PM = BM\cdot CM = NM\cdot QM\tag1$$
が成り立つ．また，$AM = QM$ であるから，$PM = NM$ であるので，四角形 $BPCN$ は平行四辺形である．よって，
$$BN = CP = 3,\quad CN = BP = 5$$
がそれぞれ成り立つ．また，$PM = NM$ より $AM = 2PM$ であり，$BM = CM$ であるので，$NM = x$ とおけば，$(1)$ の左側の等号より $AM = 2x, BM = CM = \sqrt2x$ が分かる．いま，
$$\angle NBM = \angle PCM = \angle PCB = \angle PAB = \angle MAB$$
であるから，三角形 $ABM$ と三角形 $BNM$ は相似である．よって，
$$AB = BN\cdot\frac{BM}{MN} = 3\sqrt2$$
であり，同様にして，$AC = 5\sqrt2$ も分かる．よって，中線定理より
$$AB^2 + AC^2 = (3\sqrt2)^2 + (5\sqrt2)^2 = 2\big((2x)^2 + (\sqrt2x)^2\big) = 2(AM^2 + BM^2)$$
が成り立つので，これを解いて $x = \sqrt{\dfrac{17}{3}}$ を得る．よって，$BC = 2\sqrt2x = 2\sqrt{\dfrac{34}{3}}$
であるので，ヘロンの公式より三角形 $ABC$ の面積の二乗は
$$\dfrac{(AB^2 + BC^2 + CA^2)^2 - 2(AB^4 + BC^4 + CA^4)}{16} = \frac{1736}{9}$$
と表せる．特に解答すべき値は $\bf1745$ である．
公式解説
https://onlinemathcontest.com/contests/omcb024/editorial/9338
　$\triangle PBC$ に対しても中線定理が使えるので，それを使って解いてみます．

---

　$PM=x,BM=y$ と置く．このとき，四角形 $ABQC$ が平行四辺形であるから $M$ に対して図全体は対称である．よって， $AM=2x,CM=y$ である．$\triangle ABC$ の外接円に関する方べきの定理と $\triangle PBC$ に関する中線定理により，$AM\cdot MP=BM \cdot CM, BP^2+CP^2=2(PM^2+CM^2)$ が成り立つ．すなわち，
$$2x^2=y^2,\ \ 5^2+3^2=2(x^2+y^2)$$
が成り立つので，$x^2=\displaystyle{\frac{17}{3}},y^2=\displaystyle{\frac{34}{3}},xy=\sqrt{x^2y^2}=\displaystyle{\frac{17\sqrt{2}}{3}}$ である．

　$\angle CMP=\theta$ と置く．この時，$\triangle CMP$ に関する余弦定理により
$$\cos \theta = \frac{x^2+y^2-3^2}{2xy}=\frac{6\sqrt{2}}{17}$$
であり
$$\sin\theta = \sqrt{1-\left ( \frac{6\sqrt{2}}{17} \right )^2} = \frac{\sqrt{217}}{17}$$
を得る．これにより

$$
\triangle ABC = 2 \triangle ABM= 2 \cdot \frac{1}{2} (2x)y \sin \theta= 2 \cdot \frac{1}{2} \cdot 2 \cdot \frac{17\sqrt{2}}{3} \cdot  \frac{\sqrt{217}}{17} = \sqrt{\frac{1736}{9}}
$$
であるから，解答すべき値は $1736+9=\bf1745$ である．
△PBCで中線定理を使う
https://onlinemathcontest.com/contests/omcb024/editorial/9338/664
　鋭角三角形 ${ABC}$ があり，辺 $BC$ の中点を $M$ とします．直線 $AM$ と三角形 ${ABC}$ の外接円の交点のうち $A$ でない方を $P$ とし，線分 $AM$ の中点を $N$ とします．また，三角形 $BCN$ の外接円と直線 $AM$ の交点のうち $N$ でない方を $Q$ とします．
$$AM=MQ,\quad BP=5,\quad CP=3$$
が成立するとき，三角形 ${ABC}$の面積の $2$ 乗を求めてください．\
　ただし求める値は互いに素な正整数 $p,q$ を用いて $\dfrac{q}{p}$ と表されるので $p+q$ を解答してください．