$$\angle CQP = \angle DAP = \angle RAP$$
であり，同様に $\angle ARP = \angle QCP$ が成り立つので，三角形 $APR$ と三角形 $QPC$ は相似である．また，
$$\begin{aligned}
\angle BAC &= \angle BDC = \angle PDC = \angle PRC,\\\\
\angle ABC &= 180^\circ - \angle ADC = 180^\circ - \angle RDC = \angle RPC
\end{aligned}$$
がそれぞれ成り立つので，三角形 $ABC$ と三角形 $RPC$ も相似である．よって，
$$AR : CQ = PR : CP = AB : BC = 5 : 7$$
である．また，
$$\begin{aligned}
\angle ABP &= \angle ABD = \angle ACD = \angle ACQ\\\\
\angle APB &= 180^\circ - \angle APD = 180^\circ - \angle AQD = \angle ACQ
\end{aligned}$$
であるから，三角形 $ABP$ と三角形 $ACQ$ は相似である．よって，
$$AC : CQ = AB : BP = 5 : 2$$
である．以上より，
$$CQ:DQ=2:3,\quad DR:AR=4:5$$
とあわせて計算することで，
$$AC : CD : DA = 35 : 35 : 18$$
を得る．よって，三角形 $ACD$ は $C$ を頂角とする二等辺三角形であるので，
$$\cos \angle ADC = \frac{AD}{2AC} = \frac{9}{35}$$
である．したがって，$\cos \angle ABC = - \cos \angle ADC$ に気をつければ，余弦定理より，
$$AC^2 = AB^2 + BC^2 - 2AB\cdot BC\cos\angle ABC = 92$$
を得る．よって，
$$AD^2 = \frac{18^2AC^2}{35^2} = \frac{29808}{1225}$$
である．特に，解答すべき値は $\bf{31033}$ である．

---

**別解.**　点 $D$ を中心に半径 $\sqrt{CD\times DA}$ の反転を行う．反転後の点を $^{\prime}$ を付けた記号で表す．このとき，
$$ DC^{\prime}:C^{\prime}Q^{\prime}=3:2, \quad DA^{\prime}:A^{\prime}R^{\prime}=4:5 $$
が成り立つ．よって，チェバの定理より $A^{\prime} B^{\prime} :B^{\prime} C^{\prime}=25:18$，さらにメネラウスの定理より $D^{\prime} B^{\prime} :D^{\prime} P^{\prime}=33:43$ が成り立つ．よって， $DP :DB=33:43$ であるため $DB=43\/5$ であることが分かる．\
　いま，$DA=DC^{\prime} ,DC=DA^{\prime}$ であることから，$\triangle ADC\equiv\triangle  C^{\prime}DA^{\prime}$ に注意する．ここで， $CX:XA=25:18$ なる点 $X$ を対角線 $AC$ 上にとると，$\triangle XDC\equiv\triangle  B^{\prime}DA^{\prime}$ であることから，$\angle XDC = \angle B^{\prime}DA^{\prime} =\angle BDA$．また，円周角の定理より $\angle ABD=\angle XCD$ であることから，$\triangle ABD \sim \triangle XCD$ が成り立つ．同様の議論から，$\triangle CBD \sim \triangle XAD$ も成り立つ．以上により，
$$
XC:CD=AB:BD=25:43, \quad XA:AD=CB:BD=35:43\\\\
 \implies DA:AX:XC:CD=(43\times 18):(35\times 18):(35\times 25):(35\times 43)
$$
となる．これにより，$AB:AD=CX:XD=175:36\sqrt{23}$ であるから，
$$DA^2=\frac{5^2 \times 36^2\times 23}{175^2}=\frac{29808}{1225}$$
である．特に，解答すべき値は $\bf{31033}$ である．
公式解説
https://onlinemathcontest.com/contests/omc198/editorial/9321
トレミーの定理でlength-chaseします．
___

　一般に，円に内接する凸四角形 $XYZW$ において，トレミーの定理と正弦定理より，

$$ XY \cdot \sin \angle ZXW + XW \cdot \sin \angle YXZ = XZ \cdot \sin \angle YXW$$

(両辺を外接円の直径で割ったのである)

　四角形 $DABC, DAPQ, DRPC$ は凸である[*1]から，

$$ DA \cdot \sin \angle BDC + DC \cdot \sin \angle ADB = DB \cdot \sin \angle ADC \\\\
DA \cdot \sin \angle BDC + DQ \cdot \sin \angle ADB = DP \cdot \sin \angle ADC \\\\
DR \cdot \sin \angle BDC + DC \cdot \sin \angle ADB = DP \cdot \sin \angle ADC $$

ここで，$\sin \angle BDC : \sin \angle ADB : \sin \angle ADC = BC : AB : AC = 7 : 5 : AC$ より，

$$ DA \cdot 7 + DC \cdot 5 = DB \cdot AC \\\\
DA \cdot 7 + \frac{3}{5} DC \cdot 5 = \left( DB-2 \right) \cdot AC \\\\
\frac{4}{9} DA \cdot 7 + DC \cdot 5 = \left( DB-2 \right) \cdot AC $$

したがって，

$$ \frac{2}{5} DC \cdot 5 = \frac{5}{9} DA \cdot 7 = 2AC$$

これを整理すると $DC = AC, DA = \dfrac{18}{35}AC$ が得られ，後は公式解説と同様．
___
[*1] 位置関係の議論をすれば証明できる．(実は，有向角を利用して凸性の議論を省くこともできる)
ユーザー解説
https://onlinemathcontest.com/contests/omc198/editorial/9321/385
　四角形 $ABCD$ は円に内接し，$AB = 5, BC = 7$ を満たしています．線分 $BD$ 上に $BP=2$ を満たすように点 $P$ をとると，三角形 $ADP$ の外接円と辺 $CD$ が $D$ でない点 $Q$ で交わり，三角形 $CDP$ の外接円と辺 $AD$ が $D$ でない点 $R$ で交わりました．
$$CQ:DQ=2:3,\quad DR:AR=4:5$$
が成り立つとき，$AD^2$ の値を求めてください．ただし，求める答えは互いに素な正の整数 $a,b$ を用いて $\dfrac{a}{b}$ と表せるので，$a+b$ の値を解答してください．