　三角形 $ADR$ と三角形 $BCR$ は相似であるから，この相似の相似比を $1 : p$ とおく．三角形 $ADP$ と三角形 $CBP$ も相似であるが，この相似比も $AD : BC = 1 : p$ である．よって，$\angle BAC = \angle BDC = \theta$ とおくと，
$$|PBCR| = \frac{1}{2}\cdot BR\cdot CP\cdot\sin\theta = \frac{1}{2} \cdot pAR\cdot pAP\cdot\sin\theta = p^2\triangle APR$$
である．よって
$$\triangle ABC = |PBCR| - \triangle APR = (p^2 - 1)\triangle APR$$
であり，同様に，$\triangle BCD = (p^2 - 1)\triangle DPR$ である．したがって，
$$\begin{aligned}
\triangle RCD - \triangle RAB
&= \triangle BCD - \triangle ABC\\\\
&= (p^2 - 1)(\triangle DPR - \triangle APR)\\\\
&= 2(p^2 - 1)\triangle MPR
\end{aligned}$$
が成り立つので，$2(p^2 - 1) = \dfrac{9}{8}$ であり，これを解けば $p = \dfrac{5}{4}$ を得る．同様に，三角形 $ABR$ と三角形 $DCR$ の相似比を $1 : q$ とすれば，$2(q^2 - 1) = \dfrac{5}{2}$ が成り立つので，$q = \dfrac{3}{2}$
である．\
　以上より，$RA=8k,RB=10k,RC=15k,RD=12k$ とおくことができ，このとき余弦定理より $AB=2\sqrt{21}k,CD=3\sqrt{21}k$ が成り立つ．ここで，$D$ を通り直線 $AC$ に平行な直線と四角形 $ABCD$ の外接円の交点のうち $D$ でない方を $X$ とすると，
$$\angle BAX = \angle BAC + \angle CAX = \angle BDC + \angle DCA = 120^\circ$$
であるから，余弦定理より $BX=\sqrt{399}k$ である．一方，正弦定理より $BX = \sin120^\circ = \dfrac{\sqrt3}{2}$ でもあるので，$k=\dfrac{1}{2\sqrt{133}}$ を得る．以上より，${AC}^2={(23k)}^2=\dfrac{529}{532}$ であり，特に，解答すべき数値は $\textbf{1061}$ である．
公式解説
https://onlinemathcontest.com/contests/omce002/editorial/8090
四角形 $ARBX,BRCY,CRDZ,DRAW$ が平行四辺形となるような点 $X,Y,Z,W$ を取る. このとき, 例えば点 $Q,A,B,X,R$ と $Q,C,D,R,Z$ には相似の関係があるので $Q,X,Z$ は共線となる. ここで $\triangle{RXZ}=\dfrac{1}{2}(|YXRZ|-|WYRZ|)$ であるが
$$|YXRZ|=2\times\triangle{RBC}+\triangle{RXB}+\triangle{RZC}$$
$$|WXRZ|=2\times\triangle{RAD}+\triangle{RXA}+\triangle{RZD}$$
なので, $\triangle{RZX}=\triangle{RBC}-\triangle{RAD}$ だとわかる. よって仮定より
$$\triangle{QRX}:\triangle{QZR}=2\times 2:2\times 2 + 5=4:9$$
一方, 冒頭に述べた通り点 $Q,A,B,X,R$ と $Q,C,D,R,Z$ は相似であり, その相似比は $2:3$ であるとわかるので, $AB:CD=2:3$ が従う. 同様に $AD:BC=4:5$ もわかるので, あとは公式解説と同様にやれば良い.
---
一般的に, こういう問題では平行四辺形を作ってあげるとたまにうまくいきます. 例としてJJMO2023予選12を挙げておきます（ネタバレになったらすいません）.
算数で解く
https://onlinemathcontest.com/contests/omce002/editorial/8090/483
　四角形 $ABCD$ は直径が $1$ である円に内接しています．半直線 $BA$ と半直線 $CD$ は点 $P$ で交わり，半直線 $DA$ と半直線 $CB$ は点 $Q$ で交わり，直線 $AC$ と直線 $BD$ は点 $R$ で交わっています．辺 $AD$ の中点を $M$ とし，辺 $AB$ の中点を $N$ とすると以下が全て成り立ちました．

- $\angle{ARB}=60^{\circ}$
- $(\triangle{RCD}-\triangle{RAB}):\triangle{RPM}=9:8$  
- $(\triangle{RBC}-\triangle{RDA}):\triangle{RQN}=5:2$

　このとき，互いに素な正の整数 $a,b$ を用いて ${AC}^2=\dfrac{a}{b}$ と表せるので，$a+b$ の値を解答して下さい．ただし，三角形 $XYZ$ の面積を $\triangle XYZ$ で表します．