　$$\sin\angle APD=\frac{AD}{AP}=\frac{2}{5}$$
より，次がしたがう．
$$\cos\angle ABC=\cos 2\angle BEC=\cos 2\angle APD=1-2\cdot\Big(\frac{2}{5}\Big)^2=\frac{17}{25}$$
よって余弦定理より，
$$AC^2=1^2+3^2-2\cdot 1\cdot 3\cdot\Big(\frac{17}{25}\Big)=\frac{148}{25}$$
となり、特に解答すべき値は $\mathbf{173}$ である．
公式解説
https://onlinemathcontest.com/contests/omcb019/editorial/5177
直線 $AP$ と $CE$ の交点を $F$ とすると， $\triangle ADP\sim\triangle AFE$ が分かる．以下では $\angle APD=\angle AEF=\alpha$ とする．

---
$\triangle ADP$ で三平方の定理などから，$\mathrm{cos}\alpha=\dfrac{\sqrt{21}}{5}$ が分かる．$\triangle BCE$ が二等辺三角形であることから $CE=2BE\cdot\mathrm{cos}\alpha=\dfrac{6\sqrt{21}}{5}$ を得るので，$\triangle ACE$ で余弦定理より $$AC^2=4^2+(\dfrac{6\sqrt{21}}{5})^2-2\cdot4\cdot\dfrac{6\sqrt{21}}{5}\cdot\dfrac{\sqrt{21}}{5}=\mathbf{\dfrac{148}{25}}$$
三角比
https://onlinemathcontest.com/contests/omcb019/editorial/5177/594
　直線 $AP$ と直線 $EC$ は直交するので，その交点を $O$ とし，その点を原点として直交座標を用いて解きます．

----
　$\triangle APD \sim \triangle AEO $ と三平方の定理から 
$OA=\dfrac{8}{5},OE=\dfrac{4\sqrt{21}}{5}$ より，$A \left( \dfrac{8}{5},0 \right),E \left( 0,\dfrac{4\sqrt{21}}{5}\right )$ とおける．
　また， $B$ は線分 $AE$ を $1:3$ で内分しているから，
$$\overrightarrow{ OB }=\dfrac{3\overrightarrow{ OA }+\overrightarrow{ OE }}{4}=\left (\dfrac{6}{5},\dfrac{\sqrt{21}}{5} \right)$$
　また，$C$ は直線 $EF$ ( $y$ 軸 ) 上にあるから $C=(0,t)$ ( $t$ は実数 ) とおけて， $BC=3$ から
$t=-\dfrac{2\sqrt{21}}{5},\dfrac{4\sqrt{21}}{5}$ が得られるが， $t=\dfrac{4\sqrt{21}}{5}$ のときは $C=E$ となり不適．
　ゆえに $C\left(0,-\dfrac{2\sqrt{21}}{5}\right)$ から $$AC^{2}=\left(\dfrac{8}{5}\right)^{2}+\left(-\dfrac{2\sqrt{21}}{5} \right)^{2}= \dfrac{\textbf{148}}{\textbf{25}} $$
直交座標
https://onlinemathcontest.com/contests/omcb019/editorial/5177/598
　三角形 $ABC$ の辺 $AB$ の $B$ 側の延長線上に，$AB = BD,BC = BE$ を満たす点 $D, E$ を取ります．さらに， $D$ を通り直線 $AB$ に垂直な直線と $A$ から直線 $CE$ に下ろした垂線の交点を $P$ とします．
$$AB = 1,\quad BC = 3, \quad AP = 5$$
であるとき，$AC^2$ は互いに素な正整数 $a, b$ を用いて $\dfrac{a}{b}$ と表されるので $a+b$ の値を求めてください．