　三角形 $ABD, ACE, BEH, CDH$ はいずれも直角二等辺三角形である．$BE = a, ~ CD = b$ とおくと，
$$ AB = 2a + \sqrt2b, \quad AC = \sqrt2a + 2b $$
であり，四角形 $AEHD$ の面積は
$$ 5 = \frac12 (a + \sqrt2b)^2 - \frac12 b^2 = \frac12(a^2 + b^2) + \sqrt2 ab$$
である．また，三角形 $ABC$ の外心を $P$，辺 $BC$ の中点を $M$ とすると，四角形 $BPCO$ は正方形となるので，中線定理より
$$ AO^2 = 2AM^2 + 2 PM^2 - AP^2 $$
となる．$BC = 2m$ とおくと $PM = m , ~ AP = \sqrt2 m$ および
$$ 2AM^2 = AB^2 + AC^2 - 2m^2 = 6(a^2 + b^2) + 8\sqrt2 ab - 2m^2$$
であり，三角形 $BEC$ での三平方の定理より
$$ 4m^2 = 2(a^2 + b^2) + 2\sqrt2 ab $$
だから，
$$ 49 = AO^2 = 2AM^2 =5(a^2 + b^2) + 7\sqrt2 ab $$
を得る．以上より，
$$
\left\lbrace
\begin{aligned}
& a^2 + b^2 + 2\sqrt2 ab = 10  \\\\
& 5(a^2 + b^2) + 7\sqrt2 ab = 49
\end{aligned}
\right.
$$
を解けばよく，
$$a^2+b^2 = \frac{28}{3}, \quad \sqrt2 ab = \frac{1}{3} $$
を得る．したがって，
$$BC^2 = 2(a^2 + b^2) + 2\sqrt2 ab = \frac{58}{3} $$
なので，解答すべき値は $\mathbf{61}$．
公式解説
https://onlinemathcontest.com/contests/omc225/editorial/10611
　公式解説とは異なる文字の使い方だが，$AC=b, AB=c$ とおく．

　公式解説と同様に，直角二等辺三角形をうまく活用して，四角形の面積の条件は次のように書き換えられる
$$\tag {1} 20=-b^2-c^2+2 \sqrt{2}bc$$

　次に条件 $OA=7$ を活用したい．\
　$\angle BOC=90^{\circ}$ なので，点 $O$ を中心に $\triangle ABC$ を $90^{\circ}$ 回転させて，点 $B$ が点 $C$ に一致するようにできる．このように回転移動したときの点 $A$ の移動先を $A^{\prime}$ としよう．このとき $\triangle ACA^{\prime}$ について，以下のことがわかる．
- 回転移動なので $A^{\prime}C=AB$
- $\triangle AOA^{\prime}$ は直角二等辺三角形なので $AA^{\prime}=7\sqrt{2}$
- 角度計算により $\angle ACA^{\prime}=135^{\circ}$

　よって余弦定理より $98=b^2+c^2+\sqrt{2}bc$ を得る．\
　式 $(1)$ と連立させて，
$$b^2+c^2=\dfrac{176}{3}, \sqrt{2}bc=\dfrac{118}{3}$$
　$\triangle ABC$ に余弦定理を用いて，
$$BC^2=b^2+c^2-\sqrt{2}bc=\dfrac{176}{3}-\dfrac{118}{3}=\dfrac{58}{3}$$

---

（さらなる別解）$AO=7$ の活用方針だけ記す．\
　点 $O$ を中心に $\triangle ABC$ を $180^{\circ}$ 回転させて，点 $A,B,C$ の移動先をそれぞれ $A^{\prime}, B^{\prime}, C^{\prime}$ とする．$AC$ と $A^{\prime}B^{\prime}$ の交点を $T$ とすると，$\triangle ATA^{\prime}$ について，以下のことがわかる．
- 四角形 $BCB^{\prime}C^{\prime}$ は正方形，特に $BC=C^{\prime}B^{\prime}$
- 適当な角度計算をすることによって $\triangle BHC \equiv \triangle CTB^{\prime}$
- 合同を用いて，$AT=\sqrt{2}c, A^{\prime}T=\sqrt{2}b, \angle ATA^{\prime}=135^{\circ}$

　$AA^{\prime}=2OA=14$ を用いれば，やはり余弦定理を活用することができる．
中線定理を使わない方針
https://onlinemathcontest.com/contests/omc225/editorial/10611/569
　$BE = a, EC = EA = b$ とおく．このとき，四角形 $BECO$ を $4$ つ組み合わせることで一辺の長さが $a+b$ の正方形ができるので，四角形 $BECO$ の面積は $\dfrac{(a+b)^2}{4}$ と分かる．また，$AB = AE + EB = a + b$ より，三角形 $ADB$ の面積も $\dfrac{(a+b)^2}{4}$ と分かる．よって，四角形 $BECO$ の面積と三角形 $ADB$ の面積が等しいため，四角形 $AEHD$ の面積と四角形 $BHCO$ の面積は等しく，共に $5$ と分かる．\
　そこで，三角形 $ABC$，三角形 $BOC$，三角形 $BHC$ の面積をそれぞれ $S, T, U$ とおく．すると，$T + U = 5$ が直ちに分かる．また，$AD : AB = AE : AC = 1 : \sqrt{2}$ より，三角形 $ADE$ と三角形 $ABC$ は相似比 $1 : \sqrt{2}$，つまり，面積比 $1 : 2$ の相似な三角形同士であると分かる．同様に，$EH : BH = DH : CH = 1: \sqrt{2}$ より，三角形 $EHD$ と三角形 $BHC$ の面積比が $1 : 2$ とも分かる．よって，四角形 $AEHD$ の面積は $\dfrac{S + U}{2}$ となり，$S + U = 10$ も分かる．\
　ここで，三角形 $AOC$ を点 $O$ を中心に点 $C$ が点 $B$ に重なるように回転移動させることを考える．このとき，点 $A$ の移動先を $A^\prime$ とする．すると，三角形 $AOA^\prime$ は $AO = A^\prime O = 7, \ \angle AOA^\prime = 90^\circ$ の直角二等辺三角形になるので，その面積は $\dfrac{49}{2}$ となる．また，四角形 $AOA^\prime B$ の面積は四角形 $ABOC$ の面積に等しく，$S + T$ と表される．そして，三角形 $ABA^\prime$ は $A^\prime B = AC, \ \angle ABA^\prime = 135^\circ$ を満たすため，その面積は三角形 $ABC$ のそれに等しく，$S$ で表される．よって，$2S + T = \dfrac{49}{2}$ が従う．\
　以上を連立させて解くことで，$T = \dfrac{29}{6}$ が得られる．$T = \dfrac{BC^2}{4}$ より，$BC^2 = \dfrac{58}{3}$ が従う．
面積に関する連立方程式を立てて解く方法
https://onlinemathcontest.com/contests/omc225/editorial/10611/570
　$BC=2x$ とおく． \
　辺 $BC$ の中点を $M$ ，三角形 $ABC$ の外心を $O^\prime$ とすると，$OM=O’M=x$ と $AO=\sqrt{2} x$ より中線定理で\
$$7^2+(\sqrt{2} x)^2=2(x^2+AM^2)$$
$$AM=\frac{7\sqrt{2}}{2}$$ がわかる．\
　中線定理より，$AB^2+AC^2=2(AM^2+BM^2)=49+2x^2$ \
　また，$AE=EC,AD=DB$ より $AE^2+EB^2+AD^2+DC^2=EC^2+EB^2+DB^2+DC^2=2BC^2=8x^2$ \
　$BE=EH,CD=DH$ より 
$$\begin{aligned}
AB^2+AC^2-(AE^2+EB^2+AD^2+DC^2) & =(AE+EB)^2+(AD+DC)^2-(AE^2+EB^2+AD^2+DC^2) \\\\
& =2AE・EB+2AD・DC \\\\
& =2AE・EH+2AD・DH \\\\
& =20
\end{aligned}$$
　よって $(49+2x^2)-8x^2=20$ なので
$$\begin{aligned}
BC^2 & = (2x)^2 \\\\
& =\frac{58}{3}
\end{aligned}$$
なので，解答すべき値は $\mathbf{61}$ ．
ユーザー解説
https://onlinemathcontest.com/contests/omc225/editorial/10611/575
　$\angle A = 45^\circ$ であるような鋭角三角形 $ABC$ の垂心を $H$ とします．$B, C$ から対辺に下ろした垂線の足をそれぞれ $D, E$ とし，三角形 $BHC$ の外心を $O$ とすると，$AO = 7$ であり，かつ四角形 $AEHD$ の面積が $5$ となりました．このとき，$BC^{2}$ は互いに素な正整数 $a, b$ によって $\dfrac{a}{b}$ と表されるので，$a+b$ の値を解答して下さい．