　$BC$ の中点を $M$ とすれば，三角形 $ABC$ 及び三角形 $DBC$ に中線定理を適用し，$2$ 式を足し合わせることで，
$$2(AM^2+DM^2)=AB^2 + AC^2 + CD^2 + BD^2 - BC^2=128 = 2AD^2$$
を得る．よって，$\angle AMD=90^{\circ}$ であり，$AD$ の中点を $N$ とすれば $ MN=4$ である．ここで直線 $AB$ と直線 $CD$ の交点を $E$ とし，$\angle EDA=α$ とおけば，条件より $\angle EAD=3α, 0^{\circ}\lt{α}\lt{45^{\circ}}$ である．また，三角形 $EAD$ の外接円と三角形 $EBC$ の外接円の交点のうち $E$ でない方を $P$ とおけば，$P$ は四角形 $ABCD$ のミケル点であるから，$AB=CD$ とあわせて，三角形 $PAB$ と三角形 $ PDC$ は同じ向きの合同である．よって，三角形 $PAD$ と三角形 $PBC$ は相似な二等辺三角形であり，$\angle PBM=\angle PCM=2α$ である．さらに，三角形 $PAD$ と三角形 $PBC$ が相似であることより，三角形 $PAB$ と三角形 $PNM$ が相似であり，その相似比は $5:4$ であるので，$\sin 2α=\dfrac{PM}{PB}=\dfrac{4}{5}$ が従う．よって，$\cos α=\dfrac{2}{\sqrt{5}}, \cos 3α=\dfrac{2}{5\sqrt{5}}$ が順に従い，余弦定理を適用することで
$$BD^2=89+\frac{32}{5}\sqrt{5},\quad AC^2=89+32\sqrt{5}$$
が求まる．以上より，
$$BC^2=BD^2+AC^2-78=\dfrac{500+192\sqrt{5}}{5}$$
を得る．特に解答すべき値は $\bf{702}$ である.
公式解説
https://onlinemathcontest.com/contests/omc218/editorial/4243
（発想に至るまで）\
　条件 $AB=CD=5, AD=8$ より，$A(4,0), D(-4,0)$ とおけば $B(4+5 \cos \alpha, 5 \sin \alpha), C(-4+5 \cos \beta, 5 \sin \beta)$ などとおける．またこのようにおくと，条件 $AC^2+BD^2=BC^2+78$ は計算しやすい条件となる（三平方の定理が使える）．\
　また条件 $3 \angle CDA - \angle DAB = 360^{\circ}$ についても，計算してみると，座標と相性がいい形になる．\
　このような条件がそろっており，座標を用いてみようと考えられる．

---

　$3 \angle CDA - \angle DAB = 360^{\circ}$ より，$\angle CDA=\theta$ とおくと $\angle DAB = 3 \theta - 360 ^{\circ}$ とおける．四角形が凸なので，$0^{\circ} \lt 3 \theta - 360 ^{\circ} \lt 180^{\circ} \iff 120^{\circ} \lt \theta \lt 180^{\circ}$ である．さらに，半直線 $BA$ と半直線 $CD$ が交わることから $\angle CDA+\angle DAB \gt 180^{\circ} \iff 135^{\circ} \lt \theta$ なので，$\theta $ は 条件 $135^{\circ} \lt \theta \lt 180^{\circ}$ を満たす．\
　$A(4,0), D(-4,0)$ とおくと，上の $\theta$ を用いて $B(4-5 \cos 3\theta, 5 \sin 3\theta), C(-4+5 \cos \theta, 5 \sin \theta)$  とおける．\
　以上で準備が整ったので，残った条件 $AC^2+BD^2=BC^2+78$ を変形していこう．三平方の定理を用いて式変形していけば，次の式が得られる．
$$ \cos \theta\cos 3\theta - \sin \theta \sin 3 \theta =-\dfrac{7}{25} $$
　左辺は加法定理を用いれば $\cos4\theta$ となるので，あとは半角の公式を用いて，角度の条件に気を付けながら計算すればよい．\
　$\cos 2 \theta=\dfrac{3}{5}, \cos \theta=-\dfrac{2\sqrt{5}}{5}$ となり，適当な式に代入すれば $BC^2$ が求まる．
座標を用いる方法
https://onlinemathcontest.com/contests/omc218/editorial/4243/471
　凸四角形 $ABCD$ が次の条件を満たしました．

 - 半直線 $BA$ と半直線 $CD$ は交わる．
 - $AB=CD=5, AD=8$  
 - $AC^2+BD^2=BC^2+78$  
 - $3 \angle CDA-\angle DAB=360^{\circ}$  

このとき，$BC$ の長さの $2$ 乗は正の整数 $a,b,c,d$ (ただし $c$ は平方因子をもたず，$a,b,d$ の最大公約数は $1$) を用いて $\dfrac{a+b\sqrt{c}}{d}$ と表されるので，$a+b+c+d$ を解答してください．