　$\angle A$ が最大角であることより，特に $\angle B,\angle C$ は鋭角であるから，$H$ は直線 $BC$ に対し $A$ と同じ側に，$D,E$ は直線 $BC$ に対し $A$ と異なる側にある．また，三角形 $ BHC$ と三角形 $DHE$ は相似比 $1:2$ で相似である．\
　ここで $P$ を直線 $AH$ と直線 $DE$ の交点，$Q$ を線分 $DE$ の中点とすると，三角形 $ BHC,BPC,CQB$ は合同である．
これと $\angle BAC+\angle BHC=180^{\circ}$ より $2$ 点 $P,Q$ は三角形 $ABC$ の外接円上にあることがわかる．\
　三角形 $ABC$ の外接円と線分 $DE$ の交点は高々 $2$ 点であること，$DX=XY\lt XE$ より $X\not=Q$ であることから $X=P,Y=Q$ が得られる．このとき
$$DH=2BH=2BX,\quad EH=2CH=2BY$$
また $HX\perp DE,DX=XY$ より $DH=HY$ であるから，中線定理 $DH^2+EH^2=2(HY^2+DY^2)$ が成り立つことより
$$BC^2=DY^2=(EH^2-DH^2)\/2=2(BY^2-BX^2)=\textbf{450}$$
公式解説
https://onlinemathcontest.com/contests/omc239/editorial/2451
　$\angle A$ が最大角である三角形 $ABC$ があり，その垂心を $H$ とします．点 $B,C$ に関して点 $H$ と対称な点をそれぞれ $D,E$ とすると，三角形 $ABC$ の外接円と線分 $DE$ は相異なる $2$ 点 $X,Y$ で交わりました．
$$BX=20,\quad BY=25,\quad DX=XY$$ 
が成り立つとき，辺 $BC$ の長さの $2$ 乗を求めてください．