　$BC$ の中点を $M$ とし, $M$ に関して $H$ と対称な点を $Q$ とする. 
$4$ 点 $B,C,D,E$ はすべて $M$ を中心とする同一円上にあるので
$$\angle DEM = \angle EDM = \frac{1}{2}(180^\circ - \angle DME) = \frac{1}{2}(180^\circ - 2\angle ABD) = \angle BAC = \angle PCB=\angle PBC$$ 
が分かり $\triangle DEM \sim \triangle BCP$ を得る. 
また, 四角形 $HBQC$ は平行四辺形であるから
$$\angle QBC=\angle ECB=\angle HDE,\quad\angle QCB=\angle DBC=\angle HED$$
となり $\triangle DEH \sim \triangle BCQ$ である. 
よって $\triangle DHM \sim \triangle BQP$ である. 
$BM=CM=DM=EM=x$ とすれば
条件より $10:x=2x:16$ が成立し 
$x=4\sqrt{5}$ を得る. 
よって, 三平方の定理から 
$$PM = \sqrt{16^2 - (4\sqrt5)^2} = 4\sqrt{11}$$
を得る. また, 三角形 $DHM$ と三角形 $BQP$ の相似比は $\sqrt{5}:4$ であるから 
$HM=\sqrt{5}y,QP=4y$ とおける. 
このとき中線定理より以下が成立する. 
$$(4\sqrt{19})^2+(4y)^2=2\bigl((\sqrt{5}y)^2+(4\sqrt{11})^2\bigr)$$
これを解くことで $y=2\sqrt{2}$ を得る. また, 
$$\cos \angle BAC = \frac{AD}{AB} = \frac{DE}{BC} = \frac{\sqrt{5}}{4}$$
であり $\angle BHC = 180^\circ - \angle BAC$ であるから
$\cos \angle BHC = -\dfrac{\sqrt{5}}{4}$ である. 
$BH=a,CH=b$ とすれば中線定理および余弦定理から以下の2式を得る. 
$$a^2+b^2=240,\quad a^2 + b^2 + \frac{\sqrt{5}}{2}ab=320$$
これらと条件 $AB \lt AC$ を併せて解くことで $a^2 = 120 - 8\sqrt{145}$ を得る. 
特に解答すべき値は $\bf{273}$ である.
公式解説
https://onlinemathcontest.com/contests/omc094/editorial/3676
　少しゴリ押し強めの解法です．

----
　$\triangle DEH$ と $\triangle CBH$ は相似であり，その相似比は $\cos \angle A:1$ であるから $BC=10\/\cos\angle A$ である．また，接弦定理より $\angle A=\angle CBP$ だから $BC=32\cos\angle A$ である．これらを連立することで $\cos \angle A=\sqrt{5}\/4, BC=8\sqrt 5$ を得る．\
　$BC$ の中点を $M$ とし，$H$ から直線 $PM$ に下ろした垂線の足を $Q$ とおく．また $\triangle BHC$ の外心を $O$ とおく．このとき $O$ は線分 $PM$ 上にあり，$\angle BOC=2\angle A$ が分かるから
$$MO=\frac12 BC\times \frac{\sqrt{5}}{\sqrt{11}} = \frac{20}{\sqrt{11}},　HO=\frac12 BC\times \frac{4}{\sqrt{11}} = \frac{16\sqrt{5}}{\sqrt{11}}$$
を得る．また $PM=\dfrac{44}{\sqrt{11}}$ であるから $PO=\dfrac{24}{\sqrt{11}}$ である．ここで $QO=x$ とおけば，三平方の定理より
$$(4\sqrt{19})^2-\left(\frac{16\sqrt 5}{\sqrt{11}}\right)^2=HP^2-HO^2=QP^2-QO^2=\left(x+\frac{24}{\sqrt{11}}\right)^2-x^2$$
が成立し，これを解くことで $x=\dfrac{31}{\sqrt{11}}$ を得る．同時に $HQ=\sqrt{29}$ も分かる．以上より，直線 $AH$ と $BC$ の交点を $F$ とおけば
$$\begin{aligned}
BH^2&=BF^2+HF^2 \\\\
&= (BM-HQ)^2+(QO-MO)^2　(\because AB\lt AC)\\\\
&= (4\sqrt{5}-\sqrt{29})^2+\sqrt{11}^2\\\\
&=120-8\sqrt{145}
\end{aligned}$$
従って解答すべき値は $120+8+145=\textbf{273}$ である．
ユーザー解説
https://onlinemathcontest.com/contests/omc094/editorial/3676/61
　長さの条件が弱点になりがちな複素計算ですが，今回は完全に複素計算でゴリ押します．\
　$A$ の座標を $a$ などと対応する小文字で表します．$ABC$ の外接円を単位円に設定し，さらに $a=1$ とします．$b\overline{b}=c\overline{c}=1$ に注意してください．ただし今回は求値問題で，実際にはスケール変換できないので，逆に長さの条件をスケール変換してしまいます．具体的には $x\gt 0$ を実数として $DE=10x$ などが条件だったとします．要するに，元の条件で $1\/x$ が外接円の半径です．\
　登場する点自体は驚くほど遍在的なものばかりであり，座標もすべて単純です．いわゆる「獲得」にもすべて公式として載っています．
$$ d=\dfrac{1}{2}\biggl(1+b+c-\dfrac{c}{b}\biggr), \quad e=\dfrac{1}{2}\biggl(1+b+c-\dfrac{b}{c}\biggr), \quad h=1+b+c, \quad p=\dfrac{2bc}{b+c} $$
これらを用いると，条件は次のように表せます．
$$ \begin{aligned}
10x=|d-e|&=\dfrac{|b+c||b-c|}{2|b||c|}=\dfrac{1}{2}|b+c||b-c|, \\\\
16x=|b-p|&=\dfrac{|b||b-c|}{|b+c|}=\dfrac{|b-c|}{|b+c|}, \\\\
4\sqrt{19}x=|p-h|&=\dfrac{|b^2+b+c^2+c|}{|b+c|}
\end{aligned}$$
これらは結局次のように書き直せます．
$$ |b+c|=\dfrac{\sqrt{5}}{2},\quad |b-c|=8\sqrt{5}x,\quad |b^2+b+c^2+c|=2\sqrt{95}x $$
これでもうただの方程式の問題になったので，ここでは完全に幾何的な性質を忘れて代数的に解き切ることを目標とします（あくまでやろうと思えば出来るんだという極端な事実の紹介で，一般にはこれは悪手です．基本的には初等で出来るところまでまずやりましょう．それに，証明問題ならばさておき，求値問題ではふつうは複素計算はそれほど綺麗には刺さらない）．\
　絶対値を扱うコツは，$|z|^2=z\overline{z}$ で解体することです．これを $|b\pm c|$ で実行してみると，
$$\dfrac{5}{4}=(b+c)\biggl(\dfrac{1}{b}+\dfrac{1}{c}\biggr)=2+\biggl(\dfrac{b}{c}+\dfrac{c}{b}\biggr), \quad
320x^2=(b-c)\biggl(\dfrac{1}{b}-\dfrac{1}{c}\biggr)=2-\biggl(\dfrac{b}{c}+\dfrac{c}{b}\biggr).$$
これより早速 $x=\sqrt{55}\/80$ が得られます．さらには比 $b\/c$ もわかるので，理論上は $c$ 一文字の議論に完全に帰着できるのですが，$b\/c$ は特に綺麗な値では無いので得策ではないことはすぐに察せるでしょう．事実として（これはメタ読みですが）今回はわざわざ平方を求めよとの指示で，それが $2$ 次の無理数ということは，$c$ は著しく汚い形になることが予想されます．なので，ここからが工夫のしどころです．$c$ を直接求めに行ってはまずいので，欲しい値を直接出してしまうことを考えると，平方のままにしておくのが良いということだったので，
$$|b-h|^2=|1+c|^2=(1+c)\biggl(1+\dfrac{1}{c}\biggr)=2+c+\dfrac{1}{c}$$
すなわち $\gamma:=c+1\/c$ が目標となってきます．\
　さて，難敵は $|b^2+b+c^2+c|$ の扱いです．そもそも，元の問題の難しさも $PH$ というよくわからない線分の長さの一点に集約されており，残りの条件はどうということはありません．現にここまで得られたのは元の問題に照らし合わせると外接円の半径や $BC$ の長さであり，これは実際にはちょっとした三角比計算などですぐに実行できることです．ポイントは $|b|$ や $|c|$ で割り放題ということで，
$$\dfrac{\sqrt{209}}{8}=|b^2+b+c^2+c|=\dfrac{|b^2+b+c^2+c|}{|b||c|}=\biggl|\dfrac{b}{c}+\dfrac{c}{b}+\dfrac{1}{b}+\dfrac{1}{c}\biggr|=\biggl|\dfrac{1}{b}+\dfrac{1}{c}-\dfrac{3}{4}\biggr|$$
とできます．無理やり $b\/c+c\/b$ という既知の値を作り出しに行ったのです．これを $2$ 乗すれば
$$\dfrac{209}{64}=\biggl(\dfrac{1}{b}+\dfrac{1}{c}-\dfrac{3}{4}\biggr)\biggl(b+c-\dfrac{3}{4}\biggr)=\dfrac{41}{16}+\underbrace{\dfrac{b}{c}+\dfrac{c}{b}}_{-3\/4}-\dfrac{3}{4}\biggl(\underbrace{b+\dfrac{1}{b}}\_{\beta}+\underbrace{c+\dfrac{1}{c}}\_{\gamma}\biggr)$$
と目標の $\gamma$ が姿を現しました．対称的に $\beta:=b+1\/b$ としておくと，$\beta+\gamma=-31\/16$ がわかったことになります．\
　もうおわかりでしょう．あとは $\beta\gamma=bc+1\/bc-3\/4$ を求めればよいのです．ここで最後の工夫なのですが，
$$\dfrac{31}{16}=|\beta+\gamma|=\dfrac{|b+c||1+bc|}{|b||c|}=\dfrac{\sqrt{5}}{2}|1+bc|$$
であることから，
$$\dfrac{961}{320}=|1+bc|^2=(1+bc)\biggl(1+\dfrac{1}{bc}\biggr)=2+bc+\dfrac{1}{bc}=\beta\gamma+\dfrac{11}{4}$$
となって $\beta\gamma=81\/320$ が得られました．これより然るべき $2$ 次方程式を解けば，確かに正しい値を得ます．なお，当然 $2$ つの値が出てくるのですが，$AB\lt AC$ は $\beta=2\mathrm{Re}~ b\gt 2\mathrm{Re}~c=\gamma$ と同値だとわかります．$a=1$ の設定が効いていることに注意してください．
複素数平面を用いて
https://onlinemathcontest.com/contests/omc094/editorial/3676/62
　$AB \lt AC$ なる鋭角三角形 $ABC$ の垂心を $H$ とし, 外接円を $\Gamma$ とします. 
直線 $BH$ と $AC$ の交点を $D$, 直線 $CH$ と $AB$ の交点を $E$ とします. 
$B,C$ における $Γ$ の接線の交点を $P$ とします. 
$$DE=10,\quad BP=16,\quad PH=4\sqrt{19}$$ 
が成立するとき, $BH$ の長さの二乗を求めてください. 
ただし, 求める値は平方因子を持たない正の整数 $c$ と正の整数 $a,b$ を用いて $a-b\sqrt{c}$ と表せるので,  $a+b+c$ を解答してください.