　三角形 $HEB$ について,  $∠EHB$ の外角の二等分線が $DH$ であるから,
$$EH:BH=ED:BD=1:2$$
が分かる. $EH=x$ とおけば $EB=ED= \sqrt{3}x$ で, また三角形 $EHD$ と $EAC$ の相似により
$$EC= \sqrt{3}EA= \sqrt{3}×2 \sqrt{3}x=6x$$
を得るので $HC=5x$ であり, $A, E, F, C$ の共円より方べきの定理から
$$AH×HF=EH×HC=5x^2$$
が成り立つ. 一方, 三角形 $AEH$ に三平方の定理を用いることで$AH=\sqrt{13}x$ を得るので, $HF=\frac{5}{\sqrt{13}}x$ を得る. したがって $AH+HF= \frac{18}{\sqrt{13}} x=18$ より $x=\sqrt{13}$ であるから $AB=3\sqrt{3}x=3\sqrt{39}=\sqrt{\textbf{351}}$.
公式解説
https://onlinemathcontest.com/contests/omc137/editorial/1814
　$H$ を垂心とする鋭角三角形 $ABC$ において，角 $BHC$ の二等分線と辺 $AB$ が交わったのでその交点を $D$ とし，$CH$ と辺 $AB$ の交点を $E$ とすると，
$$AD=DE=EB$$
が成り立ちました．$AH$ と $BC$ の交点 $F$ について，$AF=18$ であるとき，$AB^2$ を求めてください.