点 $F$ を直線 $AB$ を対称の軸として移動した点を $F_1$ ，直線 $AC$ を対称の軸として移動した点を $F_2$ とする．
$$\angle F_1 A F_2 =2 \angle FAB +2 \angle FAC =2 \angle BAC,\quad 
\angle FBF_1 =2 \angle FBA,\quad 
\angle FCF_2 =2 \angle FCA$$
であり，また条件から 
$\angle FBA= \angle BAC= \angle FCA$ 
が分かるため，
$$\angle F_1AF_2=\angle FBF_1=\angle FCF_2$$
となる．また，
$$AF_1=AF=AF_2,\quad BF_1=BF,\quad CF_2=CF$$
であるから，$\triangle AF_1F_2,\triangle BFF_1,\triangle CFF_2$ は相似であり，その相似比は $AF:BF:CF=10:4:7$ である．\
よって $\triangle FF_1F_2$ において $FF_1:FF_2:F_1F_2=4:7:10$ が成立するため，余弦定理から
$$\cos \angle F_1FF_2 =\frac{4^2+7^2-10^2}{2×4×7}=-\frac{5}{8}$$
となる．ここで，$180°- \angle F_1FF_2=\angle BAC$ となるため，
$$\cos \angle BAC= -\cos \angle F_1FF_2= \frac{5}{8}$$
となる．$\angle BFC=3\angle BAC$ であるから，$$\cos BFC=4(\cos \angle BAC)^3-3\cos \angle BAC=-\displaystyle \frac{115}{128}$$ となり，余弦定理から $$BC^2=4^2+7^2+2×4×7×\frac{115}{128}=\frac{1845}{16}$$ を得る．\
したがって答えは $\mathbf{1861}$ である．
公式解説
https://onlinemathcontest.com/contests/omc188/editorial/4425
　条件より　$$\angle{ABD}=\angle{BAC}=\angle{ACE}$$ なので，円周角の定理の逆より $4$ 点 $B,C,D,E$ は同一円周上にある．よって方冪の定理より，$$BF×DF=CF×EF$$ で，$DF=7x$ とおけば $$EF=4x，AE=CE=4x+7，AD=BD=7x+4$$ となる． $\angle{ADF}=2θ$ とおくと，条件より $\angle{AEF}=2θ$ で，余弦定理を三角形 $ADF$ と三角形 $AEF$ にそれぞれ適用することで，$$\frac{(7x)^2+(7x+4)^2-10^2}{2×7x×(7x+4)}=\frac{(4x)^2+(4x+7)^2-10^2}{2×4x×(4x+7)}=\cos{2θ}$$ が成り立つ．これを解いて $x=\dfrac{4}{5}$ で，$$\cos2θ=\frac{7}{32}，\sinθ=\frac{5}{8}，\cos(\angle{BAC})=\sinθ=\frac{5}{8}$$ が順にわかる.（後は公式解説と同様）
ユーザー解説
https://onlinemathcontest.com/contests/omc188/editorial/4425/330
直線 $AB$ 上に $AF=PF$ を満たす $A$ でない点 $P$ を, 直線 $AC$ 上に $AF=QF$ を満たす $A$ でない点 $Q$ をとる.
すると, 
 - $\angle FBP=\angle FCQ=180^\circ -\angle BAC$.
 - $\angle CFQ=\angle ACE-\angle AQF=\angle BAC-\angle FAQ=\angle FAP=\angle BPF$.

よって, $\triangle{BFP}$ と $\triangle{CQF}$ は相似であり, さらに $FP=FQ=10$ よりこれらは合同.\
以上より, $BP=CF=7$ なので, $\triangle{BFP}$ に対する余弦定理より $\displaystyle \mathrm{cos} \ \angle FBP=-\frac{5}{8}$ が計算でき, $\displaystyle \mathrm{cos} \ \angle BAC=\mathrm{cos} \ (\pi-\angle FBP)=\frac{5}{8}$ となる. 以下公式解説参照.
ユーザー解説
https://onlinemathcontest.com/contests/omc188/editorial/4425/335
　角 $A$ が最も小さい角である鋭角三角形 $ABC$ において，辺 $AC$ 上に $AD=BD$ なる点 $D$ を，辺 $AB$ 上に $AE=CE$ となる点 $E$ をとります．また，線分 $CE$ と線分 $BD$ の交点を $F$ とすると，
$$AF=10,\quad BF=4,\quad CF=7$$
となりました．辺 $BC$ の長さの二乗を求めてください．ただし，答えは互いに素な整数 $a,b$ を用いて $\dfrac{a}{b}$ と表せるので，$a+b$ を解答してください．