　$\angle BAE = θ$ とおくと，$\angle AEF = \angle AFE = 90^\circ - θ$ となることがわかるから $AE=AF$ である．すなわち $E$ と $F$ は $AC$ について対称である．これと $\angle EAF = 2θ$ より，$AE$ は $\angle BAC$ の二等分線となるから，
$$BE = BC × \frac{AB}{AB + AC} = 10(\sqrt{2} - 1)$$
$AC$ と$EF$ の交点を $G$ とすれば，三角形 $ABE$ と三角形 $AGE$ は合同だから，求める面積は
$$\left( \frac{1}{2} × AB × BE \right) × 2 = 100(\sqrt{2} - 1)$$
よって，求めるべき値は $20000 + 100 = \textbf {20100}$ である．
公式解説
https://onlinemathcontest.com/contests/omc156/editorial/3129
　一辺の長さが $10$ の正方形 $ABCD$ において，それぞれ辺 $BC,CD$ 上にある点 $E,F$ が以下をみたします：
$$\angle BAE:\angle CEF:\angle AFD=1:2:3$$
このとき，三角形 $AEF$ の面積は正整数 $a,b$ を用いて $\sqrt{a}-b$ と表せるので，$a+b$ を解答してください．