　$D$ に関して $A$ と対称な点を $A^\prime$ とすると, $AC=A^\prime E$ および $\angle CAD+\angle EA^\prime D=60^\circ$ が成立する. これより四角形 $ACEA^\prime$ を $3$ つ組み合わせると, 一辺 $14$ の正三角形から一辺 $4$ の正三角形を取り除いた形になる. 求める面積は $ACEA^\prime$ のそれに等しいから,
$$\dfrac{1}{3}\left(14^2\times\frac{\sqrt3}{4}-4^2\times\frac{\sqrt3}{4}\right)=15\sqrt3=\sqrt{\textbf{675}}$$
　なお, 余弦定理と中線定理によって $BC^2$ を $2$ 通りに表現する方針によっても解くことができる.
公式解説
https://onlinemathcontest.com/contests/omc167/editorial/1931
　計算主体の解法です．
$BD=x,CD=y$ とする．円周角の定理から，
$$\angle ADB=\angle ADC=\angle CDE=60\degree$$
である．$\triangle{DEC}$ において余弦定理を用いて $16=x^2+y^2-xy…①$．また，
$\triangle{ABD},\triangle{ADC},\triangle{BDC}$ においても余弦定理を用いて
$$AB^2=x^2-7x+49=y^2-7y+49=x^2+y^2+xy…②$$

求める値は，$$\begin{aligned}
四角形ABEC &=\triangle{ABD}+\triangle{ADC}+\triangle{CDE}
\\\\&=\frac{7\sqrt{3}x}{4}+ \frac{7\sqrt{3}y}{4} + \frac{\sqrt{3}xy}{4}\\\\& = \frac{7\sqrt{3}(x+y)}{4} + \frac{\sqrt{3}xy}{4}
\end{aligned}$$
の二乗であるから，$x+y$ と $xy$ の値を求めればよく，$①,②$ から，$x+y=7,xy=11$ であり，求める値は $(\frac{49\sqrt3}{4}+\frac{11\sqrt{3}}{4})^2=\bf{675}$ である．

(ちなみに、正三角形 $ABC$ において、外接円上の $D$ が劣弧 $BC$ 上にあるとき、$BD+CD=AD$ が一般に成り立つので知っておくと早く解けると思います．)
ユーザー解説
https://onlinemathcontest.com/contests/omc167/editorial/1931/244
　三角形 $ABD$ を $B$ が $C$ にうつるように $A$ を中心に $60^\circ$ 回転させることで，四角形 $ABCD$ の面積は一辺 $7$ の正三角形の面積に等しいことと $BD+CD=7$ であることがわかる．  
　よって，$CD+DE=7$ となることと $\angle{CDE}=60^\circ$ に注意して，三角形 $CDE$ の面積を求めればよい．  
(余弦定理を用いて求めてもよいが，)一辺 $4$ の正三角形に三角形 $CDE$ を $3$ つくっつけて一辺 $7$ の正三角形が作れるので， 三角形 $CDE$ の面積は $\dfrac{\sqrt{3}}{4}(7^2-4^2)\times\dfrac{1}{3}=\dfrac{11\sqrt{3}}{4}$ とわかる．  
 以上より，求める面積は $\dfrac{\sqrt{3}}{4}\times7^2+\dfrac{11\sqrt{3}}{4}=15\sqrt{3}$ であり，特に解答すべき数値は $\textbf{675}$．
ユーザー解説
https://onlinemathcontest.com/contests/omc167/editorial/1931/245
　正三角形 $ABC$ において，その外接円の劣弧 $BC$ 上（端点を除く）に点 $D$ をとり，$D$ に関して $B$ と対称な点を $E$ としたとき，$AD=7$ および $CE=4$ が成立しました．このとき， 四角形 $ABEC$ の面積の $2$ 乗を求めてください．