　$AC$ 上に $BC=BC^\prime$ なる点 $C^\prime$ を, $BC$ 上に $EF=EF^\prime$ なる点 $F^\prime$ をとると, 簡単な角度計算により三角形 $BC^\prime E$ および $F^\prime CE$ は相似であり, 特に $C^\prime E:EC=BE:3$ である. 一方で, それぞれ $A,E$ を通り $BC$ と平行な直線と $BC^\prime$ の交点を $A^\prime,E^\prime$ とすれば, $C^\prime A^\prime:A^\prime B=C^\prime A:AC=2:1$ であり,
$$C^\prime E:EC=C^\prime E^\prime:E^\prime B=2BD+DE:BE=2BE+24:BE$$
これらを連立させることで $BE=12$ を得る. このとき, 三角形 $ABE$ において余弦定理より $AB=\dfrac{20}{13}\sqrt{39}$ がわかるから, $ABCD$ の面積は $\dfrac{500}{13}\sqrt{3}$ と計算でき, 解答すべき値は $\textbf{516}$ である.
公式解説
https://onlinemathcontest.com/contests/omc104/editorial/281
公式解説より計算は重いですが, 思いつきやすいと思います. (おそらく)

$AD$ と $FE$ の交点を $P$ , $BA$ と $FE$ の交点を $Q$ とする.  $AE=xy, EC=x(1-y)$ とおく. このとき, $AB=x$ である. また, $AD \parallel BC$ より $AE:EC=PE:EF=DE:EB$ であり, 以下がわかる. 
$$EB=DE\times \frac{EC}{AE}=\frac{8-8y}{y}，PE=EF\times \frac{AE}{EC}=\frac{3y}{1-y}$$
また, $\triangle BAE \sim \triangle BEQ$ より以下がわかる. 
$$BQ=BE\times\frac{BE}{BA}=\frac{(8-8y)^2}{xy^2}，EQ=AE\times\frac{BE}{BA}=8-8y$$
$AD \parallel BC$ より, $QB:QF=AB:PF$ , 余弦定理より $AB^2+AB\times AE+AE^2=EB^2$ である. 
$$\begin{cases}
\dfrac{(8-8y)^2}{xy^2}\times \dfrac{3}{1-y}=(11-8y)\times x \\\\
x^2+x^2y+x^2y^2=\dfrac{(8-8y)^2}{y^2}
\end{cases}$$

この連立方程式を $0\lt y\lt 1$ に注意して解くことで, $(x, y)=(\dfrac{20}{13}\sqrt{39}, \dfrac{2}{5})$ がわかる.\
実際に解くときは
$$x^2=\dfrac{3(8-8y)^2}{y^2(11-8y)(1-y)}=\dfrac{(8-8y)^2}{y^2(1+y+y^2)}$$
と変形して $y$ の二次方程式を解くとよいだろう.
ユーザー解説
https://onlinemathcontest.com/contests/omc104/editorial/281/122
　$AB=AC$ および $AD\parallel BC$ をみたす凸四角形 $ABCD$ において，対角線の交点を $E$ とし，辺 $BC$ 上に点 $F$ をとると，以下が成立しました．
$$\angle BAC=\angle DEF=120^\circ,\quad DE=8, \quad EF=3$$
このとき，四角形 $ABCD$ の面積を求めてください．\
　ただし，求める値は互いに素な正整数 $a,c$ および 平方因子をもたない正整数 $b$ によって $\dfrac{a\sqrt{b}}{c}$ と表されるので，$a+b+c$ を解答してください．