　三角形 $ABC$，三角形 $DBC$ ，三角形 $DEC$ は合同なので，

$$\angle ACB=\angle DCB=\angle DCE=60^\circ$$
$$AE=AC+CE=CD+BC=12$$ 
$$|\square ABDE|=3|\triangle BCD|$$
が成立する．したがって，$BC=a,~ CD=b$とすると，次が成り立つ．
$$a+b=12$$
$$3\times \frac{\sqrt{3}}{4}ab=7\sqrt{3}$$
以上より，余弦定理から $BD^2$ の値は次のように計算できる．
$$BD^2=a^2+b^2-ab=(a+b)^2-3ab=12^2-28=\bf{116}$$
公式解説
https://onlinemathcontest.com/contests/omcb008/editorial/3707
　$\angle{ACB}=60^{\circ}$ までは公式解説と同じです.   

  ---

　ここで四角形 $ABDE$ に着目すると, $$AB=DE, \angle{BAE}+\angle{AED}=\angle{BAC}+\angle{CBA}=180^{\circ}-\angle{ACB}=120^{\circ}$$
となるので, 四角形 $ABDE$ と合同な四角形 $6$ つを適切に組み合わせた図形は,  一辺の長さが $12$ の正六角形から一辺の長さが $BD$ の正六角形をくり抜いた図形となることがわかる.（具体的には, $2$ つの合同な四角形 $ABDE$ と $A^{\prime}B^{\prime}D^{\prime}E^{\prime}$ を, 辺 $AB$ と辺 $E^{\prime}D^{\prime}$ がこの順で重なるように, また四角形同士がその辺以外で重ならないように並べて, 他の四角形も同じように並べればよい.）  
　一辺の長さが $1$ の正六角形の面積は $\dfrac{3\sqrt{3}}{2}$ であるから, $x=BD$ とすれば, $$\frac{3\sqrt{3}}{2}(12^2-x^2)=7\sqrt{3}\times6$$ となり, $x^2=\bf{116}$ が求まる.
ユーザー解説
https://onlinemathcontest.com/contests/omcb008/editorial/3707/484
　$\angle{C}$ が鋭角である三角形 $ABC$ について，点 $A$ を辺 $BC$ に関して対称移動させた点を $D$ ，点 $B$ を辺 $CD$ に関して対称移動させた点を $E$ としたところ，$3$ 点 $A, C, E$ は同一直線上にあり，辺 $AE$ の長さは $12$ となりました．さらに四角形 $ ABDE$ の面積が $7\sqrt{3}$ であるとき，線分 $BD$ の長さの $2$ 乗の値を解答してください．