　$BC,DE$ について $A$ と対称な点をそれぞれ $X,Y$ とすると，条件より，線分 $XY$ 上に点 $P,Q$ が存在する．$$AX=\sqrt{3}, \quad AY=2\sqrt{3}, \quad \angle XAY=120^\circ$$
より余弦定理から $XY=\sqrt{21}$ がわかる．したがって再び余弦定理より，
$$\cos\angle AXY=\frac{2}{\sqrt{7}}, \quad \cos\angle AYX=\frac{5}{2\sqrt{7}}$$
を得るから，
$$\begin{aligned}
AP&=XP=\frac{AX}{2\cos\angle AXY}=\frac{\sqrt{21}}{4}, \\\\
AQ&=YQ=\frac{AY}{2\cos\angle AYX}=\frac{2\sqrt{21}}{5}
\end{aligned}$$
である．また，
$$\angle PAQ=120^\circ-\angle PAX-\angle QAY=120^\circ-\angle AXY-\angle AYX=60^\circ$$
であるので，三角形 $APQ$ の面積は 
$$\dfrac{\sqrt{3}}{4}\cdot \dfrac{\sqrt{21}}{4}\cdot \dfrac{2\sqrt{21}}{5}=\dfrac{21\sqrt{3}}{40}$$ 
である．特に解答すべき値は $\bf2923$ ．
公式解説
https://onlinemathcontest.com/contests/omcb033/editorial/11968
　正六角形の辺を延長して正三角形を作ってみるとたくさん相似が見つかります．
___

　直線 $FA$ と $BC$，直線 $BC$ と $DE$，直線 $DE$ と $FA$ の交点をそれぞれ $S,T,U$ とする．このとき，三角形 $STU$ は正三角形である．以下，簡単のため $SP=x,UQ=y$ とする．

　簡単なangle chaseにより，$\triangle ASP \sim \triangle QTP \sim \triangle QUA$ が成立することがわかる．これにより
$$SP:SQ=TP:TQ=UA:UQ$$
が成り立つので，
$$x:1=(3-x):(3-y)=2:y$$
から $\displaystyle{x=\frac{5}{4},y=\frac{8}{5}}$ を得る．したがって，
$$\triangle PQR= \triangle ABC -\triangle ASP - \triangle QTP - \triangle QUA$$
等を用いて $\displaystyle{\triangle PQR=\frac{21\sqrt{3}}{40}}$ と計算できるので，解答すべき値は $\bf2923$ である．
大きな正三角形を作ろう！
https://onlinemathcontest.com/contests/omcb033/editorial/11968/773
　角度の条件について，次のように言い換えることが可能である．

　　点 $A$ から発した光が，鏡面 $BC, DE$ で，それぞれ点 $P, Q$ で反射して，最終的に点 $A$ に返ってくる．

　このように考えると，座標を使おうという発想が浮かぶ．

---

　$A$ が原点，$B \left( \dfrac{\sqrt{3}}{2},\ \dfrac{1}{2} \right)$ となるように座標を取る．\
　直線 $BC$ で鏡像を作った正六角形を $A_1 BC D_1 E_1 F_1$ として，この正六角形をさらに直線 $D_1 E_1$ で鏡合わせにした正六角形を $A_2 B_2 C_2 D_1 E_1 F_2$ とする．このとき，$A_2 \left( 2 \sqrt{3},\ 3 \right)$ であり，直線 $AA_2$ は $y=\dfrac{\sqrt{3}}{2}x$ である．よって，点 $P \left( \dfrac{\sqrt{3}}{2},\ \dfrac{3}{4} \right)$ を得る．\
　一方，直線 $DE$ で最初の正六角形の鏡像を作ったものを $A_3 B_3 C_3 D E F_3$ として，この正六角形をさらに直線 $B_3 C_3$ で鏡合わせにした正六角形を $A_4 B_3 C_3 D_4 E_4 F_4$ とする．このとき，$A_4 \left( -\dfrac{\sqrt{3}}{2},\ \dfrac{9}{2} \right)$ であり，直線 $AA_4$ は $y=-3 \sqrt{3}x$ である．直線 $DE$ は $y=\dfrac{\sqrt{3}}{3}x+2$ なので，点 $Q \left( -\dfrac{\sqrt{3}}{5},\ \dfrac{9}{5} \right)$ を得る．\
　あとは三角形の面積を求めればよい．
$$\dfrac{1}{2} \left| \dfrac{\sqrt{3}}{2} \cdot \dfrac{9}{5} -  \left(-\dfrac{\sqrt{3}}{5} \right) \cdot \dfrac{3}{4} \right|=\dfrac{21 \sqrt{3}}{40}$$
座標を使う
https://onlinemathcontest.com/contests/omcb033/editorial/11968/777
　一辺の長さが $1$ の正六角形 $ABCDEF$ があります．辺 $BC, DE$ 上にそれぞれ点 $P, Q$ をとったところ，
$$\angle APB=\angle QPC, \quad \angle PQD=\angle AQE$$
が成り立ちました．このとき，三角形 $APQ$ の面積の $2$ 乗は互いに素な正の整数 $a,b$ を用いて $\dfrac{a}{b}$ と表されるので，$a+b$ の値を答えてください．