　以下のように光線の軌跡を一直線に「展開」すれば, 求めるべき値は $AB^{\prime}$ の平方である. 下図の各点について,
$$AB=2,\quad AC=\sqrt{6},\quad AD=CD=\sqrt{3},\quad B^{\prime}E=AB\sin30^\circ=1$$
特に $DE=\sqrt{3}+(\sqrt{3}+1)+2+AB\cos30^\circ=3\sqrt{3}+3$ であるから, 三平方の定理より
$$AB^{\prime}{}^2=(\sqrt{3}-1)^2+(3\sqrt{3}+3)^2=40+16\sqrt{3}$$
以上より, 解答すべき値は $40+16+3=\textbf{59}$ である.
![figure 1](\/images\/BEeHjs4SrgmxhtT8fVvNnxryrlzPksCbQQiTFazi)
公式解説
https://onlinemathcontest.com/contests/omc134/editorial/1659
$$\angle B=60^{\circ},\quad \angle C=45^{\circ},\quad BC=\sqrt{3}+1$$
なる三角形 $ABC$ があります．点 $A$ からこの三角形の内部に光線を発射すると，光線は辺 $BC,CA,AB,BC,CA$ の順に反射し，点 $B$ で停止しました．光線が進んだ距離の合計の $2$ 乗を求めてください．ただし，求める値は正整数 $a,b,c$ によって $a+b\sqrt{c}$ と表されるので（$c$ は平方因子をもたない），$a+b+c$ を解答してください．\
　ここで，光線は辺で反射するまでは直進し，反射については通常の規則（入射角と反射角が等しい）に則ります．