　$\triangle BAC \sim \triangle PAQ$ となるように，直線 $AC$ に関して $B$ を含まない方にある点を $Q$ とする. すると, $\triangle BPA\sim \triangle CQA$ より
$$\angle QPC = \angle APC - \angle ABC = 30^{\circ}$$
$$\begin{aligned}
\angle PCQ &=  \angle ACQ + \angle ACP \\\\
&= \angle ABP + \angle ACP\\\\
&= 180^{\circ} - \angle CAB - (180^{\circ} - \angle CPB)\\\\
&=  \angle CPB - \angle CAB \\\\
&= 120^{\circ}
\end{aligned}$$
$$\angle CQP = 180^{\circ} - \angle QPC - \angle PCQ = 30^{\circ}$$
　 $\triangle BAC \sim \triangle PAQ$ であるから , 
$$AB:BC=AP:PQ=7:4\sqrt{3}$$
　同様に $\triangle BAC \sim \triangle RAP$ となるように, 直線 $AB$ に関して $C$ を含まない方にある点を $R$ とすれば, 
$$AC:CB=AP:PR=7:3\sqrt{3}$$ 
　よって $AB:BC:CA=21:12\sqrt{3}:28$ であり, 解答すべき値は $\mathbf{1657}$ である.
公式解説
https://onlinemathcontest.com/contests/omcb023/editorial/5373
　一つ目の条件が扱いにくいので，どうにかして使おうとして思いついた解答です．

---

　$ABC$ の外接円と直線 $AP, BP, CP$ の交点を $A^\prime, B^\prime, C^\prime$ とおくと，問題の条件から
$$B ^\prime C^\prime : C ^\prime A ^\prime  : A ^\prime B ^\prime = \sqrt{3}:1:1$$
が分かる．また方べきの定理より
$$PA ^\prime : PB ^\prime : PC ^\prime = \frac17 : \frac13 : \frac14$$
も分かる．あとは $\triangle ABP$ と $\triangle A ^\prime B ^\prime P$ などの相似比を考えれば答えが求められる．
別解？
https://onlinemathcontest.com/contests/omcb023/editorial/5373/658
　三角形 $ABC$ の内部に点 $P$ をとると次が成立しました．
$$\angle{APB}-\angle{ACB}=\angle{APC}-\angle{ABC}=30^{\circ}$$
$$AP:BP:CP=7:3:4$$
$AB^2:BC^2:CA^2=a:b:c$ (ただし $a,b,c$ は互いに素な正整数) と表せるので $a+b+c$ を求めてください．