　条件より，直線 $AB,BC,CA$ と $P$ との距離は等しいから $P$ は三角形 $ABC$ の内心である．また，$AB = 3x, BC = 4x, CA = 5x$ とおくと，
$$AB^2 + BC^2 = CA^2$$
が成り立つので，$\angle{B}=90^{\circ}$ である．したがって，
$$768 = \frac{1}{2}AB\cdot BC = 6x^2$$
であるから，$x = 8\sqrt2$ である．よって，
$$AB=24\sqrt2,\quad BC=32\sqrt2,\quad CA=40\sqrt2$$
である．ここで，$P$ から辺 $AB, BC, CA$ に下ろした垂線の足をそれぞれ $D,E,F$ とすると，四角形 $BDPE$ は長方形であり，特に $PD = PE$ より正方形である．また，$P$ が内心であることに気をつけると，
$$AD = AF,\quad CE = CF$$
がそれぞれ成り立つので，
$$BP=\sqrt2BD = \sqrt2\cdot \frac{BD + BE}{2} = \frac{(AB - AD) + (BC - CE)}{\sqrt2} = \frac{AB + BC - CA}{\sqrt2}=\bf{16}$$
である．
公式解説
https://onlinemathcontest.com/contests/omc217/editorial/6266
　面積が $768$ の三角形 $ABC$ の内部に $P$ を取ると以下を満たしました．
$$AB:BC:CA=|△ABP|:|△BCP|:|△CAP|=3:4:5$$
$BP$ の長さを求めてください．\
　ただし，$|\triangle XYZ|$ で三角形 $XYZ$ の面積を表します．