　三角形 $ABC$ において, 辺 $BC$ の中点を $M_A$ などとおく.

**補題.**　三角形 $ABC$ の重心 $G$ について, $AP^2+BP^2+CP^2=AG^2+BG^2+CG^2+3PG^2$.

**証明1.**　点 $M_A$ について $G$ と対称な点を $G_A$ とすれば, 中線定理より
$$\begin{aligned}
GB^2+GC^2&=2\left(GM_A^2+BM_A^2\right)=\dfrac12AG^2+2BM_A^2 \\\\
PA^2+PG_A^2&=2\left(PG^2+AG^2\right) \\\\
PG^2+PG_A^2&=2\left(PM_A^2+GM_A^2\right)=2PM_A^2+\dfrac 12AG^2 \\\\
PB^2+PC^2&=2\left(PM_A^2+BM_A^2\right)
\end{aligned}$$
これらを適当に足し引きすることで所望の式を得る. (証明終)

**証明2.**　より一般に, $n$ 個の点 $A_1,A_2,\cdots,A_n$ およびそれらの重心(幾何中心) $G$ と空間上の点 $P$ に対し
$$\sum^n_{k=1}A_kP^2=\sum^n_{k=1}A_kG^2+nGP^2$$
が成立することを示す. $A_k,P$ の $x$ 座標をそれぞれ $x_k,x$ とおき, $X = x_1 + x_2 + \cdots + x_n$ とする. このとき，左辺，右辺それぞれへの $x$ 座標の寄与はそれぞれ
$$(\text{左辺})=\sum_{k=1}^n(x - {x_k})^2,\quad
(\text{右辺})=\sum_{k=1}^n\left(x_k-\dfrac{X}{n}\right)^2 + n\left(x - \dfrac{X}{n}\right)^2$$
であり, これらはともに
$$nx^2-2xX+(x_1^2+x_2^2+\cdots+x_n^2)$$
に一致する. $y,z$ 座標についても同様である. (証明終)

　一方で中線定理より
$$AB^2+AC^2=2\left(AM_A^2+BM_A^2\right)=2AM_A^2+\frac 12BC^2$$
などが成り立つから, これを巡回させて足し合わせることで
$$\frac 34\left(AB^2+BC^2+CA^2\right)=AM_A^2+BM_B^2+CM_C^2$$
したがって, $AG:AM_A=2:3$ などに留意すれば
$$AG^2+BG^2+CG^2=\frac13(5^2+7^2+8^2)=46$$
を得るから, 特に求める領域は $G$ を中心とする半径 $3\sqrt 2$ の球であり, その体積は $72\sqrt{2}\pi=\sqrt{\textbf{10368}}\pi$ である.
公式解説
https://onlinemathcontest.com/contests/omc159/editorial/247
　公式解説の重心を用いる方法は思いつかなかった（知らなかった）ため，座標系を用いました．あまり好まれる方法ではなさそうですが，紹介しておきます．\
\
  　余弦定理を用いると $\angle \mathrm{A}=60^{\circ}$ であることがわかる．そこで，点 $\mathrm{B}$ から辺 $\mathrm{AC}$ に垂線を下ろし，その足を点 $\mathrm{H}$ とすると，$\mathrm{HA}=\dfrac{5}{2}$，$\mathrm{HB}=\dfrac{5}{2}\sqrt3$，
$\mathrm{HC}=\dfrac{11}{2}$ である．\
  　ここで，次のような空間座標を考える：$\triangle \mathrm{ABC}$ を含む平面が $xy$ 平面で，点 $\mathrm{H}$ が原点，直線 $\mathrm{HA}$ が $x$ 軸，直線 $\mathrm{HB}$ が $y$ 軸．\
  　（$\mathrm{A} \left( \dfrac{5}{2},0,0 \right) $，$\mathrm{B} \left(0, \dfrac{5}{2} \sqrt{3},0 \right) $，$\mathrm{C} \left( -\dfrac{11}{2},0,0 \right) $ である．）\
  　このとき，点 $\mathrm{P}$ を $\left( x,y,z \right)$ とおくと，$\mathrm{AP}^2+\mathrm{BP}^2+\mathrm{CP}^2≦100$ を変形することで，次の式を得る：\
  　$(x+1)^2+ \left( y-\dfrac{5}{6} \sqrt{3} \right)^2+z^2≦18$\
  　従って，点 $\mathrm{P}$ が通過し得る領域は，半径 $3 \sqrt{2}$ の球面及び内部である．
ユーザー解説
https://onlinemathcontest.com/contests/omc159/editorial/247/228
　空間内に $3$ つの定点 $A,B,C$ があり，以下の条件をみたしています：
$$AB=5, \quad BC=7, \quad CA=8$$
点 $P$ が $AP^2+BP^2+CP^2\leq 100$ をみたすように空間内を動くとき，$P$ が通過しうる領域の体積 $V$ を求めてください．ただし，求める体積は正整数 $S$ を用いて $\sqrt{S}\pi$ と表せるので，$S$ を解答してください．