　条件をみたす長方形の縦の長さを $x$, 横の長さを $y$ とすると, $$x+y = 4\sqrt{6},\quad xy= 10$$ が成立する. したがって, 求める答えは以下のように計算できる. 
$$ x^2 + y^2 = (x+y)^2- 2xy=96-20=\textbf{76} $$
公式解説
https://onlinemathcontest.com/contests/omc140/editorial/4442
　ある長方形について，その周長が $8\sqrt{6}$，面積が $10$ のとき，対角線の長さの $2$ 乗を求めてください．