　$S$ は以下の $2$ つの半直線になる．
$$\begin{cases}
x=1\ (1\leq y)\\\\
y=1\ (1\leq x)
\end{cases}$$
ここで点 $(1,1)$ を $P$ とする．$A$ が $x=1$ 上に，$B$ が $y=1$ 上にある場合は余弦定理から
$$OA^2+OB^2=\left( OP^2+AP^2+\sqrt{2} \cdot OP\cdot AP\right) +\left( OP^2+BP^2+\sqrt{2} \cdot OP\cdot BP\right)$$
である．また，$OP=\sqrt{2}$ および $AP^2+BP^2=10^2$ であるから
$$OA^2+OB^2=104+2(AP+BP)$$
である．さらに，三角不等式より $AP+BP\ge AB=10$ であるから，$A=P$ または $B=P$ のときに最小値 $124$ をとる．また， $P,A,B$ が同一直線上にあるとき，明らかに $A=P$ または $B=P$ で最小値 $124$ を取る．以上より，求める答えは $\bf{124}$ である．
公式解説
https://onlinemathcontest.com/contests/omcb017/editorial/6592
　$xy$ 平面上で原点を $O$，$|x-y|-(x+y)+2=0$ を満たす点 $(x,y)$ の集合を $S$ とします．$S$ の要素 $A,B$ であって $AB=10$ を満たすものについて，$OA^2+OB^2$ の最小値を解答してください．\
　ただし，$XY$ で線分 $XY$ の長さを表します．