　与えられた連立方程式が実数解 $(x, y, z, w)$ をもつことは，以下の $x,y,z,w$ についての連立方程式

$$
 \begin{cases}
  (x+w)(y+z) = a+b\\\\
  (x+y)(z+w) = b+c\\\\
  (x+z)(y+w) = c+a\\\\
   x+y+z+w = 20
 \end{cases}
$$ 

が実数解 $(x, y, z, w)$ をもつことと同値である．さらに $Y=x+y, Z=x+z, W=x+w$ と置けば，次をみたす実数 $Y,Z,W$ が存在することと同値である．

$$
\begin{cases}
W(20-W) = a+b\\\\
Y(20-Y) = b+c\\\\
Z(20-Z) = c+a
\end{cases}
$$

実数 $t$ に対し $t(20-t)$ のとり得る値は $100$ 以下の実数全体であるから，問の条件をみたすための $(a, b, c)$ についての必要十分条件は

$$
a+b \leq 100,\quad 
b+c \leq 100,\quad 
c+a \leq 100
$$

とわかる．ここで $c$ を $1\leq c\lt 100$ の範囲で固定したとき，上の条件をみたす正整数の組 $(a,b)$ の個数は
- $2(100-c)\leq 100$（すなわち $c\geq 50$） のとき：$(100-c)^2$ 個
- $2(100-c)\gt 100$（すなわち $c\lt 50$） のとき：$(100-c)^2-(100-2c)(101-2c)\/2$ 個

であるから，求める値は次で計算できる．
$$
\begin{aligned}
&\quad\sum_{c=50}^{99}(100-c)^2+\sum_{c=1}^{49}\left((100-c)^2-(100-2c)(101-2c)\/2\right)\\\\
&=\sum_{c=1}^{99}(100-c)^2-\sum_{c=1}^{49}(50-c)(101-2c)\\\\
&=\sum_{c=1}^{99}c^2-\sum_{c=1}^{49}c(2c+1)\\\\
&=\frac{99\times 100\times 199}{6}-2\times\frac{49\times 50\times 99}{6}-\frac{49\times 50}{2}\\\\
&={\bf 246275}
\end{aligned}
$$
公式解説
https://onlinemathcontest.com/contests/omc186/editorial/2602
$$(x+y+z+w)^2=(x^2+y^2+z^2+w^2)+2(xy+zw+xz+yw+xw+yz)$$

より,

このとき,
$$0\leq (x+y-z-w)^2=(x+y+z+w)^2-4(x+y)(z+w)$$
$$=400-4(xz+yw+xw+yz)=400-4(b+c)$$
同様にして,
$$0\leq (x-y+z-w)^2=400-4(c+a)$$
$$0\leq (x-y-z+w)^2=400-4(a+b)$$

より,
$$400-4(b+c)\geq 0,400-4(c+a)\geq 0,400-4(a+b)\geq 0$$

つまり,
$$a+b,b+c,c+a\leq 100$$
が必要である.

逆にこのとき,ある実数$p,q,r$が存在して

$$x+y-z-w=p$$
$$x-y+z-w=q$$
$$x-y-z+w=r$$

つまり,

$$\left(\begin{matrix}1&1&1&1\\\\1&1&-1&-1\\\\1&-1&1&-1\\\\1&-1&-1&1\\\\\end{matrix}\right)\left(\begin{matrix}x\\\\y\\\\z\\\\w\\\\\end{matrix}\right)=\left(\begin{matrix}20\\\\p\\\\q\\\\r\\\\\end{matrix}\right)$$

という連立方程式に解が存在するかどうかを判定すれば良い.

ここで,左辺にある4x4行列は正則なので（具体的には、アダマール行列の列を入れ替えたものになる。）右辺のベクトルに逆行列をかければ実際に解を構成することができる。つまり、解は存在する。

結局、実数解が存在することの必要十分条件は
$$a+b\leq 100,b+c\leq 100,c+a\leq 100$$
である。この条件を満たすような正の整数$(a,b,c)$の組を数えればOK

あとは公式解説と同じ
ユーザー解説
https://onlinemathcontest.com/contests/omc186/editorial/2602/325
　 正整数の組 $(a, b, c) $ であって，次をみたす実数 $x,y,z,w$ が存在するようなものはいくつありますか？
$$
 \begin{cases}
  \quad xy+zw &= a\\\\
  \quad xz+yw &= b\\\\
  \quad xw+yz &= c\\\\
   x+y+z+w &= 20
 \end{cases}
$$