$$x^3-ax^2-bx+ab=(x-a)(x+\sqrt{b})(x-\sqrt{b})$$
と因数分解できることから，この方程式の解は $a,\sqrt{b},-\sqrt{b}$ である．これらがすべて実数であることから，$\sqrt{b} \geq 0$ である．よって $(a,\sqrt{b})=(-20,23),(23,20)$ が分かるから，$(a,b)=(-20,529),(23,400)$ である．特に，解答すべき値は $509+423=\mathbf{932}$ である．
公式解説
https://onlinemathcontest.com/contests/omc207/editorial/6756
　$a,b$ を実数とします．$x$ についての方程式
$$x^3-ax^2-bx+ab=0$$
は $3$ つの相異なる解を持ち，そのうち $2$ つは  $-20$ と $23$ でした．このとき，$(a,b)$ の組としてありうるもの全てについて $a+b$ の総和を解答してください.