　$2$ つの複素数 $s, t$ であって
$$s + t = 2b，s^2 + t^2 = 2a$$
を満たすものを考えると，
$$st = \frac{(s + t)^2 - (s^2 + t^2)}{2} = 2b^2 - a$$
が成り立つので，問題にある方程式は
$$x^4 + (s + t)x^3 + (s + t + st)x^2 + (s^2 + t^2)x + st = 0$$
と表すことができ，これを因数分解すると
$$(x^2 + sx + t)(x^2 + tx + s) = 0 \tag{1}$$
となる．ここで $2$ つの $2$ 次式
$$f(x) = x^2 + sx + t，g(x) = x^2 + tx + s$$
を定め，$f(x), g(x)$ の判別式をそれぞれ $D_f, D_g$ とおこう．\
　$|b| \gt \sqrt{a}$ のときは $s, t$ がともに虚数であることが確かめられるので，$f(x), g(x)$ はいずれも実根をたかだか $1$ 個しかもたず，不適である．また，$|b| = \sqrt{a}$ のときは $s = t$ なので $f(x)$ と $g(x)$ は同一の式となり，この場合も不適である．以後 $|b| \lt \sqrt{a}$ とする．このとき $s, t$ は相異なる実数である．\
　方程式 $(1)$ がちょうど $3$ つの実数解をもつには以下 $2$ つのうちどちらかを満たさなければならない．
- **条件 1.** $f(x), g(x)$ は共通の実根をもつ．
- **条件 2.** $D_f, D_g$ のうち一方は $0$ である．

$f(x) = g(x)$ なる実数 $x$ は $x = 1$ に限るので，条件 1.を満たすには $s + t = -1$，つまり $b = -\dfrac{1}{2}$ が必要である．条件 2.を満たす場合，変数 $s, t$ の対称性から $D_f = 0$ の場合のみを考えればよく，このとき
$$D_f = s^2 - 4t = -t^2 - 4t + 2a = 0$$
であることと $|t| \leq \sqrt{s^2 + t^2} = \sqrt{2a}$ から $t = \sqrt{2a + 4} - 2$ が得られる．したがって $\alpha = \sqrt{2a + 4} - 2$ とおき，$\alpha^2 + \beta^2 = 2a$ なる正の実数 $\beta$ を定めれば，条件 2.を満たすには $b = \dfrac{\alpha \pm \beta}{2}$ が必要であることがわかる．\
　これらのことから，$f(x)g(x)$ が実根を $3$ つもつような $b$ の値となり得るのは
$$- \frac{1}{2}，\frac{\alpha + \beta}{2}，\frac{\alpha -\beta}{2}$$
の $3$ 通りである．したがってこのような $b$ が $3$ つ存在するならばその積は
$$
\begin{aligned}
-\frac{1}{2} \times \frac{\alpha + \beta}{2} \times \frac{\alpha - \beta}{2} &= - \frac{\alpha^2 - \beta^2}{8} = - \frac{\alpha^2 - a}{4} \\\\
&= - \frac{a + 8 - 4\sqrt{2a + 4}}{4} \\\\
&= - \frac{(\sqrt{a + 2} - 2\sqrt{2})^2 - 2}{4}
\end{aligned}
$$
と表される．これが $-1200$ となるとき，
$$(\sqrt{a + 2} - 2\sqrt{2})^2 = 4802$$
から
$$\sqrt{a + 2} =  2\sqrt{2} +  49\sqrt{2} = 51\sqrt{2}$$
が得られ，ゆえに
$$a = 51^2 \times 2 - 2 = \mathbf{5200}$$
である．逆に $a = 5200$ が条件を満たすことは，次のように確かめられる．
---
　$a = 5200$ のときは $\alpha = 100, \beta = 20$ であり，$b = - \dfrac{1}{2}, 40, 60$ のそれぞれの場合で $f(x)g(x)$ を調べると以下のようになり，いずれの場合も確かに実根を $3$ つもつことがわかる．
- $b = -\dfrac{1}{2}$ のときは
$$f(x)g(x) = (x-1)^2(x^2 + x - \frac{10399}{2})$$
- $b = 40$ のときは
$$f(x)g(x) = (x - 10)^2(x^2 + 100x - 20)$$
- $b = 60$ のときは
$$f(x)g(x) = (x + 10)^2(x^2 + 100x + 20)$$
公式解説
https://onlinemathcontest.com/contests/omc192/editorial/7146
　公式解説の $s,t$ の設定が唐突に見えるかもしれないが，式を $a,b$ で整理して平方完成を意識すると見通しが立ちやすい．すなわち\
$$x^4+2bx^3+(2b^2+2b-a)x^2+2ax+2b^2-a=0$$
$$\rArr a(x-1)^2=(x^2+bx+b)^2+b^2(x-1)^2$$
$$\rArr (x^2+bx+b)^2=(a-b^2)(x-1)^2$$
$$\rArr \big(x^2+(b+\sqrt{a-b^2})x+b-\sqrt{a-b^2}\big)\big(x^2+(b-\sqrt{a-b^2})x+b+\sqrt{a-b^2}\big)=0$$
となるので，$x^2+(b+\sqrt{a-b^2})x+b-\sqrt{a-b^2}=0$ と $x^2+(b-\sqrt{a-b^2})x+b+\sqrt{a-b^2}=0$ が共通解を一つ持つ，もしくはどちらか一方だけ重解を持つ場合を検討すれば良い．以降は公式解説の通り．
ユーザー解説
https://onlinemathcontest.com/contests/omc192/editorial/7146/367
　$a$ を正の実数とします．いま，次の条件をみたす実数 $b$ がちょうど $3$ つ存在しました．
- 以下が成り立つ実数 $x$ がちょうど $3$ つ存在する：
$$x^4 + 2bx^3 + (2b^2 + 2b - a)x^2 + 2ax + 2b^2 - a = 0$$

さらにこのような $b$ の値 $3$ つの積は $-1200$ になりました．このとき，$a$ の値を求めてください．