　不定方程式 $3m-7n=2021$ の非負整数解は, 非負整数 $k$ を用いて
$$(m,n)=(7k+676,3k+1)$$
と表される. このとき, $m=\left\lfloor x^2\right\rfloor,n=\left\lfloor 3x\right\rfloor$ となるような $k,x$ の条件を考えれば
$$ 7k+676\le x^2\lt 7k+677,\quad k+\frac13\le x\lt k+\frac 23$$
これを同時にみたす正の実数 $x$ が存在するためには, $2$ つの区間
$$ [ 7k+676, 7k+677 ),\quad \left[\left(k+\dfrac{1}{3}\right)^2, \left(k+\dfrac{2}{3}\right)^2\right)$$
の共通部分が存在すればよい. これは 
$$7k+676 \lt \left(k+\frac{2}{3} \right)^2 \text{かつ} \left(k+\frac{1}{3}\right)^2 \lt 7k+677$$
を満たす非負整数 $k$ を求めればよく, $k=29$ に限られることがわかる. したがって, 求める $x$ の範囲は
$$ \sqrt{879}\leq x\lt \sqrt{880} $$
であり, 解答すべき値は $879+880=\textbf{1759}$ である. 

**備考.**　なお問題文中に与えられている通り $x$ の解を $a\leq x\lt b$ と認めれば, より簡単な方策もある. すなわち, $a^2$ または $3a$ は整数となるはずであるから ($b$ も同様), そのような形を実際に代入して境界として適するか確かめればよい.
公式解説
https://onlinemathcontest.com/contests/omc033/editorial/1515
　以下の $x$ についての方程式
$$3\left\lfloor x^2\right\rfloor-7\lfloor3x\rfloor=2021$$
の**正の実数解**は, 実数 $a,b$ を用いて $a\leq x\lt b$ と表せます. $a^2+b^2$ を解答してください.\
　ただし、$\lfloor x\rfloor$ で $x$ を超えない最大の整数を表します.