　円 $C_1,C_2$ の方程式はそれそれ
$$(x-a^2)^2+(y-b^2)^2=a^3b,\quad (x-b^2)^2+(y-a^2)^2=ab^3$$
これより, 直線 $AB$ (根軸) の方程式は
$$((x-a^2)^2+(y-b^2)^2)-((x-b^2)^2+(y-a^2)^2)=a^3b-ab^3$$
ここから $a^2-b^2$ を括りだすことで $y-x=ab\/2$ を得る.\
　一方で直線 $PQ$ の方程式は $x+y=a^2+b^2$ であることから,
$$ab=\dfrac{21}{8},\quad a+b=\sqrt{(a^2+b^2)+2ab}=\dfrac{13}{4}$$
よって $(a,b)=\left(\dfrac{7}{4},\dfrac{3}{2}\right)$ であり, 解答すべき値は $\textbf{168}$ である.\
　なお, これは $C_1,C_2$ が実際に $2$ 点で交わるという条件に合致する.
公式解説
https://onlinemathcontest.com/contests/omc084/editorial/294
　$a\gt b$ なる正の実数について, 直交座標平面内に点 $P:(a^2,b^2)$ および $Q:(b^2,a^2)$ があります. また $P$ を中心とする半径 $a\sqrt{ab}$ の円を $C_1$, $Q$ を中心とする半径 $b\sqrt{ab}$ の円を $C_2$ とします.\
　いま, $C_1$ と $C_2$ は相異なる $2$ 点 $A,B$ で交わっており, 直線 $AB$ と直線 $PQ$ の交点は $\left(2,\dfrac{53}{16}\right)$ でした. このとき, $a,b$ はそれぞれ既約分数として $\dfrac{p}{q},\dfrac{r}{s}$ と表されるので (ただし $p,q,r,s$ は正整数), $pqrs$ を求めてください.