　条件の等差数列において，ある正整数 $n$ が数列に含まれるとき $n+P$ も含まれるから，等差は $1$ または $P$ である．従って条件は以下のように言い換えられる：
- $ax^2+bx+c\equiv 0\pmod P$ なる $1$ 以上 $P$ 以下の整数 $x$ が，ちょうど $1$ 個または $P$ 個存在する．

$P$ 個の場合は $a=b=c=P$ のみであることが分かるから，以下 $1$ 個の場合を考える．

- $a=P$ のとき，$b\neq P$ であり，$c$ は任意であるから，この場合は $P(P-1)$ 通りである．
- $a\neq P$ のとき，一般的な実数係数の $2$ 次方程式を解くのと同じ要領で，条件は $b^2-4ac\equiv 0\pmod P$ と同値であることがわかる（まず解を持つためには $b^2-4ac$ が $P$ を法として平方剰余であることが必要であり，このとき一般的な解の公式と同様に記述できる．一般論として素数を法とした $n$ 次方程式の解は高々 $n$ 個である）．よって，任意の $(a,b)$ で対応する $c$ が一意に定まり，この場合も $(P-1)P$ 通りである．

　以上より $M = 2P^2-2P+1$ であり，それぞれ
$$M\equiv 1 \pmod{107},　M\equiv 57 \pmod{109}$$
が確認できるから，中国剰余定理から求める値は $\textbf{8668}$ である．
公式解説
https://onlinemathcontest.com/contests/omc164/editorial/5448
　$a=P$ のときは，$b \neq P$ または $(b,c)=(P,P)$ が条件であるので $P(P-1)+1$ 個．

　$a \neq P$ のときを考える．このとき
$$ax^2+bx+c \equiv a(x-\alpha)^2 + \beta \pmod P$$
となる $\alpha,\beta ~ (0 \leq \alpha,\beta \lt P)$ が一意に存在する．なぜなら，$(a,b)$ を決めると
$$b \equiv -2a\alpha \pmod P$$
となる $\alpha$ が一意に存在し，$\beta$ を適当に $1$ つ選ぶことで
$$a\alpha^2+\beta \equiv c \pmod P$$
とできるから(ともに逆元の存在より)．問題の条件を満たすのは $\beta = 0$ のときであるから，このときは $P(P-1)$ 個．

　よって $M = 2P^2 - 2P + 1$ と分かり，あとは公式解説と同様．
平方完成
https://onlinemathcontest.com/contests/omc164/editorial/5448/453
　素数 $P=2^{107}-1$ について，以下をみたす $1$ 以上 $P$ 以下の整数の組 $(a,b,c)$ は $M$ 個あります．$M$ を $11663=107\times 109$ で割った余りを求めてください．
- $ax^2+bx+c\equiv 0 \pmod P$ なる正整数 $x$ が無数に存在し，さらにそれらを小さい順に並べると等差数列となる．