　一般に凸 $n$ 角形に対して総和 $A_n$ を考える. これは $2\leq b-a\leq n-2$ かつ $b\leq n$ なる正整数の組 $(a,b)$ について $ab$ を足し合わせたものである. したがって, 以下の成立が確かめられる.
$$A_n=\frac{1}{2}\Bigl((1+\cdots+n)^2-(1^2+\cdots+n^2)\Bigr) -(1\times 2+\cdots+(n-1)\times n+n\times 1)$$
ここで
$$1\times 2+\cdots+(n-1)\times n+n\times 1=\big(1^2+\cdots+(n-1)^2\big)+(1+\cdots+n)$$
が成立することに注意すれば, 求める総和は
$$\begin{aligned}
    A_n&=\frac{1}{2}\left(\frac{n(n+1)}{2}\right)^2-\frac{n(n+1)(2n+1)}{12}-\frac{(n-1)n(2n-1)}{6}-\frac{n(n+1)}{2}\\\\
    &=\frac{1}{8}n(n-3)(n^2+n+2)
\end{aligned}$$
特に $n=100$ のときこれは $\textbf{12248675}$ と計算できる.
公式解説
https://onlinemathcontest.com/contests/omc085/editorial/2371
　一般に凸 $N$ 角形として，次のように愚直に計算することもできます．
$$\begin{aligned}
&\quad\Biggl(\sum_{j=3}^{N}\sum_{i=1}^{j-2}ij\Biggr)-1\times N\\\\
&=\Biggl(\sum_{j=3}^{N}\frac{(j-2)(j-1)}{2}\times j\Biggr)-N\\\\
&=\Biggl(\sum_{j=3}^{N}\frac{1}{8}\bigl((j-2)(j-1)j(j+1)-(j-3)(j-2)(j-1)j\bigr)\Biggr)-N\\\\
&=\frac{1}{8}(N-2)(N-1)N(N+1)-N
\end{aligned}$$
ユーザー解説
https://onlinemathcontest.com/contests/omc085/editorial/2371/43
　凸 $100$ 角形の各頂点に, 時計回りに $1$ から $100$  までの整数が振られています. すべての対角線に対し, その両端の $2$ 数の積を計算し, それらの総和を求めてください. ただし, 対角線には辺を含まないこととします.