　三平方の定理より $CD^2=AD^2+BC^2-AB^2=40$ であり, このときPtolemyの定理より $AC×BD=40+14 \sqrt{10}$ である. いま求める面積は $AC\times BD\/2$ であるから, 解答すべき値は $20+7+10=\textbf{37}$ である.
公式解説
https://onlinemathcontest.com/contests/omc062/editorial/2551
$BD$ の垂直二等分線について $C$ と対称な点を $E$ とする. このとき，$E$ は円 $ABCD$ 上にあり，また $AE$ はこの円の直径であるから，
$$|ABCD|=|ABED|=\dfrac{7×\sqrt{40}+8×5}{2}=7\sqrt{10}+20$$
であり，解答すべき値は $\textbf{37}$. \
なお，余談だが，上記の解説と同じ点の取り方をすることで，以下のようにPtolemyの定理の証明が可能である. :\
 円に内接する四角形 $ABCD$ について，$BD$ の垂直二等分線について $C$ と対称な点を $E$ とし，$AC$ と $BD$ の交点を $F$ とすると，$\angle BAC=\angle EAD, \angle ABD=\angle AED$ から $\angle AFB=\angle ADE$ であり，四角形 $ABCD$ と $ABED$ の面積が等しいこともふまえ，$AB×BE+AD×DE=AC×BD$ が成立する. $BC=ED, BE=CD$ から，$AB×CD+AD×BC=AC×BD$ となり，したがってこの定理は示された.
ユーザー解説
https://onlinemathcontest.com/contests/omc062/editorial/2551/180
　円に内接する四角形 $ABCD$ が, 以下の条件をみたしています：
$$AB=7,\quad BC=8,\quad AD=5,\quad AC \perp BD$$
このとき, 四角形$ABCD$の面積は, 正整数 $a,b,c$ を用いて $a+b \sqrt c$ と表せるので (ただし $c$ は平方因子をもたない), $a+b+c$ を求めてください.