　対称性より $\lfloor y \rfloor = \lfloor x \rfloor +a, \lfloor z \rfloor = \lfloor x \rfloor +b$ $(0 \lt a \lt b)$ としても一般性を失わない. このとき与式は
$$6 \lfloor x \rfloor = ab+2354-a^2-b^2-2a-2b=3(785+ab)-(a+b+1)^2$$
最右辺が $6$ の倍数となるような $(a,b)$ の条件を考えよう. $a+b+1$ が $6$ で割り切れるとき, $ab$ は偶数であるが, これは不適である. したがって $a+b+1$ は $6$ で割って $3$ 余り, このとき $ab$ が偶数であることから, $a,b$ を $6$ で割った余りとしてあり得る組み合わせは $(0,2),(2,0),(4,4)$ である. ここで, 最大化すべき値は
$$ \lfloor x \rfloor + \lfloor y \rfloor + \lfloor z \rfloor =3 \lfloor x \rfloor +a+b=1177- \dfrac{1}{2} \lbrace (a-b)^2+ab \rbrace$$
であり, これは上で与えた制約の下で $(a,b)=(2,6)$ のとき最大値 $1177- 28\/2= \bm{1163}$ をとる.
公式解説
https://onlinemathcontest.com/contests/omc071/editorial/1965
　$\lfloor x\rfloor=a,\lfloor y\rfloor=b,\lfloor z\rfloor=c$ と置きます．$x,y,z$ はどれも整数ではないので
$$\lceil x\rceil=a+1,\quad \lceil y\rceil=b+1,\quad \lceil z\rceil=c+1$$
となり，相異なる整数 $a,b,c$ が\
$$(a+1)^2+(b+1)^2+(c+1)^2=ab+bc+ca+2357$$
をみたすときの $a+b+c$ の最大値を求めればよいです．これを変形すると
$$a^2+b^2+c^2-ab-bc-ca+2(a+b+c)=2354$$
となります．$a+b+c$ を大きくしたいので $a^2+b^2+c^2-ab-bc-ca$ を小さくしたいです．\
　ここで，well-known fact として
$$a^2+b^2+c^2\geq ab+bc+ca$$
が成り立つので $a,b,c$ がこの不等式の等号成立条件に近くなるようにしたいです．この不等式の証明を思い出してみると次のような変形が思いつきます：
$$\dfrac{1}{2}\bigl((a-b)^2+(b-c)^2+(c-a)^2\bigr)+2(a+b+c)=2354.$$
ここで，対称性から $a\lt b\lt c$ と仮定でき，$b-a=p,c-b=q$ と置けば  $p,q$ は正の整数であり，
$$\dfrac{1}{4}\bigl(p^2+q^2+(p+q)^2\bigr)+a+b+c=1177$$
となります．$p^2+q^2+(p+q)^2$ が $4$ の倍数なので $p,q,p+q$ はどれも $2$ の倍数です．各 $(p,q)$ について $p^2+q^2+(p+q)^2$ の値が小さい順に条件に適合する $a,b,c$ が存在するかを調べていくと，$(p,q)=(2,4)$ のときに
$$(a,b,c)=(385,387,391)$$
が見つかり，最小値 $1163$ が得られます．
ユーザー解説
https://onlinemathcontest.com/contests/omc071/editorial/1965/19
　いずれも整数でない実数 $x,y,z$ が
$$ \lceil x \rceil ^2 + \lceil y \rceil ^2 + \lceil z \rceil^2 = \lfloor x \rfloor \lfloor y \rfloor + \lfloor y \rfloor \lfloor z \rfloor +\lfloor z \rfloor \lfloor x \rfloor +2357$$
をみたし, かつ, $ \lfloor x \rfloor , \lfloor y \rfloor , \lfloor z \rfloor $ の値がすべて異なるとき, $ \lfloor x \rfloor + \lfloor y \rfloor + \lfloor z \rfloor $ としてあり得る最大値を求めてください.\
　ただし, $\lfloor x \rfloor$ で $x$ を超えない最大の整数を, $\lceil x \rceil $ で $x$ 以上の最小の整数を表すものとします.