◆広島県 清川 育男さんからの解答。
３桁の数をＡ×１００+Ｂ×１０+Ｃとする。
題意より
１００Ａ+１０Ｂ+Ｃ＝１１(Ａ2+Ｂ2+Ｃ2)...1)
左辺は１１の倍数でなくてはならない。そのためには、
1) Ａ+Ｃ＝１１,Ｂ＝０
2)Ｂ＝Ａ+Ｃ
1)または2)式がなりたたねばならない。
1) Ｃ＝１１-Ａ.Ｂ＝０を1)式に代入して整理すると、
２Ａ2-３１Ａ+１２０＝０...2)
(Ａ-８)(２Ａ-１５)＝０
Ａ＝８，Ａ＝７.５(これは不適）
したがって、Ａ＝８,Ｂ＝０,Ｃ＝３
８０３.
2) Ｂ＝Ａ+Ｃを1)式に代入して整理すると、
２Ａ(Ａ-５)+Ｃ(Ａ+Ｃ-１)＝０...3)
3)式がＡ,Ｃについて負でない整数解を持つためには、
Ａ>０であるから Ａ-５＝０,Ｃ＝０でなければならない。
Ａ＝５,Ｂ＝５,Ｃ＝０
５５０.
答え ５５０，８０３。
◆静岡県 ヨッシーさんからの解答。
３桁の数ＡＢＣが１１の倍数になっているので、
Ｂ＝Ａ＋Ｃ・・・・・・(1)
このとき、ＡＢＣ＝１１×（１０Ａ＋Ｃ）
または
Ｂ＝Ａ＋Ｃ＋１１・・・(2)
このとき、
ＡＢＣ＝１１×｛１０（Ａ−１）＋Ｃ｝
※ＡＢＣは３桁の数ＡＢＣのこと
(1)の時、
よって、
２Ａ2＋２ＡＣ＋２Ｃ2＝１０Ａ＋Ｃ
Ｃは偶数であることは明らかなので、
Ｃ＝０，２，４，６，８として、Ａを求めると、Ａ，Ｂが一桁の整数になるのは
（Ａ，Ｂ，Ｃ）＝（５，５，０）
よって、３桁の数は５５０
(2)の時、
よって、
２Ａ2＋２ＡＣ＋２Ｃ2−３２Ａ−２３Ｃ＋１３１＝０
Ｃ＝１，３，５，７，９として、Ａを求めると、Ａ，Ｂが一桁の整数になるのは
（Ａ，Ｂ，Ｃ）＝（８，０，３）
よって、３桁の数は８０３
答え ５５０，８０３
【コメント】
ほぼお二人の方から同時に解答が来ました。
もちろん正解です。
ちなみに出典は数学オリンピック １９６０年ルーマニア大会でした。
◆東京都 浜田 明巳 さんからの解答。
解答は550,803です．
エクセルのマクロで解きました．
覆面算は，解答は１つ，文字の値は重複しないのが原則なので，問題としてはあまりよく出来ていません．
Option Explicit 'ABC=11(A^2+B^2+C^2)
Sub Macro1()
Dim A As Integer
Dim B As Integer
Dim C As Double
Dim aa As Long
Dim bb As Long
Dim cc As Long
Dim D As Double
Dim dd As Double
Dim kosuu As Integer
Dim j As Integer
kosuu = 0
For A = 1 To 9 '100*A+10*B+C=11*(A^2+B^2+C^2)
For B = 0 To 9 '11*C^2-C+11*(A^2+B^2)-(100*A+10*B)=0
aa = 11
bb = -1
cc = 11 * (A * A + B * B) - (100 * A + 10 * B)
D = bb * bb - 4 * aa * cc
If D >= 0 Then
D = bb * bb - 4 * aa * cc
dd = Sqr(D)
If Int(dd) = dd Then
For j = 1 To (D > 0) - (D = 0) Step -2
C = (-bb + j * dd) / (2 * aa)
If Int(C) = C And C >= 0 And C < 10 Then
kosuu = kosuu + 1
Cells(kosuu, 1).Value = A
Cells(kosuu, 2).Value = B
Cells(kosuu, 3).Value = C
End If
Next j
End If
End If
Next B
Next A
End Sub