Так как правая часть делится на 7, то и левая должна делиться на 7.
Для начала посмотрим, как остаток от деления на 7 квадрата числа зависит от остатка самого числа:
0 -> 0
1 -> 1
2 -> 4
3 -> 9 -> 2
4 -> 16 -> 2
5 -> 25 -> 4
6 -> 36 -> 1
Так как нельзя выбрать два числа из получившихся так, чтобы их сумма делилась на 7, за исключением варианта 0 + 0, делаем вывод, что оба числа a и b должны делиться на 7.
Т.к. a и b делятся на 7, то a^2 + b^2 делится на 49, а следовательно и 7n делится на 49.
Разделим обе части на 49, получим (a/7)^2 + (b/7)^2 = n/7
n/7 <= 144 (так как 144*7 = 1008 < 1013; 145*7 = 1015 > 1013)
Дальше не вижу другого варианта (возможно, кто-нибудь предложит другой?), кроме как перебрать возможные значения n/7 <= 144, полученные суммой квадратов.
Важно избегать повторов. Например, 9 + 16 = 0 + 25
0 + x^2:
0, 1 , 4, 9, 16, 25, 36, 49, 64, 81, 100, 121, 144 : 13
1 + x^2:
2, 5, 10, 17, 26, 37, 50, 65, 82, 101, 122 : 11
4 + x^2:
8, 13, 22, 29, 40, 53, 68, 85, 104, 125 : 9
9 + x^2 :
18, 34, 45, 58, 73, 90, 109, 130 : 8
16 + x^2 :
32, 41, 52, 80, 97, 116, 137 : 7
25 + x^2 :
50, 61, 74, 89, 125 : 5
36 + x^2 :
72, 117, 136 : 3
49 + x^2 :
98, 113 : 2
64 + x^2 :
128 : 1
1 + 2 + 3 + 5 + 7 + 8 + 9 + 11 + 13 = 59
Получается 59. Если, конечно, нет никаких ошибок.