Если изначальное выражение я поняла правильно,то так
Решение смотри в приложении
T=a+2/a
t^2=(a+2/a)^2=a^2+2*a*2/a+4/a^2=a^2+4+4/a^2
√500 х + √20 х - √80 х = 10√5 x +2√5 x - 4√5 x = 8√5 x
{ a + b = 120
{ 1,1a + 0,8b = 111
{ a = 120 - b
{ 1,1*(120 - b) + 0,8b = 111
132 - 0,3b = 111
0,3b = 21
b = 70 a = 120 - 70 = 50
Ответ: {50; 70}