Если это все выражение, то вот так
См решение в файле... (можно выполнить проверку, для этого вместо х подставляем в оба уравнения 3, а вместо у подставляем 1, также в оба уравнения)
B3 = b1*q², отсюда b1 = b3/q², подставляем в формулу для нахождения 6 члена прогрессии b6 = b1q^5, теперь b6 = b3*q² * q³/q², сокращаем на q², получаем, что b6 = b3*q³, отсюда b6/b3 = q³ ⇒ -5/-40 = q³ ⇒ 1/8 = q³, тогда q = 1/2
ответ: q = 1/2
б) <span>(x-y)+(x^2-y^2)=x-y+x^2-y^2=-(y-x)*(y+x+1)=(x-y)*(y+x+1)</span>