Косинус не может быть меньше -1.
его область определения [-1;1]
A5=4
a3+a8=5
a5=a1+4d =4(п.1)
a3+a8=2a1+9d=5 (п.2)
Выражаем из п.1 а1; а1=4-4d
Подставляем а1 в п.2
а3+а8 =2(4-4d)+9d=5;
8-8d+9d=5
8+d=5
d=-3
Подставляем значение d в п.1
a1+4d=4
a1+4(-3)=4
a1=16
S13=((2a1 +D(n-1))/2)n, где n=13
S13=((2*16+12*(-3))/2)*13=-26
P.s. *-знак умножения
/-Знак деления
Как-то так
7y²-y+2=7*1/49-1/7+2=1/7-1/7+2=2
Х²-у+х²у-1=х²(1+х)-(у+1)=х²(у+1)-(у+1)=(х²-1)(у+1)=(х-1)(х+1)(у+1).