Значение S есть просто знак числа x.
Это стандартная математическая функция.
В школе записывается как sign(x).
Блок схема будет в один блок - вернуть sign(x).
Процедура в MS Excel будет такой
=ЗНАК(B1)
про эту функцию можно прочитать тут
https://support.office.com/ru-ru/article/%D0%97%D0%9D%D0%90%D0%9A-%D1%84%D1%83%D0%BD%D0%BA%D1%86%D0%...
А) a*a+x*x/(y*y) или sqr(a)+sqr(x)/sqr(y)
б) sqrt(a*a+b*b) или sqrt(sqr(a)+sqr(b))
Это будет цифра 2, потому что последняя должна быть больше чем первая, и есть наименьшая цифра 5