1) Вычисляем длину большей стороны. То есть находим max(x,y,z).
2) Проверяем, может ли такой треугольник вообще существовать. Сравниваем длину большей стороны с суммой длин остальных двух сторон. Понятно, что сумма длин двух меньших сторон должна быть больше длины большей стороны.
3) Сравниваем сумму квадратов длин меньших сторон, с квадратом длины большей стороны. Если квадрат большей стороны меньше, то противолежащий угол острый. Если больше - тупой. Ну, а если сумма квадратов длин меньших сторон равны квадрату длины большей стороны, то противолежащий угол - прямой.