Что-то непонятно задание написано!
Может так: х+1/х=3
(x^2+1) /x=3
(x^2+1-3x) / x=0
x =/ 0; x^2-3x+1=0
D=9-4=5; x1=(3+coren5) /2
x2=(3-coren5) /2
x^2+1/(x^2)=(3+coren5)/2)^2+1/(3+coren5)/2)^2=((14+2c0ren5)^2+1) / (14+2coren5)
Вероятность p - отношение удачных вариантов ко всем вариантам.
n₀=38 (общее количесво вариантов)
n= 38-5-23=10 (успешных вариантов)
p=n÷n₀