Подкоренное выражение должен принимать только положительные значения, включая нуль. Также знаменатель дроби не равен нулю.
Область определения функции записывают так:
Х2-8х+7=0
Д=(-8)2-4*1*7=64-28=36
Х1=8+6/2=14/2=7
Х2=8-6/2=2/2=1
Решение задания смотри на фотографии
(√(43)-1)² = 43-2√(43)+1 = 44-2√(43).