BD₁ - диагональ куба
AB и AA₁ - рёбра куба
A₁C₁ - диагональ грани
Наибольшую длину имеет отрезок BD₁ так как диагональ куба больше ребра куба и больше диагонали его грани .
Раскладываешь знаменатель по формуле разности кубов.
25x^2-(x^2+2*x*y+y^2)=25x^2-x^2-2*x*y-y^2=23x^2-2*x*y-y^2