Решение в приложении. Ответ: -12.
<span>=((m²-10m)-(6m-64))/(m²-64)=(m²-16m+64)/(m-8)(m+8)=(m-8)(m-8)/</span><span>(m-8)(m+8)=
=(m-8)/(m+8)
</span>
Прямая пересечёт отрезок, если концы отрезка лежать по разные стороны от прямой. Одна полуплоскость задаётся неравенством y>kx+b, другая y<kx+b, тогда для рассматриваемых точек значение выражения y-kx+b должно быть разных знаков.
(y1 - kx1 + b)(y2 - kx2 + b) < 0