А какая функция?Можно проверить эти точки если подставить каждую координату в функцию к примеру:
A(5;11)
x=5 , y=11
Если функция "выполняется" то точки принадлежат ей:
к примеру:y=2x+1
подставим
2*5+1=11
значить точка принадлежит и так со второй точкой
[x-4]=3
x=3+4 x=3-4
x=7 x=-1
9x-7x-2=0
9x-7x=0-2
2x=-2
x=-1
Ответ:-1