Строгого определения прямой в математике нет. Некоторые вещи в любой науке задаются аксиоматически, то есть для них не формулируется однозначного и чёткого определения. Ведь "дать определение" означает свети вот это новое (определяемое) понятие к каким-то более простым. Но ничего более простого, более фундаментального, чем точка, прямая и плоскость, в математике, в частности в геометрии - раз речь о геометрических понятиях) нету.
Поэтому что такое прямая - понимается интуитивно, на уровне "ну это же очевидно". Ровно так же понимается и "принадлежность". Это тоже аксиоматичческое понятие.
А вот с отезком и лучом уже просто, потому что понятия "точка", "прямая" и "принадлежность" предполагаются уже известными. Фундаментальными.
Луч - это часть прямой, ограниченная с одной стороны и продолжающаяся в бесконечность с другой.
Отрезок - это часть прямой, ограниченная с двух сторон.
"Ограниченная" тут означает, что точки по другую сторону от конца (который тоеж точка, принадлежащая прямой) считаются несуществующими.