Тут не так всё просто. Ибо слово "орден" имеет несколько значений. И возникло оно вначале не как награда, а как организация (монашеская, военная, почётная и прочие). И все они имели знаки отличия свидетельствующие о принадлежности к этому конкретному ордену.
И к примеру "человеком с орденом" вполне можно считать людей со званиями магистр или канцлер национальной организации Ордена Почётного легиона Франции, учреждённой ещё Наполеоном в 1802 году.
А ещё там есть: кавалеры большого креста, старшие офицеры, командоры, офицеры и самые младшие - кавалеры или по французски - шевалье (chevaliers).
Ну и второе значение слова "орден" - это общепринятое название наград, которые берут своё начало от знаков отличия ордена, как организации. А потом превратились в самостоятельное значение.
И вот здесь наиболее применительно слово кавалер, которое произошло, как и многое другое, от латыни. Где есть слова caballus (конь), caballarius (конник), ну а потом появились и кавалеры - рыцари-всадники с их высоким положением, благородством и особым положением в обществе.
В России это слово ввёл Петр I именно как принадлежность к коннице и кавалерии. И он же ввёл самый первый орден в России - Святого апостола Андрея Первозванного. Вот пазл и сложился ещё тогда.
Ну а потом, когда орденов стало много, то появилось даже слово "кавалерия" как обозначение нескольких наград на груди одного человека. Позже правда их ещё стали называть "иконостасом", но это уже совсем другая история.