Update
Отдельно рассмотрим случае, когда занят 1 вагон, 2 вагона и 3 вагона.
1) Количество способов, при которых все 5 пассажиров в одном вагоне равно
![C_8^1=8](https://tex.z-dn.net/?f=C_8%5E1%3D8)
. Рассадка внутри вагона - единственная.
2) Количество способов выбрать 2 вагона для рассадки (обязательно, чтобы оба выбранных вагона были заняты, так как случаи занятия только одного вагона уже рассмотрены) равно
![C_8^2=28](https://tex.z-dn.net/?f=C_8%5E2%3D28)
Между выбранными двумя вагонам каждый пассажир может делать выбор независимо, кроме случаев, когда один из вагонов оказывается пустым.
Значит, таких способов рассадки -
![2^5-2=30](https://tex.z-dn.net/?f=2%5E5-2%3D30)
,
всего способов рассадки, при которых заняты ровно 2 вагона: 28*30=840
3) Количество способов, которыми можно выбрать 3 вагона, в которых будут размещаться пассажиры
Далее, для каждого выбранного варианта трех вагонов каждый из 5 пассажиров может выбрать любой вагон, то есть, для каждого пассажира есть выбор из трех вагонов. Всего вариантов разных выборов -
![3^5](https://tex.z-dn.net/?f=3%5E5)
Но мы должны вычесть все способы рассадки, при которых остаются пустыми один или 2 вагона.
Количество способов, при котором остаются пустыми 2 вагона равно 3 (ровно один способ для каждого занятого вагона или
![C_3^2*1=3](https://tex.z-dn.net/?f=C_3%5E2%2A1%3D3)
)
Количество способов, при котором пустым остается 1 вагон -
То есть, количество способов, при которых заняты ровно 3 вагона, равно
56*(243-3-90)=56*150=8400
4) Значит, всего способов
8+840+8400=9248=2^5*17^2.