х (км/ч) - собственная скорость катера
(х + 3) км/ч - скорость катера по течению
(х - 3) км/ч - скорость катера против течения
4 * (х + 3) (км) - расстояние по течению
5 * (х - 3) (км) - расстояние против течения
105 км - весь путь
4 * (х + 3) + 5 * (х - 3) = 105
4х + 12 + 5х - 15 = 105
9х = 108
х = 12 км/ч - собственная скорость катера.