Правельнее будет "Семейство Кошачьих". Так как тут стоит РАЗДЕЛИТЕЛЬНЫЙ МЯГКИЙ знак. Попробуй произнести слово "Кошачих" без МЯГКОГО ЗНАКА: уже не то. Так что КОШАЧЬИХ. Посторайся запомнить это правило: РАЗДЕЛИТЕЛЬНЫЙ МЯГКИЙ ЗНАК. Он разделяет гласную от согласной.