Попробуйте приучить его это делать в туалетную бумагу, объясняйте, почему так делать нельзя (только не поучайте и не ругайте), а объясните, что это некультурно, неприятно, некрасиво и т.д., попробуйте пробудить у ребёнка эстетические чувства. Со временем ему станет совестно, стыдно так делать. Покажите, как правильно нужно прочищать нос. Больше повторяйте слов: "Я бы была бы рада...", "Пожалуйста, давай будем делать вот так...", "Ты уже большой девочка/мальчик, а так взрослые люди не делают", "Мама/папа это делают так". То есть, просто покажите, как вы к этому относитесь, доходчиво доведите до ребёнка своё требование и покажите, как его нужно выполнять.
Если не поможет, можно немного ужесточить требование - повторите то же самое, но в более твёрдой форме.
Но я думаю, он и так всё поймёт. Лучше, конечно, если он не будет ковырять в носу. Может, его что-то тревожит, беспокоит - такое бывает при признаках тревоги. Тогда следует лучше выявить причины и бороться с ними.
Если нет - только воспитание путём бесед, разговоров, личного опыта. Больше никак.