В русском языке в формах предложного падежа существительных мужского рода существует вариантность в окончаниях, например : в цехе - в цеху, в отпуске - в отпуску, в собственном соку - в вишневом соке, стоять на ветру - на сквозном ветре.
Обычно окончание -у/ -ю употребляется у многих неодушевленных существительных мужского рода второго склонения, если при таком существительном имеются предлоги в, на, сравните: в строю - о строе, на берегу - о береге. Прослеживается тенденция выбора формы на -у, если ей присуще обстоятельственное значение, то есть мы можем спросить где? когда ? и пр. Например:
находиться в строю, сидеть на берегу, растет в лесу, в прошлом году.
Если же форма предложного падежа существительного имеет объектное значение, то ей присуще окончание -е, например: знает толк в (чем?) лесе, в строе простого предложения, думать о саде. Но не всегда это происходит.
В обсуждаемом примере " руки в мелу" или "руки в меле", если речь идет об испачканных мелом руках, правомерно скажем "руки в мелу".
А вообще в форме предложного падежа существительного "мел" возможны обе формы: о меле, в мелу, но, как видите, меняется предлог при этом.