Есть два варианта решения, какой проще -- вопрос вкусов.
Посчитаем сначала, сколько трёхзначных цифр, в записи которых хотя бы одна из этих цифр есть.
100 чисел с 500 по 599 включительно -- в них первая цифра "5". Других трёхзначных чисел с первой цифрой 5 нет. (Нулём первая цифра быть не может).
В каждой из 8 оставшихся сотен (в каждом промежутке 100-199, 200-299 и т.д.) есть по 10 чисел со второй цифрой 0 (например, 100-109) и по 10 чисел со второй цифрой 5, всего 8*20=160. Других непосчитанных чисел со второй цифрой 5 или 0 нет.
Наконец, в каждом из оставшихся 64 десятков (в каждой из 8 сотен осталось 8 десятков) есть одно число, заканчивающееся на 0, и одно число, заканчивающееся на 5, всего 64*2=128, других нет.
Получаем, что есть 100+160+128=388 чисел, в записи которых есть цифры 0 или 5. Всего трёхзначных чисел 999-100+1=900, значит, чисел, в записи которых цифр 0 или 5 нет, 900-388=512.
- Второй вариант, комбинаторный:
Первой цифрой может быть любая, кроме 0 или 5, всего 8 вариантов. Для второй и третьей цифры так же по 8 вариантов. Чтобы получить общее количество вариантов таких чисел, нужно перемножить количество вариантов для каждой цифры, получится 8*8*8=512.
Ответ: 512.