Вырезать в деревянной детали круглое отверстие можно разными способами. Самый легкий и простой - с помощью разнообразных сверл (обычных, перьевых, спиральных, Форстнера) и коронок (разрезных и сплошных, обычных и биметаллических):
Есть и так называемые "балеринки":
Также можно, предварительно расчертив нужный размер, выпилить отверстие лобзиком (особенно актуально для больших размеров, превышающих диаметр доступных коронок), лучше всего электрическим, так как ручной требователен к размеру детали.
Если уж под рукой нет специального инструмента, то можно соорудить "балеринку" из планки и двух гвоздей:
Но такое отверстие будет менее аккуратным и потребует много времени и усилий.
Про напильник по дереву (рашпиль) вообще молчу - им можно, конечно расширить существующее отверстие и подровнять края, но это уже не относится к вопросу "Чем вырезать круглое отверстие в доске?"