Правильно скажем трое болгар, как и трое башкир, татар, цыган, осетин, молдаван, грузин.
Все эти слова в начальной формой заканчиваются твердыми сонорными согласными, поэтому имеют нулевое окончание в форме родительного падежа:
трое кого: болгар_, башкир_.
Напротив, эти наименования национальностей и народностей имею на конце другие твердые согласные и у них в форме родительного падежа множественного числа окончание -ов, например:
греки - много греков;
калмыки - несколько калмыков,
узбеки - трое узбеков,
казахи - казахов,
киргизы - киргизов.
А тут попались слова "турки" и "монголы":
турки - толпа турок_,
монголы - язык монголов;
галлы - сказки галлов.
И что, слово "турок" тоже имеет нулевое окончание, как и у тех существительных с конечными сонорными, а слова "монголы", "галлы" с сонорными на конце, напротив, имеют окончание -ов, так что эта теория оказалась несостоятельной.
Просто запоминаем формы родительного падежа существительных, называющих национальности.