В ядре Земли не огонь, а расплавленная металлическая масса - предположительно, железно-никелевая смесь с примесями других веществ.
Огонь дает дым не всегда, а только при достаточно высокой концентрации твердых частиц в воздухе в результате горения.
Такая концентрация имеет место при извержении вулканов, во время которых в воздух выбрасываются большие облака дыма и пыли.
Отдаленную аналогию можно провести с печкой. Если вы топите печку и топка закрыта, то где дым? Правильно, в дымоходе. В комнате его нет. А если дымоход закрыть и печка при этом герметична (ну, допустим) - где будет дым? Правильно, в печке. В результате чего она, может быть, взорвется - если стенки не выдержат. Но пока дыму не через что выходить, дыма не будет.
Так и с Землей. Если есть из чего образовываться дыму в результате плавления пород в ядре планеты, то дым есть и выходит он через жерла извергающихся вулканов.
Хотя, конечно, продукты горения при этом - мизер по сравнению со всей массой тепла, вырабатываемого в ядре и мантии. Процессов, которые дыма не образуют. Тот же ядерный распад - тепла вырабатывает в ошеломическое количество раз больше, чем банальный костер, а дыма меньше, чем от костра - его там вообще нет. А костер, особенно если в него сунуть холодные сырые ветки, может вам весь двор задымить, и фиг ли толку - не факт, что тепла этого костра хватит банально чаю вскипятить. Так что не очень понятно, какую связь вы ищете между дымом и процессами в ядре.