Прилагательное БЕЗЖАЛОСТНЫЙ образовано от существительного ЖАЛОСТЬ, которое образовано,
в свою очередь, от глагола ЖАЛЕТЬ посредством суффикса -ОСТЬ-.
Этот же суффикс остается и в прилагательном и пишется так же, естественно.
В этом суффиксе находится безударная гласная О.
Можно ли её проверить?
Оказывается, можно.
Есть даже общее правило написания безударных букв в суффиксах.
В соответствии с этим правилом проверку правильности написания гласной О в суффиксе -ОСТЬ- нужно произвести словами с тем же суффиксом, но в котором проверяемый гласный будет находиться в сильной позиции (под ударением).
Такое слово есть - ЗЛОСТЬ.
Вот с его помощью и устанавливается, что и в слове ЖАЛОСТЬ, как и в словах слабость, молодость, смелость, суффикс пишется через букву О.
Впрочем, и так известно, что в русском языке есть суффикс -ОСТЬ- или -ЕСТЬ- (например, свежесть)
Дальше -- проще.
Приставка БЕЗ нашла свое место перед звонкой согласной, посему и пишется именно так.
Непроизносимая согласная Т отчетливо звучит в формах слов, где за нее следует гласная. Таких слов много, например, безжалостЕн.