Слово «окаянный», что называется, исконно русское (точнее, славянское). Образовано оно по всем правилам славянского языка: от соответствующего глагола с приставкой «О», означающей доведение действия до естественного предела.
Слово пишется с двумя «н», которые сейчас являются составной частью корня. А когда это был вполне себе суффикс «-нн», который используется для образования отглагольных прилагательных.
Исходным глаголом стало «каять» — «упрекать», «порицать», «осуждать», «проклинать». Приставка «О» придала этому глаголу акцент законченности — «осудить», «проклясть». Так что «окаянный» — это, так сказать, «(окончательно и бесповоротно) проклятый», «осужденный (полностью, без возможности помилования)».
И действительно, в современном русском языке это слово используется как синоним грешника, причём грешника полного, нагрешившего столь окончательно и страшно, что ни простить, ни понять его попросту невозможно. Окаянный — это значит «отверженный», «проклятый», "грешный".
В устаревшем значении — синоним дьявола, беса, нечистой силы вообще.
Вернёмся теперь к исходной форме — глаголу «каять». Сходные по звучанию и смыслу слова можно найти в чешском, сербском, польском. В праславянском языке он звучал чуть иначе — каяти, что удивительным образом совпадает с древнеиндийским cáyate. Так что корни у нашего «окаянного» невероятно древние, праиндоевропейские. В своём изначальном значении «каяти» несёт смысл «наказывать», «мстить».
Увы, сходство слова с библейским Каином — не более чем совпадение, случайность (хотя, надо сказать, весьма правдоподобная была бы версия). Имя «Каин» — семитское, т. е. относится к совсем другой группе языков — афразийской. Происходит оно от слова, означающего «создать, приобрести», и никакого отношения к славянскому «окаянному» не имеет.