Из четырех приведенных в вопросе вариантов только первый правильный.
Сильный ветер открыл балконную дверь настежь. Открыл как? -- настежь. Это наречие. И пишется только так!
Во-первых, почему на конце пишется шипящий согласный ж, а не ш?
Для объяснения стоит обратиться к истории происхождения этого слова.
Слово собственно русское. Возникло оно как результат слияния двух слов в одно:
предлога на и существительного стежь, исчезнувшего из современного русского языка.
Но ранее оно употреблялось и буквальное его значение -- столб, крюк.
Образованное таким образом наречие настежь полностью сохранило написание и означает на крюк, на петли.
Вот почему пишется слово с шипящей ж на конце.
Во-вторых, по поводу мягкого знака: нужно лишь вспомнить о правилах правописания наречий.
В соответствии с этими правилами после шипящих ш и ч на конце наречий пишется мягкий знак,
например, наотмашь, сплошь, навзничь, невмочь.
После шипящей ж мягкий знак пишется (заметьте!) только в наречии настежь.
В одном-единственном наречии, а другие наречия уж, замуж, невтерпёж пишутся без мягкого знака.