Можно, как советует Rafail, "подсмотреть" решение и взять за основу флаги Международного свода сигналов. Но задание все-таки -- придумать, да и флаги МСС разноцветные, а разноцветные флаги рисовать неудобно.
Советую для удобства и легкости запоминания сразу разбить буквы на несколько категорий. Сразу приходит на ум: гласные и согласные, а согласные -- на звонке и глухие. Так как гласных букв мало, для них можно придумать самые простые флаги, имеющие какой-нибудь общий признак. Например, все из них содержат в рисунке крест. Берем пять букв: А, О, У, Э, Ы (пока оставим букву И, с ней разговор особый, об этом ниже) и берем для них символы: косой крест, прямой крест с пересечением в центре, прямой крест с пересечением, смещенным влево, прямой крест с пересечением, сдвинутым вправо, двойной прямой крест (горизонталь и две вертикали, делящие флаг на три одинаковые части). А для буквы И возьмем прямоугольник. Зачем это нужно? А чтобы изобразить буквы Е, Ю, Я. Рисуем Э, У или А и обводим прямоугольником. А флаг "Й" -- такой же прямоугольник, внутри которого, к примеру, точка.
Для звонких и глухих парных согласных рационально использовать одинаковый символ, предусмотрев дополнительный элемент, который во всех случаях обозначал бы звонкость. Например, крестик в углу (вспомним, что мы крестами рисовали гласные). А с буквами Б и В мы поступим по примеру евреев, обозначив одним знаком, а для различения где-нибудь пусть стоит точка, если это Б, а не В. Аналогично с буквами П и Ф. Буквы В, Н, Р, С и Т должны иметь самое простое начертание, чтобы их было быстро рисовать, так как они чаще всего встречаются.
Вот из таких соображений рекомендую придумывать флажки.