1) Растровые (информация о точках изображения).
Самые популярные форматы: JPG (JPEG), GIF, BMP, PNG, TIF (TIFF), PCX, ICO.
Есть специфичные для ПО, например PSD (открывается не всякими программами).
Есть специфичные для оборудования, например RAW форматы фотокамер: NEF, DNG, ERF.
2) Векторные (информация о контурах изображения).
Популярны: EPS, CDR (CDRX), WMF, AI, SVG.
3) Векторные 3D (аналогично 2, но в пространственных координатах).
Популярны: 3DS, U3D, COLLADA.
4) Комплексные (совмещение в одном файле нескольких форматов, обычно растрового с простым текстом).
Популярны: PDF, DjVu.
Разумеется перечислены далеко не все расширения файлов.