На текущий момент самую плотную "упаковку" видео при минимальной потере качества даёт кодек Н.264, он ещё называется AVC. С помощью этого кодека кодируются видео-файлы форматов mp4, mkv, avi, но более плотное сжатие получается в формате mp4, где звук упакован плотным кодеком AAC и общий размер видео-файла получается не большим.
Главный параметр для конечного размера файла это величина потока (битрейда), которая выставляется перед кодированием. Оптимальную величину битрейда лучше подбирать методом проб, исходя из разрешения картинки и наблюдая за качеством видео по мере уменьшения битрейда. В этом кодеке при уменьшении битрейда падает чёткость на движимых объектах, на статичных кадрах качество не так сильно падает.
Также имеет значение какой исходный файл будет перекодироваться, если это mp4, mkv, mts, mov, с фото- или видеокамеры, кодированные кодеком Н.264, то уплотнение получается с минимальной потерей качества, а если исходный файл в формате mov, кодированный в Quick Time или avi со старой miniDV видеокамеры, то потеря качества будет очень заметной.