Только увидел тему - поэтому отвечаю.
Это только моё ИМХО - не более, поэтому нисколько не претендую на последнюю инстанцию. Все вышеперечисленные программы для меня незнакомы, поэтому что-то конкретное сказать про них - не скажу.
Итак: для начала, надо определиться, какой битрейт, при кодировании видео, тебя устраивает, в плане качества картинки (на выходе). Лично у меня ТВ FULL HD (1920x1080), поэтому вполне устраивает битрейт 10 мбит\сек. Тем более я слегка подслеповат и на расстоянии особо не замечаю т.н. "пикселизации" или тех же "квадратиков" на видео, даже при меньшем битрейте. Но для себя, просто, если кодирую видео, то ниже вышеперечисленных показателей стараюсь не опускаться (обычно в настройках кодировщика устанавливается 2 параметра: целевой битрейт (ставлю 10 мбит\сек) и максимальный битрейт (ставлю 12 мбит\сек). Для небольших роликов (менее 1 мин.,но не более 2 мин.) ставлю 6-8 мбит\сек (иначе, очень часто, случается рассинхрон по звуку). При кодировании, если хочешь получить более качественное видео, обычно ставлю 2 прохода кодировки (касается только материала, который мне очень дорог или для заказчика).
Теперь о mkv... Сам по себе mkv это не формат. Это контейнер, в который ты можешь запихать (закодировать) видео с, практически, любым битрейтом (битрейтем?

) и кодеком. На выходе получишь вполне себе приличный результат. Т.е., если кодировать в другом формате (контейнере), то при том же самом биттрейте ты получишь видео, возможно, не хуже по качеству, но уж точно больше по объему.
Теперь о возможностях наложения дорожек, нарезания\вырезания и т.п. В очень многих кодировщиках присутствует возможность наложения дополнительных дорожек или нарезания\подрезания видео. Но их возможности настолько "куцые", что я их никогда не принимал всерьез. Да и, неудобно (ИМХО) в них работать, в этом плане. MKV - это кодированное видео, чтобы полноценно и нормально работать в плане нарезки\склейки видео, то с контейнером mkv не работают. Для начала перегоняют в другой, наиболее удобоваримый для программы монтажа, формат (DV, HDV, AVCHD, AVI-no compress, наконец). Чтобы понять почему - почитай про структуру расположения кадров в кодированном видео.
Посоветовать что-либо из проф.программ для работы с mkv не могу - т.к. я с ним не работаю на таймлайне (и никому никогда не советовал). MKV - отличный контейнер для хранения видеоконтента, т.е. это конечный продукт, который, надо сначала подготовить (нарезали, подрезали, наложили видео - перегнали в mkv).
Сам пользуюсь AdobeMediaEncoder, TMPGEnc Video Mastering Works, ВидеоМастер и иногда QuickTimePro (это кодировщики). Из проф.видеоредакторов я даже не могу сказать, какая из них может нормально работать с mkv, т.к., если честно, таких мыслей в голову не приходило. Всегда перегонял видео в формат для монтажа.