Andjanchik, в моём посте(выше от вашего через один) в скринах указаны настройки для конвертирования в AVI для сохранения прозрачности, т.е. для сохранения альфа-канала. Если что-то не получается, то может быть несколько причин.
1. Исходник без альфа-канала. Для того, чтобы узнать есть ли он, нужно нажать "Ctrl+I". Если присутствует запись "Миллионы+" (обращаю особое внимание на "+"), то есть и прозрачность, если плюса нет - нет и альфы.
2.Возможно криво стоит Pinnacle. Или не на ту дорожку кладёте.
3.Что-то с настройками в Quick Time не так, или версия древняя.( должна быть "PRO" и кажется от "7" и выше.)
А вообще то более подробно посмотрите на специализированных форумах по видеомонтажу. Например,
http://drbobah.com/forum/index.php . Или
http://www.video-montager.ru/index.php . Этой теме всегда отводится очень много места.
Успехов!