Я предполагаю  что накосячил где-то в настройках.

На сайте vipsop.su есть инструкция по настройке:
http://vipsop.su/faq/#sett

Насколько я понимаю, торрент это такая штука, что находит в сети множество компьютеров, просматривающих один канал, устанавливает с ними соединение и качает с каждого понемногу. И чем больше народу смотрит, тем лучше качество. На установку большого количества соединений уходит много времени, поэтому HD каналы предбуферизируются долго. И во время просмотра первые минуты могут быть артефакты и заикания. Потом все стабилизируется. У меня во всяком случае так.

Да вот какая хрень 43HD канал и ещё четыре музыкальных HD канала Esrf Party ну и так далее они там {на TTV autoplaylist} в куче стоят запускаются практически  сразу почти без загрузки.

Где ваши запятые?? По 20 раз приходится сообщение перечитывать, чтобы понять, что именно вы имеете ввиду.
Читать нельзя удалить.

Да установлен .TTV auto идёт без проблем.

Интересно, а что выводится журнале сообщений и в консолях при тестовом транскодировании (как WendyH высылал)

А если просто запустить Ace Player и в меню Медиа - Открыть Ace Stream Content ID вбить 04a6982bc0335f15034e9fd0a5503ea5c5137359 и нажать кнопку "Воспроизвести"?

Он у меня спросил пол, возраст и стал показывать. После этого у меня всё заработало и в подкасте.
Всё работает, тестовое траснкодирование идёт. Всё ок. Спасибо.
Видимо, не хватало установки настроек и нужно было запустить AcePlayer отдельно.

У вас так же?

Да, но без последней строки, что он дампит

[0x4d7d50] dummy interface: VLC media player - 2.0.5 Ace Stream
[0x4d7d50] dummy interface: Copyright c 1996-2012 VLC authors and VideoLAN
[0x4d7d50] dummy interface:
Warning: if you cannot access the GUI anymore, open a command-line window, go to the directory where you installed VLC and run "vlc -I qt"

[0x4d7d50] dummy interface: using the dummy interface module...

Наверное проблема в консоли с Ace_player, а транскодер действительно просто ждет данных. У меня ace_player пишет в консоли:

[0x1f36548] dummy interface: VLC media player - 2.0.5 Ace Stream
[0x1f36548] dummy interface: Copyright c 1996-2012 VLC authors and VideoLAN
[0x1f36548] dummy interface:
Warning: if you cannot access the GUI anymore, open a command-line window, go to
 the directory where you installed VLC and run "vlc -I qt"

[0x1f36548] dummy interface: using the dummy interface module...
[0x288eca8] demuxdump demux: dumping raw stream to file `\\.\pipe\70FB769D41864C
03828FBC4EBBB77E02'

У вас так же?