Параллельно с TS пишутся еще два маленьких файла, возможно они содержат ключи. Будем посмотреть.

Не содержат они ключи, не обращайте на них внимание.

Опция которую вы имеете ввиду в меню ресивера определяет, как писать канал в SCRAMBLED (оригинальном виде) или после раскодировки (шура и т.п.)

SCRAMBLED - значит платный, то есть если эта опция включина то канал будет писатся в закодированном виде. Если вы его отключаете перед записью но файлы не воспроизводятся, то либо  функция записи в раскодированном виде в ПО реса  не реализованна, либо всё-таки у вас проблемы с кодеками в компе. Третьего варианта я предположить не могу.