Производитель откликнулся, производят проверку по заданному вопросу с проблемой вывода аудио 5.1.
В качестве временной меры выполнил переустановку драйверов для OpenATV6.1 (et1x000-drivers-4.1.37-4.9.1-20170424).
В результате AC3 работает как по HDMI, так и по оптике!!!