помогите настроить TWIN протокол, вот мой конфиг.

Я так понимаю ты хочешь по ком-порту отдать шару на другой рес?
Если так, то поддерживаются такие протокола:
HSIC     Humax Sharing Interface Client
SSSP     Simple Serial Sharing Protocol
bomba    BOMBA Firmware
dsr9500  DSR 9500
И еще из доков - формат записи для устройства на COM-порте:
device = <user>@<device>[:baud][?option1=value1][?option2=value2]
из чего следует, что протокол обмена oscam определяет сам.