Изучите силки которые давал Lovec47 (cfe.pdf). Vmlinux по моему соображению запускается в системе в fatfs; rawfs; tftp.
Если ext, сделайте один раздел (какой не важно) в fat32.
P.S.
Чтобы запустить модуль, не надо запускать свой vmlinux, модуль (если собрали правильно) можно загружать в оригинальной прошивке.
P.P.S.
Это (fat32) относится к файлам vmlinux и batch.cfe, файловая система остается оригинальная.