Bambarbia
А фреймбуфер какой?
Если встроенный в ядро vesa то через загрузчик надо передать соотв. параметры, например для lilo это vga = 791 в lilo.conf (при указанном тобой разрешении).
Если хочешь частоту более 60 Гц то надо ставить родной фреймбуфер для карты (если такой есть в природе конечно) или использовать патч для vesa (тут зависит от ядра в последних версиях 2.4(?) и 2.6 он есть
там тоже передаешь vga= 1301 или (1304 чтоли не помню
) ).
Так как fbset не помогает то скорее всего у тебя веса встроенная в ядро (если fb вообще есть в ядре
), она использует для переключения режима вызовы биос потому переключение не работает в защищенном режиме, только в реальном.
Лучше создать дополнительную метку ядра с vga = , что бы если что не иметь проблем с загрузкой.