Дрова искать или на сайте ATi (сюрприз

), или ставить Driver "radeon" (только 2d, 3d через mesa), или ждать/самостоятельно компилировать x.org 6.9 -- там есть драйвер r300.
Память можно попробовать в ручную указать: VideoRam 131072 -- размер в килобайтах