На выходе - PCM. MP3 нормально работает далеко не всегда, как оказалось, бывают всё же кратковременные заикания. при транскодинге всё замечательно. если заставить mp3 транскодить то и с ними всё будет ОК, но вот беда, всё что можно было перепробовал, не хочет он транскодить mp3, ни в какую. версия стоит самая последняя от community, отсюда
http://code.google.com/p/ps3mediaservercontrib/.
возможно mp3 заикаются у меня потому что по WiFi раздача, может по кабелю лучше будет...
ну собсно что искал то и нашёл, способ проигрывать почти любой lossless в хорошем качестве в режиме bit-perfect по сети.