Теоретически, в выкладывании небольших BMP-изображений ничего страшного нет (если удобней и быстрей), а большие можно порекомендовать сжимать. Только практически на эту рекомендfцию, не подтвержденную материально, естественно, будут благополучно забивать.
Можно запретить выкладывать BMP больше определенного размера (скажем, 10-100 Кб), но не знаю, насколько это технически просто, да и вообще лишние ограничиния раздражают...

Или компромиссный вариант - ниче не ограничивать, но выложившего 2-меговую BMP-уху диалапщики дружно осуждают минусами. Это поможет.

Качество - фигня, нужно знать форматы. Скажем, для фоток - JPG, для графики - GIF, если нужна больше палитра - довольно универсальный формат PNG. И ничего ты без микроскопа не заметишь, BMP это уже занудство.