Отдельного урока по качеству, конечно, нет. Здесь всё, достаточно, просто. Качество изображения (Resolution) выставляем как можно больше. Я обычно ставлю 600. Также при просчете изображения ставлю размер в два раза больше планируемого. Допустим выкладывать буду изображения в с размером 1000х1000, значит при рендере выставляю размер 2000х2000. Потом в ФШ уменьшаю до нужного размера, это обеспечивает дополнительное сглаживание. Также значение Quality (выставить его можно нажав Ctrl+O) для Jpeg должно быть 100%.