В начале немного необходимой информации

В mental ray, освещение, по алгоритму, расчета  можно разделить на  4 части:
1.      прямая трассировка  (scanline + ray trace).
2.      Непрямое освещение на основе фотонов (GI + Caustics)
3.      Упрощенное непрямое освещение (Final Gather )
4.      Освещение в объемах (ray marching).

Примечание: я не претендую на правильность русско-язычной трактовки терминов, поскольку вариантов переводов хелпов и уроков много и брать их за основу я не намеревался. Часто GI и каустику разделяют, так как для них используются разные карты фотонов, а освещение в объемах включают в GI, из-за того, что оно тоже используют карты фотонов, не учитывая, что начинает работать совершенно другой движок и не все там делается фотонами (используются 2 уровня расчетов, при этом второй, упрощенный не использует фотоны)

Про прямое освещение:

Под прямым освещением подразумевается освещение от эмиттера источника освещения, до поверхности объекта, после встречи с поверхностью объекта, на основе шейдеров поверхности (Surface) и шейдеров затемнения (Shadow), рассчитывается карта освещенности и карта тени объекта. Дополнительно учитываются шейдеры из группы Extended Shaders (смещение поверхности, окружающая среда). При этом часть лучей поглощается, а часть (если объект \полу\прозрачен, отражающий), просчитывается до следующиего объекта сцены. Проникания лучей в объем объекта не происходит, эффект свечения (illumination, glow) учитывается только для диффузных свойств объекта и на другие объекты не распространяется. Генерация фотонов GI, Caustic и Volume Photon не производиться.

Теперь  посмотрим настройки рендера, которые влияют на качество просчета в целом. Эти настройки актуальны вне зависимости от включенных GI и FG

Много и брать

Sampling Quality: параметры этой группы позволяют настроит суперсэмплинг, предназначенный для устранения эффекта ломанных линий, ступенчатых градиентов и всех артефактов возникающих из-за эффекта aliasing.

В араметры Samples per Pixel — minimum и maximum устанавливается количество лучей на пиксель для работы адаптивного суперсемплинга, не буду вдаваться в принцип работы данного алгоритма (при желании теоретическую инфу найти в сети легко).

Практически чем больше значение тем лучше, но время рендеринга увеличивается практически пропорционально увеличению значений, поэтому для предпросмотра сцены желательно ставить низкие значения (но значение  maximum должно быть не меньше 2), а для финального расчета повышать.

Группа параметров Contrast, регулирует алгоритм принятия решения использования для просчета минимального или максимального значения  Samples per Pixel, значения выставляются от 0.004 (1/256) до 1 и шагом 0.004  — чем меньше, тем лучше, но также влияет на скорость рендеринга.

Filter — простейший и самый быстрый фильтр — box, а лучший и «медленный» mitchel.

Ниже параметры Rendering Algorithms — из которых наиболее нужные это глубина трассировки Trace Depth

Много и брать

Reflection — максимальное количество отражений фотона, после чего он пропадает 

Regraction — тоже самое для прозрачности и величина максимальной суммы эффектов – max. depth.

Проще говоря если вы поставите на сцене два зеркала, «лицом» друг к другу и камеру, заглядывающую между зеркалами, то получите глубину «бесконечности» переотражений согласно установленным параметрам.

Главный практический смысл этих установок — в период создания сцены, выставляйте заниженные параметры для быстрого рендера, а на финальной стадии повышайте до приемлемых  размеров.

Источники света:

В mental ray источники света подразделяются на:
— стандартные интенсивность света от которых уменьшается прямо пропорционально расстоянию и не является  физически точным
— улучшенные стандартные (приписка mr), от которых рассчитываются тени, по улучшенному алгоритму и он более мягкие.
— фотометрические интенсивность света задается в физических величинах и ослабление света считается тоже физически верно. Использование фотометриков актуально при соблюдении масштабов сцены метрическим значениям.