Как конкретно работают пигментные клетки, я не могу сказать, но основываясь на колориметрической теории могу предположить, что различное содержание красящих веществ в клетках изменяет интенсивность отражения тех или иных цветов (наборов длин волн), в сумме которые и дают наблюдаемый цвет.
Спектр - это пример чистых цветов. Погуглите локус цветности. Смешение цветов не одномерная, а двуменая операция.