На самом деле при попытке присвоить цвету ячейки RGB-значение Excel находит в ассоциированной с Workbook палитре наиболее близкий цвет (только не спрашивайте про критерий близости) и устанавливает свойства Interiror.ColorIndex и Interiror.Color
Изменить палитру можно при помощи Workbook.Colors. Почитайте справку по VBA.
