>Попробовал брать просто среднее арифметическое от каждого цвета — на светлой голубой картинке датет сервый цвет,
на однородно залитой голубой картинке получился серый цвет?? а не в целых ли числах складывал со многократным переполнением

?
>преобразование средствами системы к картинке 1*1 пиксель — тоже,
>поискав по интеренту нашел алгоритмы сжатия, формулы расстояния между цветами, но усреднения цвета нигде не попалось...
просто ф-лы усреднения и не получишь, как не найдёшь нигде, скажем, ф-лы "умножения векторов"..
Допустим, есть картинка из 2х точек: синяя (0,0,255) и жёлтая (255, 255, 0). Тогда усредняя в пространстве RGB получим (128, 128, 128) — довольно тёмный серый цвет. В пространстве HSB получим (после преобразования обратно в RGB) (0, 255, 128) — ядовитый зелёный.
>если сталкивались прошу подсказать в какую сторону думать...
Попробуй поусреднять в различных цветовых пространствах, и вообще определись для начала, какими свойствами должно обладать требуемое усреднение...
Homo sum et nihil humani a me alienum puto...
