Здравствуйте, Serpuh, Вы писали:

S>Как указывать правильно проекции (закоментаренные geographicRef)

А что именно получить хочется? Если не надо какую-то специфическую координатную систему, то проще взять или обычный WGS84, или гугловую проекцию (EPSG:3857)
Ну и если GCP-щные точки есть, то должна бы быть и координатная система для них.

OGRSpatialReference ref;
ref.importFromEpsg(3857);
char *pszDstWkt;
ref.exportToWkt(&pszDstWkt);
dataset->SetProjection(pszDstWkt);

S>как метры перевести в UTM, там вроде один в один, но есть некий масштабный коэффициент 0.9996

UTM и так в метрах. И что за масштабный коэффициент?

S>double adfGeoTransform[6] = { TopLeftX, WidthResolution, 0, TopLeftY, 0, HeightResolution };

А параметры для SetGeoTransform — они откуда взялись?