в MSDN написано что первый параметр это имя службы

LPCWSTR* pTemp = new LPCWSTR[3];
pTemp[0] = L"MSIServer";
pTemp[1] = L"/i C:\\Share_install\\VyChat21.msi";
pTemp[2] = L"/qn";

StartService(hService, 3,pTemp)


все равно не работает, служба запускается, параметры игнорируются