А как это буде выглядеть в виде функции:

char CModFileDlg::ExtractFileExt(const char* FileName)
{
  char *pdest;
  int result;

  /* Search backward. */
  pdest = strrchr( FileName, '.' );
  result = pdest - FileName + 1;
  if( pdest != NULL )
      //тут я не знаю как писать...
   else
    return '';
}

т.е функции ExtractFileExt сообщаем имя файла, а она нам возвращает расширение файла,
либо, если расширения нет то пустую строку.