Re[2]: Пример использования шаблонов для оптимизации
От: smeeld  
Дата: 26.11.14 11:03
Оценка: :))) :)))
Здравствуйте, jazzer, Вы писали:

J>Возведение шаблонного параметра в степень


Про степень. Вот почему это не работает:

#include <iostream>
#include <string>

template <typename T>

 T  func(T val, T deg){
  T sh;
  T res=1;
  T num=0;
  T degree=deg;
   __asm__ __volatile__ ( 
    "pushq %%rbx \t\n"
    "bsrq %1, %%rbx \t\n"
    "movq %%rbx, %0 \t\n"
    "popq %%rbx \t\n"
    : "=m" (num)
    : "m" (degree)
    : 
    );

  T tmp=1<<num;
   while(tmp>0)
    {
     sh=degree&tmp;
     tmp>>=1;
     res=(sh>0) ? res*res*val : res*res;
    };
 return res;
 };

int main(int c, char** s){
  unsigned long a=std::stoi(s[1]), b=std::stoi(s[2]);
  
  std::cout<<"Res=" <<func(a,b)<<"\n";
 };
  
............................

[g@localhost ~]$ ./x 2 63
Res=0


Если добавить так

template <typename T>

 T  func(T val, T deg){
  T sh;
  T res=1;
  T num=0;
  T degree=deg;
   __asm__ __volatile__ ( 
    "pushq %%rbx \t\n"
    "bsrq %1, %%rbx \t\n"
    "movq %%rbx, %0 \t\n"
    "popq %%rbx \t\n"
    : "=m" (num)
    : "m" (degree)
    : 
    );

  T tmp=1<<num;
   while(tmp>0)
    {
     sh=degree&tmp;
     tmp>>=1;
     res=(sh>0) ? res*res*val : res*res;
    };
  std::cout<<"Yob\n"; /* добавка */
 return res;
 };


то
[g@localhost ~]$ ./x 2 63
Yob
Res=9223372036854775808


?
Re[4]: Пример использования шаблонов для оптимизации
От: watchmaker  
Дата: 27.11.14 14:00
Оценка: 1 (1)
Здравствуйте, jazzer, Вы писали:

CG>>Если сделать X простым параметром и передать в функцию константу то компилятор сделает то же самое (constant folding/propagation).


J>Ну да, но только если заинлайнится.

J>А в случае шаблона это произойдет в любом случае.
Даже это не всегда бывает. Функция может быть встроена, а константы у компилятора не схлопнутся.
Вот небольшой пример по вычислению обратного числа в полукольце вычетов. Все три компилятора (gcc, clang, icc) разных версий (там в интерфейсе можно выбирать) успешно встраивают функцию, но вычислить её ни у одного не получается. А вот в варианте с шаблонами у всех всё схлопывается до константы.
Отредактировано 27.11.2014 15:35 watchmaker . Предыдущая версия .
Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 26.11.14 09:29
Оценка:
Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:

template<int X>
void func(...) {
   // делаем что-нибудь такое, что может
   // работать быстрее, если Х известно во 
   // время компиляции
}
Re: Пример использования шаблонов для оптимизации
От: Qt-Coder  
Дата: 26.11.14 09:35
Оценка:
Здравствуйте, chaotic-good, Вы писали:

А оно уже известно — int.
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 26.11.14 09:43
Оценка:
QC>А оно уже известно — int.

Значение целочисленного типа а не сам тип.
Re: Пример использования шаблонов для оптимизации
От: watchmaker  
Дата: 26.11.14 09:46
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:

CG> // делаем что-нибудь такое, что может работать быстрее, если Х известно во время компиляции
И в чем сложность? Казалось бы сразу можно придумать много примеров с арифметикой, где это позволяет упростить выражение. Вот например проверка на кратность аргумента функции: template <int d> bool isDivisible(int n) { return n % d == 0;} Или арифметика как пример для тебя недостаточно хороша?
Отредактировано 26.11.2014 10:02 watchmaker . Предыдущая версия . Еще …
Отредактировано 26.11.2014 9:55 watchmaker . Предыдущая версия .
Re: Пример использования шаблонов для оптимизации
От: jazzer Россия Skype: enerjazzer
Дата: 26.11.14 09:47
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


CG>
CG>template<int X>
CG>void func(...) {
CG>   // делаем что-нибудь такое, что может
CG>   // работать быстрее, если Х известно во 
CG>   // время компиляции
CG>}
CG>


Возведение шаблонного параметра в степень
для двойки это будет просто битовый сдвиг, для нуля и единицы вообще ничего не надо делать, для остальных — что-нть обобщенное.
jazzer (Skype: enerjazzer) Ночная тема для RSDN
Автор: jazzer
Дата: 26.11.09

You will always get what you always got
  If you always do  what you always did
Re[3]: Пример использования шаблонов для оптимизации
От: andrey.desman  
Дата: 26.11.14 10:00
Оценка:
Здравствуйте, chaotic-good, Вы писали:

QC>>А оно уже известно — int.


CG>Значение целочисленного типа а не сам тип.


Значение тоже известно — это же параметр шаблона. Ваш кэп.

Если бы можно было делать специализации для аргументов функции, тогда вопрос имел бы смысл.
Re: Пример использования шаблонов для оптимизации
От: oziro Нигерия  
Дата: 26.11.14 10:09
Оценка:
template<unsigned Mask, typename UnsignedT>
UnsignedT SetBitsByMask(const UnsignedT var, const UnsignedT shiftedValue)
{
    return (~Mask & var) | (Mask & shiftedValue);
}


маска обычно известна в компилтайме. var — какая-нибудь переменная, в которй надо установить определенные биты, shiftedValue — значение, которое надо установить в биты, сдвинутое предварительно, что бы совместить требуемые биты.
Re: Пример использования шаблонов для оптимизации
От: Mr.Delphist  
Дата: 26.11.14 10:27
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


CG>
CG>template<int X>
CG>void func(...) {
CG>   // делаем что-нибудь такое, что может
CG>   // работать быстрее, если Х известно во 
CG>   // время компиляции
CG>}
CG>


template<int X>
int func() {
    return X;
}


Интересно, заинлайнит?
Отредактировано 26.11.2014 10:28 Mr.Delphist . Предыдущая версия .
Re: Пример использования шаблонов для оптимизации
От: CEMb  
Дата: 26.11.14 11:15
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


я недавно спрашивал тут
Автор: CEMb
Дата: 09.10.14
, как раз это в результате и предложили.
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 26.11.14 11:41
Оценка:
W>И в чем сложность? Казалось бы сразу можно придумать много примеров с арифметикой, где это позволяет упростить выражение. Вот например проверка на кратность аргумента функции: template <int d> bool isDivisible(int n) { return n % d == 0;} Или арифметика как пример для тебя недостаточно хороша?

Хороший пример, да. Сложность в том, что я сам это не придумал, вот и все
Re: Пример использования шаблонов для оптимизации
От: landerhigh Пират  
Дата: 26.11.14 12:35
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


Ну, это не то чтобы оптимизация, но для вычисления чего-то в компайл-тайме — запросто. Можно посчитать логарифм, если хрестоматийный факториал уже задолбал.
Еще можно через такие вещи реализовывать статический полиморфизм при разработке протоколов... я использовал в своем фреймворке для конечных автоматов для построения машины из таблицы переходов...
www.blinnov.com
Re: Пример использования шаблонов для оптимизации
От: jazzer Россия Skype: enerjazzer
Дата: 27.11.14 01:14
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


CG>
CG>template<int X>
CG>void func(...) {
CG>   // делаем что-нибудь такое, что может
CG>   // работать быстрее, если Х известно во 
CG>   // время компиляции
CG>}
CG>


Вообще, самое простое — это if:
template<int X>
void func(...) {
   if (X>500) ...
   else if (X>50) ...
   else if (X>5) ...
   else if (X>0) ...
   else ...
}

Поскольку X — константа времени компиляции, компилятор просто выкинет из результирующей функции все условия, которые, как он уже знает, точно не подходят.
jazzer (Skype: enerjazzer) Ночная тема для RSDN
Автор: jazzer
Дата: 26.11.09

You will always get what you always got
  If you always do  what you always did
Re: Пример использования шаблонов для оптимизации
От: lxa http://aliakseis.livejournal.com
Дата: 27.11.14 10:16
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации.


В каждой шутке есть доля шутки.
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 27.11.14 12:36
Оценка:
J>Вообще, самое простое — это if:
J>
J>template<int X>
J>void func(...) {
J>   if (X>500) ...
J>   else if (X>50) ...
J>   else if (X>5) ...
J>   else if (X>0) ...
J>   else ...
J>}
J>

J>Поскольку X — константа времени компиляции, компилятор просто выкинет из результирующей функции все условия, которые, как он уже знает, точно не подходят.

Если сделать X простым параметром и передать в функцию константу то компилятор сделает то же самое (constant folding/propagation).
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 27.11.14 12:40
Оценка:
Здравствуйте, lxa, Вы писали:

lxa>Здравствуйте, chaotic-good, Вы писали:


CG>>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации.


lxa>В каждой шутке есть доля шутки.


Не могу понять что делает этот код. Похоже на попытку развернуть цикл вручную с помощью шаблонов и препроцессора.
Re[3]: Пример использования шаблонов для оптимизации
От: jazzer Россия Skype: enerjazzer
Дата: 27.11.14 13:28
Оценка:
Здравствуйте, chaotic-good, Вы писали:

J>>Вообще, самое простое — это if:

J>>Поскольку X — константа времени компиляции, компилятор просто выкинет из результирующей функции все условия, которые, как он уже знает, точно не подходят.

CG>Если сделать X простым параметром и передать в функцию константу то компилятор сделает то же самое (constant folding/propagation).


Ну да, но только если заинлайнится.
А в случае шаблона это произойдет в любом случае.
jazzer (Skype: enerjazzer) Ночная тема для RSDN
Автор: jazzer
Дата: 26.11.09

You will always get what you always got
  If you always do  what you always did
Re[5]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 27.11.14 14:11
Оценка:
J>>Ну да, но только если заинлайнится.
J>>А в случае шаблона это произойдет в любом случае.
W>Даже это не всегда бывает. Функция может быть встроена, а константы у компилятора не схлопнутся.
W>Вот небольшой пример по вычислению обратного числа в полукольце вычетов. Все три компилятора (gcc, clang, icc) разных версий (там в интерфейсе можно выбирать) успешно встраивают значение, но вычислить его ни у одного не получается. А вот в варианте с шаблонами у всех всё схлопывается до константы.

Ну так рекурсия же. Я не могу это так вот просто преобразовать в цикл а потом развернуть, а компилятор — и подавно. Может если бы там был императивный цикл а не рекурсия, то все бы у компилятора получилось.
Re[6]: Пример использования шаблонов для оптимизации
От: jazzer Россия Skype: enerjazzer
Дата: 27.11.14 14:41
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Ну так рекурсия же. Я не могу это так вот просто преобразовать в цикл а потом развернуть, а компилятор — и подавно. Может если бы там был императивный цикл а не рекурсия, то все бы у компилятора получилось.


Так он же превратил хвостовую рекурсию в императивный цикл, в асме же видно. Казалось бы, в чем проблема сделать следующий шаг?

Имхо, этот пример можно в качестве баг-репорта отправлять производителям компиляторов.
Я не вижу ни одной причины, почему бы всем доступным для шаблонов оптимизациям не срабатывать в случае constexpr-функций
jazzer (Skype: enerjazzer) Ночная тема для RSDN
Автор: jazzer
Дата: 26.11.09

You will always get what you always got
  If you always do  what you always did
Re[6]: Пример использования шаблонов для оптимизации
От: watchmaker  
Дата: 27.11.14 16:18
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Ну так рекурсия же. ... Может если бы там был императивный цикл а не рекурсия, то все бы у компилятора получилось.


Не могу полностью согласится с этими предположениями.
Во-первых, для анализ чистой функции без состояния с хвостовой рекурсией намного-намного-намного проще анализа любого итеративного алгоритма с состоянием. Да, у людей может быть не так, и большинству, наверное, ближе итеративные подходы, но с точки зрения автоматического анализа рекурсия почти всегда предпочтительнее.
Во-вторых, проверить, конечно, ничто не мешает: итерации нигде не сделали лучше, в большинстве случаев не изменилось ничего, а в некоторых версиях случаях стало даже хуже.
  Скрытый текст
Посмотрел внимательнее, там в рекурсивном варианте icc сумел сделать несколько шагов, но не сумел довести до логичного конца вычисления, всё равно оставив исполняющийся всегда код с умножениями и переходами. Изменяя размер типа данных, наглядно видно, что для uint16_t этих шагов хватает для вычисления в compile-time, для uint64_t — нет, для uint32_t тоже не хватает, но ответ почти получен.

В итеративном варианте этого уже нет — в compile-time не вычисляется ничего.

В-третьих, компилятор все-таки может вычислить эти значения, если выставить нужный контекст, где ему уже будет не отвертеться. Вот только что-то сложнее этого примера в такой контекст поместить нельзя, так как в constexpr ни переменную не передать, ни библиотечный вызов не сделать.

В общем, последний пример как раз наглядно и показывает, что у всех компиляторов есть все средства для вычисления рекурсивных функций в данном примере, но при этом у них не получается схлопнуть константы даже для полностью встроенных функций (хотя у icc почти получилось, но на грани, и не воспроизводится при вышеописанном изменении типа данных).
Re[3]: Пример использования шаблонов для оптимизации
От: lxa http://aliakseis.livejournal.com
Дата: 27.11.14 16:54
Оценка:
CG>Не могу понять что делает этот код. Похоже на попытку развернуть цикл вручную с помощью шаблонов и препроцессора.

Ну, это по сути слегка изменённый пример оптимизации двоичного поиска из книги Бентли "Жемчужины программирования", тут, например, шаблоны немного помогают избавиться от ветвления — то, что jazzer упоминал здесь.
Автор: jazzer
Дата: 27.11.14
Если нужен пример задачи, где шаблоны жгут, то это здесь.

Дисклеймер, однако:
Имеющий уши, да услышит.
Re: Пример использования шаблонов для оптимизации
От: sunheretic13  
Дата: 21.02.15 19:40
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации.


умножение на константу. x*y выполняется медленнее чем x*constant.

Пример где это применяется привести не могу. Где-то хабре один чувак изголялся — делал многоуровневое вложение шаблонов и местами по тексту юзал шаблон умножения на константу.
Re: Пример использования шаблонов для оптимизации
От: nen777w  
Дата: 22.02.15 08:29
Оценка:
CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:

Ну вот недавно делал, раскручивание цикла.
Автор: nen777w
Дата: 19.02.15

При желании можно еще немного дописать макросы, добавить возвращаемое значение, сделать возможность групировки вложености и т.д.
Отредактировано 22.02.2015 8:33 nen777w . Предыдущая версия .
Re[7]: Пример использования шаблонов для оптимизации
От: andyp  
Дата: 22.02.15 11:03
Оценка:
Здравствуйте, jazzer, Вы писали:

J>Так он же превратил хвостовую рекурсию в императивный цикл, в асме же видно. Казалось бы, в чем проблема сделать следующий шаг?


Видимо, проблема в том, что компилятор не смог определить, что цикл будет крутиться конечное число итераций и поэтому не стал связываться. В случае рекурсивных шаблонов он бы сделал фиксированное количество вложенных инстанциаций, а затем послал бы метапрограммера подальше.
Re: Пример использования шаблонов для оптимизации
От: andyp  
Дата: 22.02.15 11:18
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


Использовал для оптимизации функции рассчета бита четности N младших бит числа.

  код
//counter of significant bits in number
template <unsigned int x>
struct SignificantBits {
    static const unsigned int n = SignificantBits<x/2>::n + 1;
};

template <>
struct SignificantBits<0> {
    static const unsigned int n = 0;
};    

namespace parity_details{
    //structure implementing levels of parity computations
    template<int Level, typename T> struct Parity
    {
        static const int shifts = 1<<(Level-1);
        static T result(T x)
        {
            T tmp = Parity<Level - 1,T>::result(x);
            return tmp ^ (tmp >> shifts);    
        }

    };
    //recursion terminators
    template<typename T> struct Parity<1,T>
    {
        static T result(T x){return x ^ (x >> 1);}
    };
    //single-bit case
    template<typename T> struct Parity<0,T>
    {
        static T result(T x){return x;}
    };
}

//compute parity of N LSBs of x 
template<int N, typename T> 
inline 
typename std::enable_if<(std::numeric_limits<T>::digits > N) && (N > 0), T>::type 
compute_parity(T x)
{
    //mask bits involved
    x &=  (T(1)<<N) - 1;
    return ::parity_details::Parity<SignificantBits<N-1>::n,T>::result(x) & 1;
}
 
template<int N, typename T> 
inline 
typename std::enable_if<(std::numeric_limits<T>::digits == N), T>::type 
compute_parity(T x)
{
    return ::parity_details::Parity<SignificantBits<N-1>::n,T>::result(x) & 1;
}

template<int N, typename T> 
inline 
typename std::enable_if< (N > std::numeric_limits<T>::digits) || (N < 1), T>::type 
compute_parity(T x)
{
    static_assert(false,"compute_parity:invalid template parameters.");
    return x;
}

#endif
Re[2]: Пример использования шаблонов для оптимизации
От: BulatZiganshin  
Дата: 22.02.15 11:40
Оценка:
Здравствуйте, andyp, Вы писали:

A>Использовал для оптимизации функции рассчета бита четности N младших бит числа.


гоаздо быстрее это сделать, разделив число на куски по 10-11 бит и взяв для каждого из них чётность из таблицы. для int32 это будет всего 7 тактов
Люди, я люблю вас! Будьте бдительны!!!
Re[3]: Пример использования шаблонов для оптимизации
От: andyp  
Дата: 22.02.15 12:31
Оценка:
Здравствуйте, BulatZiganshin, Вы писали:

BZ>гоаздо быстрее это сделать, разделив число на куски по 10-11 бит и взяв для каждого из них чётность из таблицы. для int32 это будет всего 7 тактов


Когда писал это, то хотел обойтись без лукапов. Работает быстро — каждый раз сворачивается половина бит.
Re: Пример использования шаблонов для оптимизации
От: zlrbt  
Дата: 22.02.15 15:11
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:

CG>
CG>template<int X>
CG>void func(...) {
CG>


Погугли про partial evaluation. Собственно hello world для partial evaluation — это обычно рекурсивный алгоритм возведения в константную степень. Степень константа, так что все ветвления и рекурсия раскрываются и это дает ускорение в несколько раз.
Если брать константные выражения не только примитивных типов, то следующий пример: алгоритмы какой-нить интерпретации по константной программе для интерпретатора. Например интерпретация символьного арифметического выражения по константному выражению.
Ну а дальше алгоритм интерпретации интерпретаторов по константному интерпретарору, получаем компилятор.
Ну а дальше еще никто не доходил )
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 23.02.15 12:07
Оценка:
Z>Погугли про partial evaluation. Собственно hello world для partial evaluation — это обычно рекурсивный алгоритм возведения в константную степень. Степень константа, так что все ветвления и рекурсия раскрываются и это дает ускорение в несколько раз.
Погугли constant folding и constant propagation. Функция возводящая в степень будет оптимизирована компилятором. Что-то такое:
int pow(int x, int y) {
    for (int i = 0; i < y; i++) {
        x *= x;
    }
}
pow(var, 3);

компилятор соптимизирует в две инструкции mul. Цикл будет развернут, так как значение y известно на этапе компиляции (без всяких шаблонов).

Z>Если брать константные выражения не только примитивных типов, то следующий пример: алгоритмы какой-нить интерпретации по константной программе для интерпретатора. Например интерпретация символьного арифметического выражения по константному выражению.


Рабочий пример? Это очень сложно сделать на шаблонах, я думаю не очень и нужно.

Мой поинт в том, что многие программисты просто недооценивают возможности компилятора и переусложняют код из-за этого, пытаясь оптимизировать раньше времени то, что компилятор может соптимизировать без них. Хороший пример это т.н. статический полиморфизм. "Эксперты" любят писать сложный код с CRTP, хотя если конкретный тип объекта может быть выведен статически, компилятор может девиртуализировать вызовы и получится тот же самый результат — статический вызов, но только без использования сложных шаблонов (a-la CRTP) и кучи кода в хедерах. Я просто поспорил кое с кем о том, что использование шаблонов "для скорости" это в 99% случаев ошибка (если это не класс-контейнер). Пока что местные программисты не смогли меня убедить в обратном
Отредактировано 23.02.2015 14:49 chaotic-good . Предыдущая версия .
Re: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 23.02.15 17:23
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я хочу придумать задачу, в которой шаблонный параметр целочисленного типа использовался бы для оптимизации. Что-то вроде:


Например передача размерности конечномерного пространства через шаблонный параметр позволяет выводить размер значений типов представляющих вектора, матрицы и т.п. в compile-time, и соответственно избавляет от целого класса аллокаций и индерекций.
Re[3]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 23.02.15 20:08
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Мой поинт в том, что многие программисты просто недооценивают возможности компилятора и переусложняют код из-за этого, пытаясь оптимизировать раньше времени то, что компилятор может соптимизировать без них. Хороший пример это т.н. статический полиморфизм. "Эксперты" любят писать сложный код с CRTP, хотя если конкретный тип объекта может быть выведен статически, компилятор может девиртуализировать вызовы и получится тот же самый результат — статический вызов, но только без использования сложных шаблонов (a-la CRTP) и кучи кода в хедерах.


Код со статическим/параметрическим полиморфизмом зачастую получается не только быстрее, но и проще. Несколько раз упомянутый тобой CRTP используется только в некоторых специфических случаях, в то время как для статического полиморфизма зачастую достаточно обыкновенной перегрузки, которая очевидно проще чем виртуальные вызовы и прочие индерекции, плюс value-semantic автоматически сохраняется (её можно получить и для динамического полиморфизма, но для этого требуется много движений).
Например попробуй переписать partition_point через динамический полиморфизм, и мы сравним:
template<typename I, typename P>
I partition_point(I first, I last, P p)
{
    while(first != last)
    {
        I middle = next(first, distance(first, last)/2);
        if( p(*middle) )
            last = middle;
        else
            first = next(middle);
    }
    return first;
}


CG>Я просто поспорил кое с кем о том, что использование шаблонов "для скорости" это в 99% случаев ошибка (если это не класс-контейнер).


Ошибка какого рода? Не добавляет скорости или "производительность в базу упирается"?

CG>Пока что местные программисты не смогли меня убедить в обратном


А что тебя сможет убедить? Какой-то пример или что?
Re[4]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 24.02.15 07:41
Оценка:
EP>Код со статическим/параметрическим полиморфизмом зачастую получается не только быстрее, но и проще. Несколько раз упомянутый тобой CRTP используется только в некоторых специфических случаях, в то время как для статического полиморфизма зачастую достаточно обыкновенной перегрузки, которая очевидно проще чем виртуальные вызовы и прочие индерекции, плюс value-semantic автоматически сохраняется (её можно получить и для динамического полиморфизма, но для этого требуется много движений).
EP>Например попробуй переписать partition_point через динамический полиморфизм, и мы сравним:
EP>
EP>template<typename I, typename P>
EP>I partition_point(I first, I last, P p)
EP>{
EP>    while(first != last)
EP>    {
EP>        I middle = next(first, distance(first, last)/2);
EP>        if( p(*middle) )
EP>            last = middle;
EP>        else
EP>            first = next(middle);
EP>    }
EP>    return first;
EP>}
EP>


Я не утверждал что кругом нужно лепить динамический полиморфизм. Как раз наоборот, там где шаблоны позволяют упростить код, следует именно их и использовать.

EP>Ошибка какого рода? Не добавляет скорости или "производительность в базу упирается"?


Ложное целеполагание. Некоторые считают что с помощью шаблонов можно получить более быстрый код, но по факту, никто ведь не сравнивает обычно и очень часто компилятор может оптимизировать код без шаблонов не хуже.
Re[2]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 24.02.15 07:45
Оценка:
EP>Например передача размерности конечномерного пространства через шаблонный параметр позволяет выводить размер значений типов представляющих вектора, матрицы и т.п. в compile-time, и соответственно избавляет от целого класса аллокаций и индерекций.

Без конкретного кода сложно это обсуждать. Подозреваю, что современный компилятор справится одинаково хорошо в обоих случаях:

template<int N>
void calcuate_things(array<N> const& m)


и

void calculate_things(Value* m, size_t sz);

const size_t sz = ...;
calculate_things(pvalue, sz);


ну может в первом случае он это сделает гарантированно, во втором — нет
Re[3]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 24.02.15 08:44
Оценка:
Здравствуйте, chaotic-good, Вы писали:

EP>>Например передача размерности конечномерного пространства через шаблонный параметр позволяет выводить размер значений типов представляющих вектора, матрицы и т.п. в compile-time, и соответственно избавляет от целого класса аллокаций и индерекций.

CG>Без конкретного кода сложно это обсуждать. Подозреваю, что современный компилятор справится одинаково хорошо в обоих случаях:
CG>
CG>template<int N>
CG>void calcuate_things(array<N> const& m)
CG>


Скорее так:
template<int N>
Things calcuate(const Sequence<Vector<N>> &)
{
    // ...
    Vector<N> x = ... ;
    unordered_map<int, Vector<N>> y;
    // ...
}

Причём это N может и не использоваться во входных параметрах, а будет задавать размерность какого-либо внутреннего пространства. Например при использовании метода главных компонент или ортонормализации Грама—Шмидта.
Re[5]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 24.02.15 09:04
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Я не утверждал что кругом нужно лепить динамический полиморфизм.


Ты говорил что статический полиморфизм ведёт к сложному коду. По факту же, код зачастую получается намного проще.

EP>>Ошибка какого рода? Не добавляет скорости или "производительность в базу упирается"?

CG>Ложное целеполагание. Некоторые считают что с помощью шаблонов можно получить более быстрый код, но по факту, никто ведь не сравнивает обычно

Выше привели сравнение — даже в простом случае код на шаблонах оказался быстрее чем constexpr функция (без форсирования compile-time контекста).
Сравнивать же каждый подобный случай, где очевидно что код на шаблонах будет не медленнее, а код без шаблонов не быстрее, при том что код на шаблонах зачастую более простой — необязательно.

CG>и очень часто компилятор может оптимизировать код без шаблонов не хуже.


Ты как-то слишком ловко от частного "для non-type template parameters, в некоторых частных случаях, аналог без шаблонов даст иногда даст такой же результат, а в общем случае не лучше" переходишь к общему "очень часто компилятор может оптимизировать код без шаблонов не хуже"
Re[6]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 24.02.15 11:07
Оценка:
CG>>Я не утверждал что кругом нужно лепить динамический полиморфизм.
EP>Ты говорил что статический полиморфизм ведёт к сложному коду. По факту же, код зачастую получается намного проще.

Да, ведет к сложному коду. Как минимум к коду в хедерах, что уже усложняет сам код и процесс разработки. Простые алгоритмы — да, я согласен, становятся проще. Код всяких коллекций тоже выигрывает. Но вот остальное — едва ли. Просто мне часто доводилось видеть код, черезмерно злоупотребляющий шаблонами. Вот такой вот например:

template<class FwdIter>
class Foo {
....
void reset(FwdIter begin, FwdIter end) {
    std::vector<int> tmp(begin, end);
    std::swap(m_values, tmp);
    ...
}


я однаждый исправил на вот такое вот:
void Foo::reset(std::vector<int> newvals) {
    std::swap(newvals, m_values);
}

Ибо в проекте на 400К LOC он всегда использовался с вектором, за исключением одного случая в не критичном к производительности участке кода. Как ты наверное понимаешь, иметь подобные методы в хедерах ради перспективы использовать их с std::list или deque без лишнего копирования — очень сомнительна. Тупой код с конкретным типом стал проще, хочу заметить.

EP>>>Ошибка какого рода? Не добавляет скорости или "производительность в базу упирается"?

CG>>Ложное целеполагание. Некоторые считают что с помощью шаблонов можно получить более быстрый код, но по факту, никто ведь не сравнивает обычно
EP>Выше привели сравнение — даже в простом случае код на шаблонах оказался быстрее чем constexpr функция (без форсирования compile-time контекста).

Этот пример? Это все я могу и в матлабе посчитать, вставить в виде коснтанты в код и в комментарии описать алгоритм получения. В общем, не самый практичный пример.

EP>Ты как-то слишком ловко от частного "для non-type template parameters, в некоторых частных случаях, аналог без шаблонов даст иногда даст такой же результат, а в общем случае не лучше" переходишь к общему "очень часто компилятор может оптимизировать код без шаблонов не хуже"


В том то и дело что это не частные случаи. Ты можешь использовать шаблон для генерации более быстрого кода тогда, когда на этапе компиляции есть какая-нибудь информация и ты можешь развернуть какой-нибудь цикл или зафиксировать какой-нибудь параметр или избавиться от косвенного вызова через vtable, но то же самое компилятор делает постоянно и без твоей помощи, когда у него эта информация есть. Я когда на C# программировал — циклы вручную разворачивал иногда, так как там JIT компилятор тупой был, а для плюсов полно хороших оптимизирующих компиляторов, поэтому заниматься разворачиванием циклов (пусть и неявным) заниматься нет смысла практически никогда.
Отредактировано 24.02.2015 11:08 chaotic-good . Предыдущая версия .
Re[7]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 24.02.15 13:03
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>>>Я не утверждал что кругом нужно лепить динамический полиморфизм.

EP>>Ты говорил что статический полиморфизм ведёт к сложному коду. По факту же, код зачастую получается намного проще.
CG>Да, ведет к сложному коду. Как минимум к коду в хедерах,

Встраивать код из другого translation unit это ещё сложнее, так как требует link-time code generation. Выше был пример фейла оптимизации на constexpr-функции, а если она будет ещё и в другом translation unit — то сфейлится и подавно.

CG>что уже усложняет сам код и процесс разработки.


Чем же код в headers сложнее? Чем усложняется процесс разработки?
Я наоборот предпочёл бы использовать header-only библиотеку, так это многое упрощает — и так будет до тех пор, пока не появятся модули

CG>Простые алгоритмы — да, я согласен, становятся проще. Код всяких коллекций тоже выигрывает. Но вот остальное — едва ли.


Чем по твоей классификации отличаются простые алгоритмы от сложных? И почему по-твоему простые на шаблонах получается проще, а сложные — нет?
Ты всё же попробуй переведи пример partition_point на динамический полиморфизм, хотя бы схематично.

CG>Просто мне часто доводилось видеть код, черезмерно злоупотребляющий шаблонами. Вот такой вот например:

CG> ...

А в этом коде вообще шаблон не нужен был. С vector<int> получается даже потенциально быстрее, например если передаётся rvalue.

CG>Ибо в проекте на 400К LOC он всегда использовался с вектором, за исключением одного случая в не критичном к производительности участке кода.

CG>Как ты наверное понимаешь, иметь подобные методы в хедерах ради перспективы использовать их с std::list или deque без лишнего копирования — очень сомнительна.

Не понимаю о каком лишнем копировании идёт речь — тут всегда создаётся временная копия.

CG>Тупой код с конкретным типом стал проще, хочу заметить.


В этом месте было неправильное использование шаблонов, которое не приносило никакой пользы, и даже вредило.
Если бы здесь была хоть какая-то польза от шаблонов, то был бы смысл обсуждать tradeoffs — а так, просто пример "так делать не надо", и такие примеры можно найти для любой технологии.

CG>Этот пример? Это все я могу и в матлабе посчитать, вставить в виде коснтанты в код и в комментарии описать алгоритм получения.


А если много разных аргументов? Причём которые вычисляются как промежуточные значения какого-то алгоритма? Будешь за каждым в матлаб бегать? Генерировать скриптом?

CG>В общем, не самый практичный пример.


Нормальный пример демонстрирующий то что шаблонный код оптимизируется даже лучше чем constexpr-функции

EP>>Ты как-то слишком ловко от частного "для non-type template parameters, в некоторых частных случаях, аналог без шаблонов даст иногда даст такой же результат, а в общем случае не лучше" переходишь к общему "очень часто компилятор может оптимизировать код без шаблонов не хуже"


CG>В том то и дело что это не частные случаи. Ты можешь использовать шаблон для генерации более быстрого кода тогда, когда на этапе компиляции есть какая-нибудь информация и ты можешь развернуть какой-нибудь цикл или зафиксировать какой-нибудь параметр или избавиться от косвенного вызова через vtable, но то же самое компилятор делает постоянно и без твоей помощи, когда у него эта информация есть.


Эти рассуждения теоретически верны, но на практике справедливы только для крайне малого класса случаев. Что уже успешно демонстрировалось примером выше. Тебе нужны ещё примеры?
Да, у компилятора+ликновщика (причём не только у C++) есть вся необходимая информация для крутых оптимизаций — но из этого никак не следует что в компиляторе все эти оптимизации реализованы. Из этого также не следует что подобные оптимизации будут выполнятся за какое-то вменяемое время.
Или, например, у компилятора есть необходимая информация для того чтобы автоматически переделать алгоритм на GPGPU, но он зараза этого не делает.
В общем из наличия возможности, никак не следует то что эта возможность была реализована

CG>Я когда на C# программировал — циклы вручную разворачивал иногда, так как там JIT компилятор тупой был, а для плюсов полно хороших оптимизирующих компиляторов, поэтому заниматься разворачиванием циклов (пусть и неявным) заниматься нет смысла практически никогда.


Разворачивать циклы вручную через рекурсивные шаблоны смысл есть, так как компиляторы далеко не всегда додумываются развернуть цикл с фиксированным числом итераций. Даже недавно подобная тема поднималась
Автор: nen777w
Дата: 19.02.15
.
Шаблонный loop unroll используется во многих библиотеках, как раз потому что компиляторы не всегда способны его сделать
Re[8]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 24.02.15 14:03
Оценка:
EP>Встраивать код из другого translation unit это ещё сложнее, так как требует link-time code generation. Выше был пример фейла оптимизации на constexpr-функции, а если она будет ещё и в другом translation unit — то сфейлится и подавно.

Ну это все сейчас умеют, даже студия

EP>Чем же код в headers сложнее? Чем усложняется процесс разработки?

EP>Я наоборот предпочёл бы использовать header-only библиотеку, так это многое упрощает — и так будет до тех пор, пока не появятся модули

Ключевое слово "библиотеку" Если смотреть на это как application developer a не как library developer, то получается грусно. Вносить изменения в хедеры дороже, так как цикл разработки (edit -> compile -> run tests -> fix errors) замедляется. Изменил одну строчку и ждешь пока пересобирутся десять единиц трансляции, завязанных на этот хедер. У нас в конторе это крайне не приветствуется и в code style есть соотв. раздел про код в хедерах.

EP>Чем по твоей классификации отличаются простые алгоритмы от сложных? И почему по-твоему простые на шаблонах получается проще, а сложные — нет?

EP>Ты всё же попробуй переведи пример partition_point на динамический полиморфизм, хотя бы схематично.

Я немного во времени ограничен. Уверен что будет хуже чем с шаблонами, придется нагородить класс итератор с виртуальными ф-ями и использвать его. Получится полная хрень a-la java, но скорее всего работать будет не хуже. Если хочешь в code golf поиграть, могу потом как-нибудь наваять.

EP>А в этом коде вообще шаблон не нужен был. С vector<int> получается даже потенциально быстрее, например если передаётся rvalue.

EP>Не понимаю о каком лишнем копировании идёт речь — тут всегда создаётся временная копия.

Ну стандарт не гарантирует использование copy elision тут, так что может быть и лишняя копия, по крайней мере те люди, которые пишут такой код, либо не знают про copy elision, либо не очень на это надеются.

EP>В этом месте было неправильное использование шаблонов, которое не приносило никакой пользы, и даже вредило.

EP>Если бы здесь была хоть какая-то польза от шаблонов, то был бы смысл обсуждать tradeoffs — а так, просто пример "так делать не надо", и такие примеры можно найти для любой технологии.

Угу. Вот только это оч. распространенная практика. Очень часто шаблоны появляются в коде там где они не нужны и половина таких случаев это begin end итераторы вместо конкретного типа либо параметр функтор — template<class Fn> void apply(Fn const& f); — который можно заменить std::function или чем-нибудь полиморфным.

EP>А если много разных аргументов? Причём которые вычисляются как промежуточные значения какого-то алгоритма? Будешь за каждым в матлаб бегать? Генерировать скриптом?


Можно в рантайме сгенерировать перед стартом, если это очень долго, то можно сгенирировать на этапе компиляции скриптом и вставить в исходинк, можно фалйик сделать и в ресурсы запихать, много вариантов есть. Считать факториалы шаблонами IMO самый кривой из вышеперечисленных вариантов.

EP>Эти рассуждения теоретически верны, но на практике справедливы только для крайне малого класса случаев. Что уже успешно демонстрировалось примером выше. Тебе нужны ещё примеры?

EP>Да, у компилятора+ликновщика (причём не только у C++) есть вся необходимая информация для крутых оптимизаций — но из этого никак не следует что в компиляторе все эти оптимизации реализованы. Из этого также не следует что подобные оптимизации будут выполнятся за какое-то вменяемое время.
EP>Или, например, у компилятора есть необходимая информация для того чтобы автоматически переделать алгоритм на GPGPU, но он зараза этого не делает.
EP>В общем из наличия возможности, никак не следует то что эта возможность была реализована

Ну это передергивание уже с GPGPU. По факту, современные версии clang и gcc очень агрессивно оптимизируют код. Я однажды запарился и написал множество небольших программ тестирующих возможности компиляторов и я реально видел что gcc активно делает девиртуализацию, например, и если заменить функтор параметризованый типом на что-нибудь полиморфное, gcc это дело девиртуализирует очень запросто, даже в другой единице трансляции. Помимо этого я периодически пишу тесты производительности, поэтому если компилятор начнет испытывать затруднения с каким-либо кодом, я в своем проекте об этом узнаю и смогу ему помочь. В общем, я не вижу проблемы с таким подходом.

EP>Разворачивать циклы вручную через рекурсивные шаблоны смысл есть, так как компиляторы далеко не всегда додумываются развернуть цикл с фиксированным числом итераций. Даже недавно подобная тема поднималась
Автор: nen777w
Дата: 19.02.15
.

EP>Шаблонный loop unroll используется во многих библиотеках, как раз потому что компиляторы не всегда способны его сделать

Я там в той теме отписывался, честно попытался воспроизвести кейс с помощью клэнга 3.6 но ничего не получилось, он генерит здоровую ф-ю, которая проверяет нет ли алиасинга и потом если его нет — использует быстрый векторизованый цикл иначе — более сложную и медленную реализацию. В месте вызова оно вообще инлайнилось и векторизировалось. Я не смог заставить clang сгенирировать плохой код с включенными оптимизациями (-O2)
Отредактировано 24.02.2015 14:04 chaotic-good . Предыдущая версия .
Re[9]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 24.02.15 15:55
Оценка:
Здравствуйте, chaotic-good, Вы писали:

EP>>Встраивать код из другого translation unit это ещё сложнее, так как требует link-time code generation. Выше был пример фейла оптимизации на constexpr-функции, а если она будет ещё и в другом translation unit — то сфейлится и подавно.

CG>Ну это все сейчас умеют, даже студия

Тем не менее это дополнительный барьер.

EP>>Чем же код в headers сложнее? Чем усложняется процесс разработки?

EP>>Я наоборот предпочёл бы использовать header-only библиотеку, так это многое упрощает — и так будет до тех пор, пока не появятся модули
CG>Ключевое слово "библиотеку" Если смотреть на это как application developer a не как library developer, то получается грусно.

При создании applications естественным образом получаются новые библиотеки. Причём процент того что называется "application code" мал, да и в основном это клей соединяющий библиотеки (свои и third-party).

CG>Вносить изменения в хедеры дороже, так как цикл разработки (edit -> compile -> run tests -> fix errors) замедляется. Изменил одну строчку и ждешь пока пересобирутся десять единиц трансляции, завязанных на этот хедер. У нас в конторе это крайне не приветствуется и в code style есть соотв. раздел про код в хедерах.


1. Precompiled headers.
2. Декомпозируйте заголовки на независимые части. Включайте только то, что требуется.
3. При изменении нешаблонной функции, которая встроена в N мест, LTCG также будет выполнять переборку этих N мест. Хотя возможно масштаб и поменьше чем с заголовками.

EP>>Чем по твоей классификации отличаются простые алгоритмы от сложных? И почему по-твоему простые на шаблонах получается проще, а сложные — нет?


Всё же не понятно почему простые алгоритмы на шаблонах проще, а сложные нет.

EP>>Ты всё же попробуй переведи пример partition_point на динамический полиморфизм, хотя бы схематично.

CG>Я немного во времени ограничен. Уверен что будет хуже чем с шаблонами, придется нагородить класс итератор с виртуальными ф-ями и использвать его. Получится полная хрень a-la java, но скорее всего работать будет не хуже. Если хочешь в code golf поиграть, могу потом как-нибудь наваять.

Полная реализация не нужна, попробуй только интерфейс. Даже в таком простейшем случае без шаблонов повылазят касты типов — так как тип параметра предиката должен быть совместим с value_type итератора, в "чистом ООП" это будет выражено через Object с последующими кастами. В сложных алгоритмах подобных проблем будет больше.
Другой пример это "динамические" мультметоды, которых как известно нет в C++. И если попадётся подобная задача, то их придётся эмулировать, например через visitor, в то время как "статические" мультиметоды элементарно выражаются через перегрузку.

CG>>Ибо в проекте на 400К LOC он всегда использовался с вектором, за исключением одного случая в не критичном к производительности участке кода.

CG>>Как ты наверное понимаешь, иметь подобные методы в хедерах ради перспективы использовать их с std::list или deque без лишнего копирования — очень сомнительна.
EP>>Не понимаю о каком лишнем копировании идёт речь — тут всегда создаётся временная копия.
CG>Ну стандарт не гарантирует использование copy elision тут, так что может быть и лишняя копия, по крайней мере те люди, которые пишут такой код, либо не знают про copy elision, либо не очень на это надеются.

Тут очень простой случай elision, это не какой-нибудь хитрый RVO — компиляторы умеют это делать очень давно. Да и если не будет elision, то это всего лишь move, а не copy.
Да и вообще я не об этом говорил — ты пишешь о какой-то перспективе использования "deque без лишнего копирования", мол там был шаблон из-за того что для deque он что-то улучшит — что ты имеешь ввиду? Для deque там всегда будет копия.

CG>Угу. Вот только это оч. распространенная практика. Очень часто шаблоны появляются в коде там где они не нужны


По моим наблюдениям не "очень часто", а "редко", и в основном это ошибки/перекосы новичков, которые делают ошибки везде, в том числе и в "чистом ООП".

CG>либо параметр функтор — template<class Fn> void apply(Fn const& f); — который можно заменить std::function или чем-нибудь полиморфным.


В общем случае (без soo, и прочего) std::function это дорогая аллокация которую очень непросто соптимизировать компилятору.

EP>>А если много разных аргументов? Причём которые вычисляются как промежуточные значения какого-то алгоритма? Будешь за каждым в матлаб бегать? Генерировать скриптом?

CG>Можно в рантайме сгенерировать перед стартом, если это очень долго, то можно сгенирировать на этапе компиляции скриптом и вставить в исходинк, можно фалйик сделать и в ресурсы запихать, много вариантов есть.

Это всё никак не сравнится по удобству, наглядности и краткости с шаблонами (либо constexpr функции в forced context)

CG>Считать факториалы шаблонами IMO самый кривой из вышеперечисленных вариантов.


Почему?
Кстати, мне как раз compile-time факториал пригодился для вычисления объёма симплекса в пространствах различной размерности — проще и лаконичней было сделать metaprogramming hello-world факториал, чем проверять что runtime факториал заинлайнится на семи компиляторах в 14 конфигурациях, или чем вставлять таблицу.

CG>Ну это передергивание уже с GPGPU.


Это всего лишь гротескная иллюстрация к твоему радикальному тезису о том, что компилятор будет делать все оптимизации без помощи программиста, главное чтобы у него была информация в compile-time:

CG>В том то и дело что это не частные случаи. Ты можешь использовать шаблон для генерации более быстрого кода тогда, когда на этапе компиляции есть какая-нибудь информация и ты можешь развернуть какой-нибудь цикл или зафиксировать какой-нибудь параметр или избавиться от косвенного вызова через vtable, но то же самое компилятор делает постоянно и без твоей помощи, когда у него эта информация есть.


CG>По факту, современные версии clang и gcc очень агрессивно оптимизируют код. Я однажды запарился и написал множество небольших программ тестирующих возможности компиляторов и я реально видел что gcc активно делает девиртуализацию, например, и если заменить функтор параметризованый типом на что-нибудь полиморфное,


Пожалуйста, вот gcc 4.9.2 -O3:
#include <functional>
using namespace std;

void foo(function<int(int, int)> x)
{
    volatile auto y = x(111, 222) + 555;
    (void)y;
}

void test_foo()
{
    foo([](int x, int y){ return x+y; });
}
/*********************************************/
template<typename F>
void bar(F x)
{
    volatile auto y = x(111, 222) + 555;
    (void)y;
}

void test_bar()
{
    bar([](int x, int y){ return x+y; });
}

CG>gcc это дело девиртуализирует очень запросто, даже в другой единице трансляции.

Ок, смотрим:
_Z8test_foov:
.LFB1245:
    .cfi_startproc
    .cfi_personality 0x3,__gxx_personality_v0
    .cfi_lsda 0x3,.LLSDA1245
    pushq    %rbx
    .cfi_def_cfa_offset 16
    .cfi_offset 3, -16
    movl    $1, %edi
    subq    $48, %rsp
    .cfi_def_cfa_offset 64
    movq    $0, 32(%rsp)
.LEHB0:
    call    _Znwm
.LEHE0:
    leaq    16(%rsp), %rdi
    movl    $222, %edx
    movl    $111, %esi
    movq    %rax, 16(%rsp)
    movq    $_ZNSt17_Function_handlerIFiiiEZ8test_foovEUliiE_E9_M_invokeERKSt9_Any_dataii, 40(%rsp)
    movq    $_ZNSt14_Function_base13_Base_managerIZ8test_foovEUliiE_E10_M_managerERSt9_Any_dataRKS3_St18_Manager_operation, 32(%rsp)
    call    _ZNSt17_Function_handlerIFiiiEZ8test_foovEUliiE_E9_M_invokeERKSt9_Any_dataii
    leaq    16(%rsp), %rsi
    addl    $555, %eax
    movl    $3, %edx
    movl    %eax, 12(%rsp)
    movl    12(%rsp), %eax
    movq    %rsi, %rdi
    call    _ZNSt14_Function_base13_Base_managerIZ8test_foovEUliiE_E10_M_managerERSt9_Any_dataRKS3_St18_Manager_operation
    addq    $48, %rsp
    .cfi_remember_state
    .cfi_def_cfa_offset 16
    popq    %rbx
    .cfi_def_cfa_offset 8
    ret
.L20:
    .cfi_restore_state
    movq    32(%rsp), %rcx
    movq    %rax, %rbx
    testq    %rcx, %rcx
    je    .L19
    leaq    16(%rsp), %rsi
    movl    $3, %edx
    movq    %rsi, %rdi
    call    *%rcx
.L19:
    movq    %rbx, %rdi
.LEHB1:
    call    _Unwind_Resume
.LEHE1:
    .cfi_endproc
;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;;
_Z8test_barv:
.LFB1253:
    .cfi_startproc
    movl    $888, -4(%rsp)
    movl    -4(%rsp), %eax
    ret
    .cfi_endproc


Clang частично оптимизирует и встраивает, но только частично и с шаблоном функции никак не сравнится. Хотя пример элементарный — лямбда stateless, применимо SOO.

CG>Помимо этого я периодически пишу тесты производительности, поэтому если компилятор начнет испытывать затруднения с каким-либо кодом, я в своем проекте об этом узнаю и смогу ему помочь. В общем, я не вижу проблемы с таким подходом.


Проблема например в том, что по всему коду размазывается premature pessimization, которая вроде не слишком замедляет, но выкорчевать при необходимости её одним махом не получится, так как нужно перелопачивать весь код.

CG>Я там в той теме отписывался, честно попытался воспроизвести кейс с помощью клэнга 3.6 но ничего не получилось, он генерит здоровую ф-ю, которая проверяет нет ли алиасинга и потом если его нет — использует быстрый векторизованый цикл иначе — более сложную и медленную реализацию. В месте вызова оно вообще инлайнилось и векторизировалось. Я не смог заставить clang сгенирировать плохой код с включенными оптимизациями (-O2)


Clang несомненно радует, но к сожалению не везде. Я часто сравниваю его вывод с GCC — в каких-то местах лучше Clang, а в каких-то GCC. То есть грубо говоря нельзя сказать "мы пишем для Clang'а, поэтому получим все прелести компиляторной оптимизации".
Re[3]: Пример использования шаблонов для оптимизации
От: zlrbt  
Дата: 24.02.15 22:14
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Погугли constant folding и constant propagation. Функция возводящая в степень будет оптимизирована компилятором. Что-то такое:

CG>
CG>int pow(int x, int y) {
CG>    for (int i = 0; i < y; i++) {
CG>        x *= x;
CG>    }
CG>}
CG>pow(var, 3);
CG>

CG>компилятор соптимизирует в две инструкции mul. Цикл будет развернут, так как значение y известно на этапе компиляции (без всяких шаблонов).
Ну я же про рекурсивный алгоритм, а не алгоритм с циклом (у тебя описка и что-то типа x^(2^y), если не путаю). Конкретно студийный компилятор когда я пробовал пример со степеньюЮ пару лет назад, не умел сворачивать рекурсию сам, хотя конечно ничего не мешает компилятору частично вычислять что угодно по константным данным. Вообщем если не нравится пример со степенью, то можно взять любой другой рекурсивный алгоритм. Функция Аккермана? Еще можно умножать матрицы на константные разряженные матрицы?
Re[4]: Пример использования шаблонов для оптимизации
От: zlrbt  
Дата: 24.02.15 22:56
Оценка:
Здравствуйте, zlrbt, Вы писали:

Z>Здравствуйте, chaotic-good, Вы писали:


CG>>Погугли constant folding и constant propagation. Функция возводящая в степень будет оптимизирована компилятором. Что-то такое:

CG>>
CG>>int pow(int x, int y) {
CG>>    for (int i = 0; i < y; i++) {
CG>>        x *= x;
CG>>    }
CG>>}
CG>>pow(var, 3);
CG>>

CG>>компилятор соптимизирует в две инструкции mul. Цикл будет развернут, так как значение y известно на этапе компиляции (без всяких шаблонов).
Z>Ну я же про рекурсивный алгоритм, а не алгоритм с циклом (у тебя описка и что-то типа x^(2^y), если не путаю). Конкретно студийный компилятор когда я пробовал пример со степеньюЮ пару лет назад, не умел сворачивать рекурсию сам, хотя конечно ничего не мешает компилятору частично вычислять что угодно по константным данным. Вообщем если не нравится пример со степенью, то можно взять любой другой рекурсивный алгоритм. Функция Аккермана? Еще можно умножать матрицы на константные разряженные матрицы?

Кстати если возводиться в степень будут не int-ы, а какие-нибудь сложные объекты и компилятор не сможет пользоваться мат-преобразованиями, то возведение в 17-ю степень останется 17-ю умножениями, против 5-ти в рекурсивном алгоритме.
Re[10]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 25.02.15 11:16
Оценка:
EP>Тем не менее это дополнительный барьер.
Отрицать не буду.

EP>При создании applications естественным образом получаются новые библиотеки. Причём процент того что называется "application code" мал, да и в основном это клей соединяющий библиотеки (свои и third-party).

Тут бывают разные методики, если code reuse не предполагается, то нет смысла выносить все в библиотеки. Это overkill и лишняя трата времени. Избавиться от такого кода потом будет сложнее.

EP>1. Precompiled headers.

Ага, особенно с GCC и для своих собственных заголовочных файлов. Это не панацея и хорошо работает только со студией. С gcc можно запросто получить более долгий билд, с чем я сталкивался не однократно.

EP>2. Декомпозируйте заголовки на независимые части. Включайте только то, что требуется.

Я уж лучше последую совету дедушки Лейкоса и не буду писать код в хедерах почти никогда.

EP>3. При изменении нешаблонной функции, которая встроена в N мест, LTCG также будет выполнять переборку этих N мест. Хотя возможно масштаб и поменьше чем с заголовками.

Несравнимо меньше, я бы сказал

EP>>>Чем по твоей классификации отличаются простые алгоритмы от сложных? И почему по-твоему простые на шаблонах получается проще, а сложные — нет?

EP>Всё же не понятно почему простые алгоритмы на шаблонах проще, а сложные нет.
Ну скажем если основной код находится в срр, а шаблонный код просто склеивает то что живет в срр и делает более удобный интерфейс. Ну или всякие алгоритмы a-la STL, их довольно бессмысленно выносить в срр, ибо все равно они никогда не меняются и должны быть максимально обобщенными.

EP>Полная реализация не нужна, попробуй только интерфейс. Даже в таком простейшем случае без шаблонов повылазят касты типов — так как тип параметра предиката должен быть совместим с value_type итератора, в "чистом ООП" это будет выражено через Object с последующими кастами. В сложных алгоритмах подобных проблем будет больше.

EP>Другой пример это "динамические" мультметоды, которых как известно нет в C++. И если попадётся подобная задача, то их придётся эмулировать, например через visitor, в то время как "статические" мультиметоды элементарно выражаются через перегрузку.

Если нужна полностью обобщенная реализация то да, будут касты. Если же обобщенная реализация не нужна (а это часто бывает в application specific коде) — то все становится проще.

EP>Тут очень простой случай elision, это не какой-нибудь хитрый RVO — компиляторы умеют это делать очень давно. Да и если не будет elision, то это всего лишь move, а не copy.

EP>Да и вообще я не об этом говорил — ты пишешь о какой-то перспективе использования "deque без лишнего копирования", мол там был шаблон из-за того что для deque он что-то улучшит — что ты имеешь ввиду? Для deque там всегда будет копия.
Можно бежать итератором по деку и вставлять элементы в результирующий массив. Или можно скопировать дек в вектор а потом передать вектор в ф-ю. Если не знать про copy elision то можно решить что это будет лишняя копия, поэтому вот так вот очень часто делают.

EP>В общем случае (без soo, и прочего) std::function это дорогая аллокация которую очень непросто соптимизировать компилятору.

Не обязательно использовать std::funcition, там действительно внутри динамический объект сидит и поэтому компилятору сложно, если вообще возможно, избавиться от вирт. вызова. Но вот такой пример отлично оптимизируется (девиртуализация + векторизация в обоих случаях). Конечно это java style и не очень выразительно, но зато позволяет обойтись без кода в хедерах.
Re[4]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 25.02.15 11:21
Оценка:
Z>Ну я же про рекурсивный алгоритм, а не алгоритм с циклом (у тебя описка и что-то типа x^(2^y), если не путаю). Конкретно студийный компилятор когда я пробовал пример со степеньюЮ пару лет назад, не умел сворачивать рекурсию сам, хотя конечно ничего не мешает компилятору частично вычислять что угодно по константным данным. Вообщем если не нравится пример со степенью, то можно взять любой другой рекурсивный алгоритм. Функция Аккермана? Еще можно умножать матрицы на константные разряженные матрицы?

^ это XOR, но у меня там ошибка есть, должно быть как-то так:
int pow(int val, int y) {
    int res = 1;
    for (int i = 0; i < y; i++) {
        res *= val;
    }
    return res;
}
Re[11]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 25.02.15 12:44
Оценка:
Здравствуйте, chaotic-good, Вы писали:

EP>>При создании applications естественным образом получаются новые библиотеки. Причём процент того что называется "application code" мал, да и в основном это клей соединяющий библиотеки (свои и third-party).

CG>Тут бывают разные методики, если code reuse не предполагается, то нет смысла выносить все в библиотеки. Это overkill и лишняя трата времени.

Необязательно делать реализацию супер обобщённой, но code reuse возможен даже внутри самого проекта.
Например, неужели никогда не приходилось делать свою структуры данных, алгоритмы и т.п.? Им место как раз в обособленной библиотеке (пусть не сильно обобщённой, но всё же обособленной).
В конце концов отдельные обособленные части проще тестировать.

CG>Избавиться от такого кода потом будет сложнее.


А зачем от него избавляться?

EP>>1. Precompiled headers.

CG>Ага, особенно с GCC и для своих собственных заголовочных файлов. Это не панацея и хорошо работает только со студией. С gcc можно запросто получить более долгий билд, с чем я сталкивался не однократно.

А какая у GCC проблема с PCH?

EP>>В общем случае (без soo, и прочего) std::function это дорогая аллокация которую очень непросто соптимизировать компилятору.

CG>Не обязательно использовать std::funcition, там действительно внутри динамический объект сидит и поэтому компилятору сложно, если вообще возможно, избавиться от вирт. вызова.

AFAIK, для небольших объектов в популярных реализациях делается small object optimization — объект не аллоцируется в куче, а делается placement new внутри самой std::function.
Тем не менее — это пример того, что у компилятора есть вся необходимая информация, причём случай не такой уж и тяжёлый — а оптимизацию он сделать не может.

CG>Но вот такой пример отлично оптимизируется (девиртуализация + векторизация в обоих случаях).


Да, потому что это простой пример.

CG>Конечно это java style и не очень выразительно, но зато позволяет обойтись без кода в хедерах.


Для таких случаев можно сделать не владеющий аналог function (либо аналог/дополнение к Boost.TypeErasure в более общем случае) — то есть использование будет очень близко по форме (думаю можно сделать даже одинаковым) к std::function, с тем отличием что время жизни исходного функционального объекта должен обеспечивать пользователь. Думаю оптимизировать компилятору это будет намного проще.
Если руки дойдут, то набросаю пример.
Re[12]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 25.02.15 13:12
Оценка:
EP>Необязательно делать реализацию супер обобщённой, но code reuse возможен даже внутри самого проекта.
EP>Например, неужели никогда не приходилось делать свою структуры данных, алгоритмы и т.п.? Им место как раз в обособленной библиотеке (пусть не сильно обобщённой, но всё же обособленной).
EP>В конце концов отдельные обособленные части проще тестировать.

Делать свои алгоритмы-структуры данных приходилось конечно же. Но большая часть кода, это как правило application-specific. Например код, который проверяет на спам или дубликаты, его конечно можно вынести в библиотеку, но эта библиотека все равно не будет (для одного моего случая) использоваться более чем в одном месте. А сделать такую вещь как поиск дубликатов обособленной крайне сложно ибо она зависит от схемы БД, например, а спам зависит от спецификации и словарей, опять же, живущих в БД. Я уже молчу о том, чтобы делать такие вещи обобщенными.

CG>>Избавиться от такого кода потом будет сложнее.

EP>А зачем от него избавляться?

Периодически бывает нужно избавиться от какого-нибудь кода, который больше не нужен, какая-нибудь функциональность более не поддерживается, работа с каким-нибудь форматом или источником данных. Ну и просто чистка legacy. В живущих достаточно долго проектах всегда есть что выкинуть.

EP>А какая у GCC проблема с PCH?

Он не очень то от них выигрывает. Я как-то раз на SO спрашивал — http://stackoverflow.com/questions/13309228/gcc-build-time-doesnt-benefit-much-from-precompiled-headers Часть проекта размером в 150К строк собиралась примерно 15 минут после всевозможных оптимизаций билда (оптимизации физической структуры, зависимостей и тд), в том числе и после включения PCH. Вот от PCH толку было очень мало, 5-10%.
Re[12]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 25.02.15 21:59
Оценка:
CG>>Конечно это java style и не очень выразительно, но зато позволяет обойтись без кода в хедерах.
EP>Для таких случаев можно сделать не владеющий аналог function (либо аналог/дополнение к Boost.TypeErasure в более общем случае) — то есть использование будет очень близко по форме (думаю можно сделать даже одинаковым) к std::function, с тем отличием что время жизни исходного функционального объекта должен обеспечивать пользователь. Думаю оптимизировать компилятору это будет намного проще.
EP>Если руки дойдут, то набросаю пример.

Вот пример:
LIVE DEMO
template<typename F, typename Result, typename ...Params>
Result concrete_wrapper(const void *f, Params... params)
{
    return (*static_cast<const F*>(f))(params...);
}

template<typename Signature>
class function_non_owning;

template<typename Result, typename ...Params>
class function_non_owning<Result(Params...)>
{
    const void *f = nullptr;
    Result (*wrapper)(const void *, Params...) = nullptr;
public:
    function_non_owning() = default;

    template<typename F>
    function_non_owning(const F &f)
        : f(&f), wrapper(&concrete_wrapper<F, Result, Params...>)
    {}

    Result operator()(Params... params) const
    {
        return wrapper(f, params...);
    }
};

// Example of usage:

void baz(function_non_owning<int(int, int)> x)
{
    volatile auto y = x(111, 222) + 555;
    (void)y;
}

void test_baz()
{
    baz([](int x, int y){ return x+y; });
}
Результат:
_Z8test_bazv:
.LFB4:
    .cfi_startproc
    movl    $888, -4(%rsp)
    movl    -4(%rsp), %eax
    ret
    .cfi_endproc

И GCC и Clang оптимизируют этот вариант до кода идентичного шаблонной версии.
Re[13]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 26.02.15 12:39
Оценка:
EP>>Для таких случаев можно сделать не владеющий аналог function (либо аналог/дополнение к Boost.TypeErasure в более общем случае) — то есть использование будет очень близко по форме (думаю можно сделать даже одинаковым) к std::function, с тем отличием что время жизни исходного функционального объекта должен обеспечивать пользователь. Думаю оптимизировать компилятору это будет намного проще.
EP>>Если руки дойдут, то набросаю пример.

EP>Вот пример:

EP>LIVE DEMO
EP>
EP>...
EP>
Результат:

EP>
EP>_Z8test_bazv:
EP>.LFB4:
EP>    .cfi_startproc
EP>    movl    $888, -4(%rsp)
EP>    movl    -4(%rsp), %eax
EP>    ret
EP>    .cfi_endproc
EP>

EP>И GCC и Clang оптимизируют этот вариант до кода идентичного шаблонной версии.

Пожалуй это можно признать примером действительно практичной оптимизации с использованием шаблонов, исключением из правила
Re[14]: Пример использования шаблонов для оптимизации
От: Evgeny.Panasyuk Россия  
Дата: 26.02.15 13:15
Оценка:
Здравствуйте, chaotic-good, Вы писали:

CG>Пожалуй это можно признать примером действительно практичной оптимизации с использованием шаблонов, исключением из правила


Другие примеры ты почему-то проигнорировал — например
Автор: Evgeny.Panasyuk
Дата: 24.02.15
. Это же огромный класс задач в которых sizeof создаваемых внутри функции объектов зависит от шаблонных параметров (не важно каких — type или non-type template parameters).
Если же отказываться от шаблонов — то в общем случае вылезут лишние динамические аллокации (так как объект создавать надо, а его размер неизвестен в compile-time), с которыми у оптимизаторов всё плохо. GCC не может даже оптимизировать простейший случай:
int main()
{
    delete [] new char[0x555];
}

0000000000400510 <main>:
  400510:    48 83 ec 08              sub    $0x8,%rsp
  400514:    bf 55 05 00 00           mov    $0x555,%edi
  400519:    e8 c2 ff ff ff           callq  4004e0 <_Znam@plt>
  40051e:    48 89 c7                 mov    %rax,%rdi
  400521:    e8 da ff ff ff           callq  400500 <_ZdaPv@plt>
  400526:    31 c0                    xor    %eax,%eax
  400528:    48 83 c4 08              add    $0x8,%rsp
  40052c:    c3                       retq
Re[15]: Пример использования шаблонов для оптимизации
От: chaotic-good  
Дата: 26.02.15 20:13
Оценка:
EP>Другие примеры ты почему-то проигнорировал — например
Автор: Evgeny.Panasyuk
Дата: 24.02.15
. Это же огромный класс задач в которых sizeof создаваемых внутри функции объектов зависит от шаблонных параметров (не важно каких — type или non-type template parameters).


Мне об этом сложно рассуждать без конкретных примеров. Наверняка можно придумать какой-нибудь обходной маневр в конкретном случае.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.