Об оптимизации - Философия программирования

Здравствуйте, Pavel Dvorkin, Вы писали:

PD>О господи! Даже такие простые вещи ты не понимаешь, а туда же, берешься спорить.
Как скажите...
Великий изобретатель супер оптимизаторов и мега алгоритмов сжатия.

... << RSDN@Home 1.2.0 alpha rev. 745>>

Здравствуйте, little_alex, Вы писали:

_>Не только у MS — у gcc тоже запросто могут разные результаты получится. Компилятор время компиляции в бинарник включает. Еще некоторые алгоритмы оптимизации псевдослучайные числа используют.
И чем это отменяет косолапость подхода?
f(x) != f(x) кривь.
Возражения есть?

... << RSDN@Home 1.2.0 alpha rev. 745>>

Здравствуйте, WolfHound, Вы писали:

Между прочим.

WH>

WH>int _tmain(int argc, _TCHAR* argv[])
WH>{
WH>    __int64 s = 0;
WH>    DWORD dwTimeStart = GetTickCount();
WH>    for (int i = 0; i < 2000000000; i++)
WH>        s+=i;
WH>    DWORD dwTimeEnd = GetTickCount();
WH>    printf("Time = %f\n", (dwTimeEnd - dwTimeStart) / 1000.0);
WH>    return s;
WH>}
WH>

С чем тебя и поздравляю. Ты мимоходом всю старшую часть результата потерял.

В общем, учи языки. C и английский

Здравствуйте, Pavel Dvorkin, Вы писали:

PD>А комментарии твои я другого рода хотел. Как это делается — я и сам понимаю, а вот почему этого твой любимый JIT не делает — вот это и объясни.
О господи! Даже такие простые вещи ты не понимаешь, а туда же, берешься спорить.
Объясняю популярно.

Его еще не научили это делать.

Даже студенты понимают что не все появляется сразу.

... << RSDN@Home 1.2.0 alpha rev. 745>>

Здравствуйте, Pavel Dvorkin, Вы писали:

PD>С чем тебя и поздравляю. Ты мимоходом всю старшую часть результата потерял.
В данном случае без разници.

PD>В общем, учи языки. C и английский

Ага. И тебе того же.

... << RSDN@Home 1.2.0 alpha rev. 745>>

Здравствуйте, little_alex, Вы писали:

_>Не только у MS — у gcc тоже запросто могут разные результаты получится.
gcc полностью детерминирован, это фича у них такая.

_>Компилятор время компиляции в бинарник включает. Еще некоторые алгоритмы оптимизации псевдослучайные числа используют.
Время компиляции — это всё понятно, секции с ними мы не считаем. А псевдослучайные числа прекрасно будут повторяться, если используется одинаковый seed.

Здравствуйте, Cyberax, Вы писали:

C>Время компиляции — это всё понятно, секции с ними мы не считаем.

А секцию с сигнатурой для проверки pdb почему при этом считаем?

... << RSDN@Home 1.2.0 alpha 4 rev. 1095 on Windows Vista 6.0.6001.65536>>

Здравствуйте, AndrewVK, Вы писали:

C>>Время компиляции — это всё понятно, секции с ними мы не считаем.
AVK>А секцию с сигнатурой для проверки pdb почему при этом считаем?
А её можно убрать?

Здравствуйте, Cyberax, Вы писали:

AVK>>А секцию с сигнатурой для проверки pdb почему при этом считаем?
C>А её можно убрать?

Конечно.

... << RSDN@Home 1.2.0 alpha 4 rev. 1095 on Windows Vista 6.0.6001.65536>>

Здравствуйте, Pavel Dvorkin, Вы писали:

PD>Если вы с этим не согласны, ответьте на вопрос — почему фирма Intel C++ то и дело выпускает новую версию своего C++ ? Язык С++ давно не менялся, процессору Pentium IV уже тоже немало лет, что же они там делают ? Неужели они до сих пор Аппеля до конца не прочитали ?

. Методы трансляции известны, методы оптимизации тоже, сделали бы раз и навсегда "правильный" компилятор и дело с концом — до следующей ревизии языка или нового процессора!
Каждый раз, когда выходит сколь либо существенно новая версия проца — выходит новая версия компилятора.
В основном меняется в нем генератор кода, оптимизатор. P4 уже давно находится на предпоследнем месте:

Чем ниже в списке — тем старше процессор

processor Is a value used to target specific processors or microarchitectures. Possible values are:
S Can generate SSE4 Vectorizing Compiler and Media Accelerators instructions for future Intel processors that support the instructions. Can generate SSSE3, SSE3, SSE2, and SSE instructions and it can optimize for future Intel processors.
T Can generate SSSE3, SSE3, SSE2, and SSE instructions for Intel processors, and it can optimize for the Intel® Core™2 Duo processor family.
P Can generate SSE3, SSE2, and SSE instructions for Intel processors, and it can optimize for processors based on Intel® Core™ microarchitecture and Intel NetBurst® microarchitecture, like Intel® Core™ Duo processors, Pentium® 4 processors with SSE3, and Intel® Xeon® processors with SSE3.
O Can generate SSE3, SSE2, and SSE instructions, and it can optimize for Intel processors based on Intel® Core™ microarchitecture and Intel Netburst® microarchitecture.
Generated code might operate on processors not made by Intel that support SSE3, SSE2 and SSE instruction sets.
This value does not enable some optimizations enabled in the S, T, and P processor values.
See Description for use on other processors.
B Deprecated. Can generate SSE2 and SSE instructions for Intel processors, and it can optimize for the Intel® Pentium® M processors.
N Can generate SSE2 and SSE instructions for Intel processors, and it can optimize for Intel® Pentium® 4 processors and Intel® Xeon® processors with SSE2.
W Can generate SSE2 and SSE instructions, and it can optimize for Intel® Pentium® 4 processors and Intel® Xeon® processors with SSE2.
Generated code may operate on processors not made by Intel that support SSE2.
This value does not enable some optimizations enabled in the B and N processor values.
See Description for use on other processors.
K Can generate SSE instructions and it can optimize for Intel® Pentium® III processors and Intel® Pentium® III Xeon® processors. Generated code may operate on processors not made by Intel that support SSE instructions.
See Description for use on other processors.

Сейчас рулит Core архитектура, SSE последних версий и прочие плюшки.

... << RSDN@Home 1.1.4 stable SR1 rev. 568>>

Написал я в пятницу вот это

PD>А комментарии твои я другого рода хотел. Как это делается — я и сам понимаю, а вот почему этого твой любимый JIT не делает — вот это и объясни.

но ответа от Синклера так и не дождался. Неудивительно. Когда приходится на конкретный вопрос отвечать, и для демагогии и обвинений в некомпетености места не остается — тут он обычно замолкает.

Вместо этого получил ответ от WolfHound, который (ответ) хотя и забавен, но не так уж далек от истины.

Ладно, сделаю свое заключение.

Прежде всего — а зачем, собственно, я все это исследование устроил ? Чтобы доказать, выражаясь молодежным жаргоном, что "C++ рулез, а C# и JIT — отстой" ? Нет, конечно. Я ведь и в первом своем постинге в этом треде привел аргументы и pro и contra.

Просто мне не нравится одно явление, которое я здесь наблюдаю. Суть его можно выразить очень коротко — "я работаю с этой системой/языком/протоколом/..., поэтому эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент, а все остальное никуда не годится". А дальше начинается во что бы то ни стало поиск аргументов pro. Только pro. Или только contra.

А надо бы ведь так : ""я работаю с этой системой/языком/протоколом/..., потому что эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент для моей задачи".

Я, конечно, понимаю, что последнее порой легче сказать, чем сделать. Есть корпоративная политика и т.д. Но если приходится ей следовать — это не значит, что надо убедить себя (а потом убеждать других), что это и есть лучшее. Своя голова на плечах должна быть.

В общем, господа, не сотворите себе кумира

А на второй вопрос все же — почему C# это не делает, в то время как C++ делает — у меня ответа тоже нет. Дело в том, что в здании Микрософт я ни разу не был, увы. Вот если побываю , посмотрю, какого цвета там потолок в вестибюле, тогда сразу ответ дам

Мне все же интересно стало — как именно в C++ такая оптимизация получилась. Решил немного покопаться. Запустил filemon, дал ему в виде фильтров cl.exe и link.exe. Вот некоторые выдержки оттуда

Вот здесь ничего особенного.

1340 11:32:51 AM cl.exe:2316 OPEN E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Options: Open Access: Execute
1341 11:32:51 AM cl.exe:2316 QUERY INFORMATION E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Length: 2265088
1342 11:32:51 AM cl.exe:2316 CLOSE E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS

А вот тут уже интересно.

1679 11:32:51 AM link.exe:1864 QUERY INFORMATION E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Attributes: A
1680 11:32:51 AM link.exe:1864 QUERY INFORMATION E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Attributes: A
1681 11:32:51 AM link.exe:1864 OPEN E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Options: Open Access: Execute
1682 11:32:51 AM link.exe:1864 QUERY INFORMATION E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS Length: 2265088
1683 11:32:51 AM link.exe:1864 CLOSE E:\Program Files\Microsoft Visual Studio 8\VC\bin\c2.dll SUCCESS

Так что link.exe во время своей работы загружает кусок компилятора, а точнее, его кодогенератор.

http://members.ozemail.com.au/~geoffch@ozemail.com.au/samples/programming/msvc/cl/c2/index.html

Тогда все становится понятным. Не линкер эту оптимизацию провел, а C2.DLL

Об этом, кстати, сказано вот здесь.

http://members.ozemail.com.au/~geoffch@ozemail.com.au/samples/programming/msvc/cl/c2/options/index.html

In the list below of C2 options recognised by version 13.00.9466, those that are not known to be generated by CL (or LINK when doing link-time code generation)

Здравствуйте, Pavel Dvorkin, Вы писали:
PD>но ответа от Синклера так и не дождался. Неудивительно. Когда приходится на конкретный вопрос отвечать, и для демагогии и обвинений в некомпетености места не остается — тут он обычно замолкает.
Обычно я замолкаю, когда уже не остается места ни для чего другого, кроме обсуждения компетентности в настолько базовых областях, что они выходят за рамки тематики форума.
PD>Вместо этого получил ответ от WolfHound, который (ответ) хотя и забавен, но не так уж далек от истины.
Прикольно. То есть истина тебе уже известна? Поделился бы что ли.

Если ты про вот это Re: Об оптимизации, то с ним никто и не спорил.

Действительно, у джита не очень много времени для работы, хотя это тоже вопрос относительный.
К примеру, типичные серверные приложения живут без перезагрузки месяцами, для них стартап тайм в 60 минут — не проблема.
К примеру, джит далеко не всегда работает в on-demand режиме; в дотнете есть штатный способ спровоцировать "преждевременный" джит при помощи ngen.
К примеру, джит может себе позволить потратить бесконечное время на оптимизацию хотспотов, работая в фоновом режиме, как это сделано в яве.

Точный ответ на вопрос "почему джит делает или не делает те или иные оптимизации" знает только менеджер проекта .Net в майкрософт. Потому что это — менеджерское решение. Какие-то оптимизации были сочтены необходимыми, а какие-то — не очень.

Я лично обсуждал только технические аспекты оптимизации. Потому что для их обсуждения не нужно лично знать руководство майркрософт: объективная реальность дана в ощущениях всем. Все (кому интересно) знают, как именно джит выполняет свои оптимизации. Все (кому интересно) знают, как именно выполняют свои оптимизации Intel C++ или MS VC++.
Опять же, не нужно иметь личных знакомств с авторами компиляторов для того, чтобы оценить возможность реализации той или иной фичи в том или ином оптимизаторе.

PD>Ладно, сделаю свое заключение.
PD>Прежде всего — а зачем, собственно, я все это исследование устроил ?
Какое именно исследование? Никакого исследования я так и не увидел. Исследование началось бы в первую очередь с изучения доступной литературы. Хотя бы той же статьи про LTCG, ссылку на которую я дал — там уже поставлены некоторые из экспериментов, которые ты проводил.

PD>Просто мне не нравится одно явление, которое я здесь наблюдаю. Суть его можно выразить очень коротко — "я работаю с этой системой/языком/протоколом/..., поэтому эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент, а все остальное никуда не годится".
Ну а мне не нравится совсем другое явление. Суть его можно выразить очень коротко — "я не хочу ничему учиться". Обычно начинается оно не так, а с того, что задается какой-нибудь вопрос или предлагается идея. Но когда собеседники предлагают обратиться к открытым источникам для прояснения ситуации, почему-то этому совету автор идеи или вопроса не следует. Он делает совершенно очевидное заявление вроде "недостаточно изучить основы компиляторостроения для того, чтобы написать современный компилятор". С этим никто не спорит, но далее следует совершенно неожиданный вывод "поэтому я не буду ничего читать на эту тему. Лучше я пофантазирую на тему того, что я прочитал в описании ключей командной строки".
Вот эта тенденция мне совершенно непонятна. Как, впрочем, и рассуждения о том, что дескать наверняка в книжках Аппеля написана сухая теория, а вот практика процессоров совсем другая, поэтому скорее всего промышленные компиляторы делают всё как раз наоборот. Это всё обскурантизм и поповщина.

PD>А на второй вопрос все же — почему C# это не делает, в то время как C++ делает — у меня ответа тоже нет.
Жаль. Вначале я подумал, что ты нам тут сразу откроешь глаза на Истину.
PD>Дело в том, что в здании Микрософт я ни разу не был, увы. Вот если побываю , посмотрю, какого цвета там потолок в вестибюле, тогда сразу ответ дам

... << RSDN@Home 1.2.0 alpha rev. 677>>

Здравствуйте, Pavel Dvorkin, Вы писали:

PD>Слушай, откуда все это ? Intel C++ ?
да

... << RSDN@Home 1.1.4 stable SR1 rev. 568>>

Здравствуйте, Sinclair, Вы писали:

Как всегда, много демагогии и передержек. Кое на что обращу внимание.

S>Он делает совершенно очевидное заявление вроде "недостаточно изучить основы компиляторостроения для того, чтобы написать современный компилятор". С этим никто не спорит, но далее следует совершенно неожиданный вывод "поэтому я не буду ничего читать на эту тему . Лучше я пофантазирую на тему того, что я прочитал в описании ключей командной строки".

Ссылочку в студию, пожалуйста! Приведи , где именно я это написал — что не буду читать... ? Хоть дословно, хоть по смыслу. Я специально сейчас все свои сообщения в этом треде перечитал — вдруг что-то забыл. Нет.

А поскольку ни такого дословно, ни даже такого по смыслу я не писал, остается мне только процитировать М.Булгакова.

"Поздравляю вас, гражданин, соврамши".

S>Вот эта тенденция мне совершенно непонятна. Как, впрочем, и рассуждения о том, что дескать наверняка в книжках Аппеля написана сухая теория, а вот практика процессоров совсем другая, поэтому скорее всего промышленные компиляторы делают всё как раз наоборот.

Тоже, пожалуйста, ссылку в студию. Где я утверждал про "скорее всего". Про "наверняка". Есть только одно на эту тему мое высказывание.

http://rsdn.ru/forum/message/3010191.1.aspx

И вот что я там написал

>Порой просто методом проб и ошибок. Порой с привлечением тех или иных теоретических аргументов. Порой вопреки тем или иным, казалось бы, вполне бесспорным теоретическим аргументам.

Это "наверняка" ? Это "скорее всего как раз наоборот" ?

Так что поздравляю Вас, гражданин, вторично соврамши.

>Это всё обскурантизм и поповщина

А вот это имеет уж очень четкое название. Называется это наклеиванием ярлыков. Гнусное, прямо скажу, занятие.

Такие методы дискутирования, может быть, приемлемы для политического деятеля, но для научного мира они являются попросту запрещенными в соответствии с научной этикой.

Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Ссылочку в студию, пожалуйста! Приведи , где именно я это написал — что не буду читать... ?
Ну как же?

>Вот тут есть статья — имеющий мозг да поймет. Там в основном как раз про VC++.
Зачем так далеко ходить ? MSDN на компьютере у тебя есть ?

Если уж ткнуть в ссылку и прочитать подробное изложение секретов LTCG вместе с подтверждающими теорию экспериментами — это "далеко ходить", то на прочтение книги я даже и не надеюсь. Это ж целый хадж получится.

PD>Тоже, пожалуйста, ссылку в студию. Где я утверждал про "скорее всего". Про "наверняка". Есть только одно на эту тему мое высказывание.
PD>http://rsdn.ru/forum/message/3010191.1.aspx

PD>И вот что я там написал

>>Порой просто методом проб и ошибок. Порой с привлечением тех или иных теоретических аргументов. Порой вопреки тем или иным, казалось бы, вполне бесспорным теоретическим аргументам.
Совершенно верно. Слово вопреки было выделено. Я привык к тому, что полужирный шрифт служит для выделения логического ударения. Вот если бы жирным было выделено слово "порой", то смысл еще мог бы быть таким.
PD>Так что поздравляю Вас, гражданин, вторично соврамши.
Ок, тогда в ответ попрошу в студию ссылки на высказывания про то, что "я работаю с этой системой/языком/протоколом/..., поэтому эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент, а все остальное никуда не годится".

... << RSDN@Home 1.2.0 alpha rev. 677>>

Здравствуйте, Sinclair, Вы писали:

S>Ок, тогда в ответ попрошу в студию ссылки на высказывания про то, что "я работаю с этой системой/языком/протоколом/..., поэтому эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент, а все остальное никуда не годится".

А почему ты решил, что это именно к тебе относится ? На воре шапка горит ?

Я ведь ясно написал

>Просто мне не нравится одно явление, которое я здесь наблюдаю. Суть его можно выразить очень коротко — "я работаю с этой системой/языком/протоколом/..., поэтому эта система/язык/протокол и есть самое наилучшее, что изобрела ВТ на данный момент, а все остальное никуда не годится". А дальше начинается во что бы то ни стало поиск аргументов pro. Только pro. Или только contra

Где тут упоминание тебя ? Я довольно-таки многих имел в виду. И то, что я написал — отнюдь не цитата, как очень легко понять.

По теме:

Steve Yegge — Dynamic Languages Strike Back ( http://steve-yegge.blogspot.com/2008/05/dynamic-languages-strike-back.html )
В статье, где то во второй части рассматриваются преимущества JIT'а (в контексте динамических языков)

Trace compiler / Trace-based optimization ( http://article.gmane.org/gmane.comp.lang.lua.general/44781 )
Элегантная техника оптимизации "того, что нужно". Что то подобное применяла Transmeta для выполнения x86 кода в своих процессорах.

Здравствуйте, Pavel Dvorkin, Вы писали:
PD>А почему ты решил, что это именно к тебе относится ?
Ну я и на чужие цитаты согласен. А то вот клеймишь некое явление, а мне, к примеру, непонятно, где именно оно имеет место быть.
PD>На воре шапка горит ?

А почему ты решил, что вот этот абзац про тебя?

Ну а мне не нравится совсем другое явление. Суть его можно выразить очень коротко — "я не хочу ничему учиться". Обычно начинается оно не так, а с того, что задается какой-нибудь вопрос или предлагается идея. Но когда собеседники предлагают обратиться к открытым источникам для прояснения ситуации, почему-то этому совету автор идеи или вопроса не следует. Он делает совершенно очевидное заявление вроде "недостаточно изучить основы компиляторостроения для того, чтобы написать современный компилятор". С этим никто не спорит, но далее следует совершенно неожиданный вывод "поэтому я не буду ничего читать на эту тему. Лучше я пофантазирую на тему того, что я прочитал в описании ключей командной строки".
Вот эта тенденция мне совершенно непонятна. Как, впрочем, и рассуждения о том, что дескать наверняка в книжках Аппеля написана сухая теория, а вот практика процессоров совсем другая, поэтому скорее всего промышленные компиляторы делают всё как раз наоборот. Это всё обскурантизм и поповщина.

Может быть, я имел в виду совсем других людей — ты же вроде как официально не против книжки-то читать.

... << RSDN@Home 1.2.0 alpha rev. 677>>

Ну а если хочешь пример лично по тебе — пожалуйста

http://www.rsdn.ru/forum/message/2901574.1.aspx

Цитирую (абсолютно точно)

PD>4. Ну и последнее. То, чем я сейчас занят. Если в общем виде — некая система взаимодействующих серверов и клиентов с протоколом их взаимодействия. Увы, бинарным пока что. Вот мы и учим эту систему XML понимать, чтобы новые серверы/клиенты могли с прежней системой взаимодействовать. Никаким HTTP там и не пахнет. Подробностей не будет.
S>Сочувствую вашим заказчикам. В случае если сервера и клиенты расположены в интернете. Да даже если это интранет — если бы вы выбрали HTTP, то получили бы надежную масштабируемую систему. А так вы занимаетесь просиранием средств на самописанные протоколы, которые будут страдать от всего того, что взрослые дяди вылечили примерно в 1996.

Что из себя представляет моя задача — ты не знал и знать не мог, так как я об этом не писал и не напишу. И не имея ни малейшего представления о задаче, ты взялся рекомендовать для нее средства решения. И разумееется, попал пальцем в небо — тот протокол, который там используется, утвержден CEN (European Committee for Standardization). Как я могу после этого серьезно к твоим рекомендациям относиться ?

	От:	WolfHound
	Дата:	04.07.08 10:52
	Оценка:	-1

	От:	WolfHound
	Дата:	04.07.08 10:52
	Оценка:	-1

	От:	Pavel Dvorkin
	Дата:	04.07.08 11:07
	Оценка:	-1

	От:	WolfHound
	Дата:	04.07.08 11:11
	Оценка:	-1

	От:	WolfHound
	Дата:	04.07.08 11:13
	Оценка:

От:	AndrewVK	http://blogs.rsdn.org/avk
Дата:	04.07.08 13:43
Оценка:	+1

От:	Sinclair	https://github.com/evilguest/
Дата:	07.07.08 05:54
Оценка:	+2

От:	SiGMan / iO UpG	www.ioupg.com
Дата:	07.07.08 07:50
Оценка:	17 (2)