Некоторое время назад я заметил, что большое количество работников индустрии информационных технологий имеют крайне смутное представление о том, что такое информация, что одновременно смешно и печально. Кто-то по этому вопросу ударяется в неконструктивную философию, кто-то вспоминает полторы формулы из теории информации, не особо вникая в их смысл. Между тем, мне кажется, есть довольно хороший путь к пониманию, и этот путь пролегает через сжатие данных. Когда речь заходит о сжатии, большинство вспоминают про RLE, алгоритмы семейства LZ и коды Хаффмана (на них основана zlib, а что еще нужно?). Но это все равно что сказать "Программирование? Да-да, знаю. Фортран и Кобол".
Поскольку мне наивно кажется, что в сжатии данных я
кое-
что понимаю, я решил сделать образовательную серию постов, в которой мы, пользуясь школьной математикой и несколькими банальными идеями и наблюдениями, выведем некоторые важные факты теории информации и напишем на чистом функциональном языке компрессор, который будет сжимать лучше, чем zip, rar, bzip2 и 7z в их дефолтных режимах. Потом оглядимся вокруг, в том числе на физику, и в результате, надеюсь, что-то поймем об информации.
Много букв (опус в шести частях) здесь:
http://thedeemon.livejournal.com/38089.html#cutid1
Здравствуйте, D. Mon, Вы писали:
DM>Некоторое время назад я заметил, что большое количество работников индустрии информационных технологий имеют крайне смутное представление о том, что такое информация, что одновременно смешно и печально. Кто-то по этому вопросу ударяется в неконструктивную философию, кто-то вспоминает полторы формулы из теории информации, не особо вникая в их смысл. Между тем, мне кажется, есть довольно хороший путь к пониманию, и этот путь пролегает через сжатие данных. Когда речь заходит о сжатии, большинство вспоминают про RLE, алгоритмы семейства LZ и коды Хаффмана (на них основана zlib, а что еще нужно?). Но это все равно что сказать "Программирование? Да-да, знаю. Фортран и Кобол".
Информация -- это то, что уменьшает неопределенность сообшения. Такое определение нам в универе давали. Т.е. без носителя информация не рассматривалась, как и чистое сознание без бытия.
DM>Поскольку мне наивно кажется, что в сжатии данных я кое-что понимаю, я решил сделать образовательную серию постов, в которой мы, пользуясь школьной математикой и несколькими банальными идеями и наблюдениями, выведем некоторые важные факты теории информации и напишем на чистом функциональном языке компрессор, который будет сжимать лучше, чем zip, rar, bzip2 и 7z в их дефолтных режимах. Потом оглядимся вокруг, в том числе на физику, и в результате, надеюсь, что-то поймем об информации.
Не сомневаюсь.
DM>Много букв (опус в шести частях) здесь:
DM>http://thedeemon.livejournal.com/38089.html#cutid1
Интересно, надо будет почитать.
Здравствуйте, D. Mon, Вы писали:
DM>Много букв (опус в шести частях) здесь:
DM>http://thedeemon.livejournal.com/38089.html#cutid1
Интересно, правда прочитал бегло. Надеюсь найти время для вдумчивого прочтения.
А почему не оформили как статью на RSDN? Как раз аудитория подходящая.
Здравствуйте, D. Mon, Вы писали:
DM>В ЖЖ проще и привычнее. А какие есть преимущества для читателя в формате статьи на RSDN?
Намного шире охват аудитории (раз в 200). На этом форуме тема через 2 месяца утонет. А в статьях она всегда будет на виду.
