Re[4]: Несколько дурацких вопросов по теории информации
От: craft-brother Россия  
Дата: 23.01.09 07:31
Оценка:
Здравствуйте, goto, Вы писали:


G>Да, проблема общая, но в ИТ проявляется, как мне кажется, относительно явно и формально. Ит — область большая, разнообразная, пластичная, в то же время детерминированная, так что в ней возможны интересные эксперименты со знанием и информацией.


G>Интересено, есть ли исследования или рассуждения о, так сказать, фундаментальном устройстве, структурных особенностях самой информации (не данных, не алгоритмов. Мне трудно четко сформулировать)? Может, философские работы или даже какие-то полубезумные околофизические, околокосмологические? Раз уж такая тема попалась... Только не "Матрица"


Последнее научное достижение в этой области, докторскую диссертацию В. Выхованеца «Синтез эффективных математических моделей дискретной обработки данных на основе алгебраической и понятийной декомпозиции предметной области» обсуждают здесь
Автор:
Дата: 30.12.08
.

ИМХО. Задача сформулирована более-менее адекватно, даже некоторые источники правильные. Решения как не было так и нет
Re[9]: Несколько дурацких вопросов по теории информации
От: craft-brother Россия  
Дата: 23.01.09 08:01
Оценка:
Здравствуйте, Курилка, Вы писали:

К>Здравствуйте, craft-brother, Вы писали:


CB>>Здравствуйте, deniok, Вы писали:


D>>>В современном computer science, кстати, описывать формальную семантику программ — довольно распространенное явление.


CB>>Довольно распространенное явление? Не уверен. Не мог бы ты дать ссылку на формальную спецификацию программы, хотя бы в несколько KSLOC.


К>Ну самый явный пример — здесь.



Кирилл, а чем поможет формальная спецификация преобразования данных, на которую ты дал ссылку, при спецификации программ документооборота, склада или расчета траектории полета на Марс?
Про формальную спецификацию компиляторов я читал еще в прошлом веке (Маккиман, "Генератор компиляторов" 1980)
Re[8]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 08:05
Оценка: +1
Здравствуйте, D. Mon, Вы писали:

DM>"Науки бывают естественные и противоестественные".

DM>Биологию и социологию можно выразить языком формул математики и физики (впрочем, язык физики — та же математика, разница лишь в досадном наличии реальности, с которой требуется соотноситься для проверки истинности ). А насчет математической формализуемости литературоведения у меня есть большие сомнения.

Бытует мнение, что если в какой-то науке не получается заюзать математику, то это вроде бы и не наука. Вот народ и корячится, притягивая матиматику к тем областям знаний, в которых ей, в общем-то делать нечего. Чаще всего притягивают статистику, и притом делают это безграмотно и, в общем-то, бесполезно.

А ведь есть огромные области знаний, которые формализации вообще не поддаются так как исследуют слишком сложные объекты.
Возьмём, например, психологию. Чистое шаманство! Антинаука, по своей природе лишённая не только математических основ, но и вообще какой бы то ни было логики. Тем не менее, это одна из самых полезных для человечества отраслей знаний. Учителя математики, изучившего математику, но не овладевшего в совершенстве предметом "детская психология", к детям выпускать нельзя.
Re[10]: Несколько дурацких вопросов по теории информации
От: Курилка Россия http://kirya.narod.ru/
Дата: 23.01.09 08:21
Оценка:
Здравствуйте, craft-brother, Вы писали:

CB>Здравствуйте, Курилка, Вы писали:


К>>Здравствуйте, craft-brother, Вы писали:


CB>>>Здравствуйте, deniok, Вы писали:


D>>>>В современном computer science, кстати, описывать формальную семантику программ — довольно распространенное явление.


CB>>>Довольно распространенное явление? Не уверен. Не мог бы ты дать ссылку на формальную спецификацию программы, хотя бы в несколько KSLOC.


К>>Ну самый явный пример — здесь.



CB>Кирилл, а чем поможет формальная спецификация преобразования данных, на которую ты дал ссылку, при спецификации программ документооборота, склада или расчета траектории полета на Марс?

CB>Про формальную спецификацию компиляторов я читал еще в прошлом веке (Маккиман, "Генератор компиляторов" 1980)

Т.е. компилятор это не "программа хотя б в несколько KSLOC"?
Ну и цитата с приведённого сайта:

By ruling out the possibility of compiler-introduced bugs, verified compilers strengthen the guarantees that can be obtained by applying formal methods to source programs


Другое дело, что для программы складского учёта врядли будут использовать формальные доказательства, т.к. посчитают экономически не целесообразным (скорее всего). В отличии от военных и космических проектов (по-меньшей мере я так думаю).
Re[11]: Несколько дурацких вопросов по теории информации
От: craft-brother Россия  
Дата: 23.01.09 08:44
Оценка: +1
Здравствуйте, Курилка, Вы писали:


К>Т.е. компилятор это не "программа хотя б в несколько KSLOC"?

К>Ну и цитата с приведённого сайта:

К>

К>By ruling out the possibility of compiler-introduced bugs, verified compilers strengthen the guarantees that can be obtained by applying formal methods to source programs


К>Другое дело, что для программы складского учёта врядли будут использовать формальные доказательства, т.к. посчитают экономически не целесообразным (скорее всего). В отличии от военных и космических проектов (по-меньшей мере я так думаю).


ИМХО, проблема немного другая. Сгенерировать код по формальной спецификации не сложно. Сам не раз писал такие программы. Проблема в том, как создавать формальную спецификацию (если хочешь, DSL) для нетривиальной прикладной области.
Re[19]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 09:35
Оценка:
Здравствуйте, SergH, Вы писали:

SH>Употребляешь ты наркотики или нет -- тоже вопрос веры и определений


С чашкой кофе в руке трудно с этим спорить

SH>Я правильно понял твою версию: мозг конечно детерминирован, но всё вокруг такое чудесное и неожиданное, что в комплексе получается тоже чудесно и неожиданно?


Ага

Почти так. Мозг, конечно недетерминирован потому, что подвержен случайным воздействиям (радиация, инфекции, те же квантовые неопределённости). Но я уверен, что это не те воздействия, из которых извлекается информация. Это, скорее, факторы, с которыми приходится бороться.

Думаю, что проблема возникновения сознания на "аппаратной части" мозга не решена до сих пор именно потому, что она является чрезвычайно "многослойной": существует множество контекстов разного уровня, от которых нельзя абстрагироваться без ущерба для конечного результата.
Re[4]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 11:08
Оценка:
Здравствуйте, craft-brother, Вы писали:

CB>Исторически сложились две слабосвязанные ветви человеческого знания: технические (ну, это понятно) и гуманитарные (о жизни). Сегодня они пересеклись на понятии информация. Признание того, что не все можно описать уравнениями Новье-Стокса, Максвела, Шредингера и проч., конечно, досадно, но убежден, что без привлечения философии и психологии мы в понимании информации не продвинемся. И вовсе это не капитуляция. Вот.


Технические и гуманитарные науки наиболее плотно и восхитительно сливаются в экстазе в нашем любимом инфотехе. Именно мы перекладываем на "математику" (устаревший термин для того, что сейчас мы называем программным обеспечением) человеческие потребности, привычки, особенности восприятия, представления о прекрасном. И не удивительно, что потребность в более чётком понимании того, что такое есть "информация", наиболее остро зачесалась именно у нас.

CB>Да, пожалуйста . «Вы хочите ссылок? Их есть у меня!». Пиши в личку. Вопрос, что такое информация и с чем ее едят в программостроении крутиться в бекграунд процессе уже более 10 лет.


Как-нибудь чуть позже. Сейчас затарился чтивом на год вперёд.
Re[20]: Несколько дурацких вопросов по теории информации
От: SergH Россия  
Дата: 23.01.09 12:19
Оценка:
Здравствуйте, Voblin, Вы писали:

V>Почти так. Мозг, конечно недетерминирован потому, что подвержен случайным воздействиям (радиация, инфекции, те же квантовые неопределённости). Но я уверен, что это не те воздействия, из которых извлекается информация. Это, скорее, факторы, с которыми приходится бороться.


Выделил жирным ключевое место.

Это тоже вопрос веры. Ты считаешь, что это незначимые сигналы, я -- что как раз они-то и значимые, вот и вся разница. Боюсь, что ни одна из версий не опровержима, т.к., скажем, заблокировать квантовые эффекты мы не можем.
Делай что должно, и будь что будет
Re[8]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 13:12
Оценка:
Здравствуйте, goto, Вы писали:

G>По-моему, здесь (и где-то еще в этой ветке) напрашивается такое понятие, как воля. Поскольку слово это заезженное, то допустим, что это черный ящик, который позволяет выполнять преобразования более высокого уровня, чем алгоритм или рефлекс. Уровня недерминированного в механистическом смысле.


Ещё как напрашивается! Надо только попытаться понять как его более точно определить и применить.

Поведение живых существ существенно отличается от поведения неживых объектов тем, что поведение живых существ мотивировано. Этот мотив и является тем самым существенным элементом, который заставляет нежный живой росток пробиваться через толщу мёртвого асфальта.

Откуда берётся этот самый мотив?
Религиозный человек скажет, что в живые существа подчиняются слову Божьему "Плодитесь и размножайтесь". Атеист скажет, что это результат эволюции (в самом деле, ведь все предки этого самого ростка выжили и дали потомство только потому, что упорно росли не вниз и не в бок, а именно вверх). Какая из этих двух формулировок является правильной, для наших размышлений о природе информации совершенно не важно. Они эквивалентны так как из обоих этих формулировок следует, что все живые существа непременно имеют механизмы, заставляющие их действовать не так, как "энергетически выгодно" действовать здесь и сейчас, а так, как диктуют некие причины "высшего порядка". Заяц, бегущий от волка в гору, преодолевая силу гравитации с помощью сложнейшего и тончайшего комплекса физических процессов именно потому, что причина "высшего порядка" в данном случае оказывается сильнее силы гравитации.

Может ли поведение неживых объектов тоже быть мотивированным? Запросто! В частности, наделить мотивацией неживой предмет может создатель этого предмета (уже не "Создатель", а именно "создатель"). Конструктор туалетного бачка зарабатывает себе на хлеб насущный (это его, конструктора, мотивация) тем, что стоя у кульмана, повелевает бачку наполняться, когда пуст, и опустошаться, когда укажут, и так во веки веков. Артефакты, создаваемые человеком, всегда создаются им с какой-то целью, и поэтому тоже получают "божью искру".

Кстати, не только люди целенаправленно создают предметы. Животные тоже, например, роют норки, вьют гнёзда. Бобры даже вон плотины строят. Выходит, и эти объекты тоже косвенно получают свою долю "искры божьей". Брёвна в бобровой плотине противостоят напору воды, потому что так специально сделано бобром.

Как же это всё вышеизложенное соотносится с понятием информации? Довольно просто. Мы уже понимаем, что такое мотивированное поведение и понимаем, что оно есть во всём, созданном как человеком, так и природой. Мы понимаем, что мотивированное поведение непременно нарушает закон возрастания энтропии. А от уменьшения энтропии уже один шаг к классическому определению информации.
Ура, товарищи
Re[21]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 13:22
Оценка:
Здравствуйте, SergH, Вы писали:

SH>Это тоже вопрос веры. Ты считаешь, что это незначимые сигналы, я -- что как раз они-то и значимые, вот и вся разница. Боюсь, что ни одна из версий не опровержима, т.к., скажем, заблокировать квантовые эффекты мы не можем.


Собственно поэтому гипотеза об извлечении информации из квантов не проходит по критерию Поппера и, следовательно, она ненаучна.
Re[22]: Несколько дурацких вопросов по теории информации
От: SergH Россия  
Дата: 23.01.09 13:24
Оценка:
Здравствуйте, Voblin, Вы писали:

V>Собственно поэтому гипотеза об извлечении информации из квантов не проходит по критерию Поппера и, следовательно, она ненаучна.


Так же как и гипотеза о том, что "это не те воздействия, из которых извлекается информация. Это, скорее, факторы, с которыми приходится бороться."
Делай что должно, и будь что будет
Re[23]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 13:34
Оценка:
Здравствуйте, SergH, Вы писали:

V>>Собственно поэтому гипотеза об извлечении информации из квантов не проходит по критерию Поппера и, следовательно, она ненаучна.

SH>Так же как и гипотеза о том, что "это не те воздействия, из которых извлекается информация. Это, скорее, факторы, с которыми приходится бороться."

А вот и нет. Мою гипотезу в принципе можно опровергнуть экспериментально. Для этого достаточно лишь изготовить "квантового оракула", который будет выдавать сведения, не следующие из доступной ему информации.
Re[24]: Несколько дурацких вопросов по теории информации
От: SergH Россия  
Дата: 23.01.09 13:39
Оценка:
Здравствуйте, Voblin, Вы писали:

V>А вот и нет. Мою гипотезу в принципе можно опровергнуть экспериментально. Для этого достаточно лишь изготовить "квантового оракула", который будет выдавать сведения, не следующие из доступной ему информации.


Определи понятие "сведения"
Раз уж ты собрался ставить эксперимент.

Да, и я не Поппер, меня не волнует "в принципе". Меня интересует "практически".
Делай что должно, и будь что будет
Re[25]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 14:02
Оценка:
Здравствуйте, SergH, Вы писали:

SH>Определи понятие "сведения"

SH>Раз уж ты собрался ставить эксперимент.

Хотел написать "информация", но рука дрогнула. Чтобы не возникло соблазна выдать за результат последовательность случайных чисел.

Кстати, о сути эксперимента, который меня бы убедил: телевизор, показывающий завтрашнюю программу новостей — подойдёт
Re[26]: Несколько дурацких вопросов по теории информации
От: SergH Россия  
Дата: 23.01.09 14:11
Оценка:
Здравствуйте, Voblin, Вы писали:

V>Хотел написать "информация", но рука дрогнула. Чтобы не возникло соблазна выдать за результат последовательность случайных чисел.


Т.е. так и не определил?

V>Кстати, о сути эксперимента, который меня бы убедил: телевизор, показывающий завтрашнюю программу новостей — подойдёт


Во-первых, это можно проще сделать.
Во-вторых, этот эффект может быть принципиально недостижим -- в любой парадигме. Я ничего не говорил про пророчество, да ещё и с такой точностью. Пенроуз, скорее всего, тоже.

А граф Лев Толстой, сгенерировавший "Войну и Мир" точно не подходит, да? По каким критериям ты определил, что содержащиеся в романе "сведения" (как бы ты ни определил это понятие) не "новые"?
Делай что должно, и будь что будет
Re[27]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 14:36
Оценка:
Здравствуйте, SergH, Вы писали:

V>>Хотел написать "информация", но рука дрогнула. Чтобы не возникло соблазна выдать за результат последовательность случайных чисел.

SH>Т.е. так и не определил?

Вчерне (для этого эксперимента) можно определить так: сигнал, уменьшающий неопределённость сведений об исследуемом объекте.

SH>Во-вторых, этот эффект может быть принципиально недостижим -- в любой парадигме.


ОК. Фиг с ним, с "завтрашним" телевизором. Это действительно крутовато. Какая-нибудь нерешаемая задача тоже подойдёт. Мало их что ли, доказанно нерешаемых задач?

SH>А граф Лев Толстой, сгенерировавший "Войну и Мир" точно не подходит, да? По каким критериям ты определил, что содержащиеся в романе "сведения" (как бы ты ни определил это понятие) не "новые"?


Точно не подходит. Льва Николаевича никто ещё не воспроизвёл в независимом эксперименте.
Re[28]: Несколько дурацких вопросов по теории информации
От: SergH Россия  
Дата: 23.01.09 15:17
Оценка:
Здравствуйте, Voblin, Вы писали:

V>Вчерне (для этого эксперимента) можно определить так: сигнал, уменьшающий неопределённость сведений об исследуемом объекте.


Определил понятия "сведения" через них же самих? И не поспоришь
Ещё я бы спросил что такое "неопределённость сведений". И когда она уменьшается. Например, я тебе говорю: курс доллара на завтра 32,8926. Насколько уменьшилась твоя неопределённость?

V> Какая-нибудь нерешаемая задача тоже подойдёт. Мало их что ли, доказанно нерешаемых задач?


Например?

SH>>А граф Лев Толстой, сгенерировавший "Войну и Мир" точно не подходит, да? По каким критериям ты определил, что содержащиеся в романе "сведения" (как бы ты ни определил это понятие) не "новые"?


V>Точно не подходит. Льва Николаевича никто ещё не воспроизвёл в независимом эксперименте.


А критерий? Без критерия эксперимент не поставить.

А тут вообще плохо с экспериментами. Эксперимент он же одно и тоже должен показывать, чтобы воспроизводиться? Ну вот, второй раз это будут уже не очень новые сведения, они не уменьшат твою неопределённость (что бы ни значило это словосочетание).

Чудеса на поток не ставятся Они вызывают разовые отклонения вероятностей от статистических... вычисленных не экспериментально, а по теоретической модели, без учёта чудес
Делай что должно, и будь что будет
Re[29]: Несколько дурацких вопросов по теории информации
От: Voblin Россия http://maslyaew.narod.ru/
Дата: 23.01.09 16:46
Оценка:
Здравствуйте, SergH, Вы писали:

SH>Определил понятия "сведения" через них же самих? И не поспоришь


В принципе, в качестве определения того, что хотелось бы почерпнуть из "квантового оракула", годится любое определение информации, исключающее из рассмотрения последовательность случайных чисел. Например:
  • Винеровское: «Информация — это обозначение содержания, черпаемого нами из внешнего мира в процессе нашего приспособления к нему и приведения в соответствии с ним нашего мышления»
  • Шенноновское: «Информация — это то, что устраняет неопределенность выбора»

    V>> Какая-нибудь нерешаемая задача тоже подойдёт. Мало их что ли, доказанно нерешаемых задач?

    SH>Например?

    Ну, не знаю... Может, проблема остановки машины Тьюринга или десятая проблема Гильберта. Что там ещё у нас не имеет алгоритмического решения?

    SH>А критерий? Без критерия эксперимент не поставить.


    Физики-экспериментаторы лучше меня расскажут о том, как оценивать статистическую достоверность результатов эксперимента. И как важна воспроизводимость результатов.

    SH>А тут вообще плохо с экспериментами. Эксперимент он же одно и тоже должен показывать, чтобы воспроизводиться? Ну вот, второй раз это будут уже не очень новые сведения, они не уменьшат твою неопределённость (что бы ни значило это словосочетание).


    Во второй раз они уменьшат неопределённость относительно чего-нибудь другого (например, завтра "завтрашний телевизор" покажет послезавтрашние новости). В чём проблема?

    SH>Чудеса на поток не ставятся Они вызывают разовые отклонения вероятностей от статистических... вычисленных не экспериментально, а по теоретической модели, без учёта чудес


    Не надо никаких чудес! Нужно просто получение новой информации!

    Если, согласно гипотезе, по миру ходят миллиарды субъектов, постоянно извлекающие "из квантов" бурные потоки новой информации, то почему принципиально нельзя создать установку, вытаскивающую из этих самых квантов хотя бы один жалкий бит в час?
  • Re[30]: Несколько дурацких вопросов по теории информации
    От: nikov США http://www.linkedin.com/in/nikov
    Дата: 23.01.09 17:18
    Оценка:
    Здравствуйте, Voblin, Вы писали:

    V>Ну, не знаю... Может, проблема остановки машины Тьюринга или десятая проблема Гильберта. Что там ещё у нас не имеет алгоритмического решения?


    По поводу десятой проблем Гильберта. Нету алгоритма, который мог бы дать ответ о наличии решений для всех диофантовых уравнений. Но для любого конечного множества уравнений (и для некоторых бесконечных) существует алгоритм, который дает ответ о наличии решений для всех уравнений из этого множества.
    Как будем оракула тестировать? Прогонять через все диофантовы уравнения?
    То же самое с остановкой машины Тьюринга.
    Re[30]: Несколько дурацких вопросов по теории информации
    От: nikov США http://www.linkedin.com/in/nikov
    Дата: 23.01.09 17:21
    Оценка:
    Здравствуйте, Voblin, Вы писали:

    V>Если, согласно гипотезе, по миру ходят миллиарды субъектов, постоянно извлекающие "из квантов" бурные потоки новой информации, то почему принципиально нельзя создать установку, вытаскивающую из этих самых квантов хотя бы один жалкий бит в час?


    Погоди-ка. Вот ты смотришь на что-то, как ты различаешь, это субъект или установка? И какое значение это различие несет для эксперимента?
    Подождите ...
    Wait...
    Пока на собственное сообщение не было ответов, его можно удалить.