Здравствуйте, Voblin, Вы писали:
V>Здравствуйте, depth, Вы писали:
D>>Я имел в виду, что можно попробовать взять и определить какой-то контекст навскидку и потом посмотреть, как он ложится в теорию. Например, создание, хранение и обработка информации человеком и компьютером (чтобы быть поближе к нашим баранам .
V>Навскидку — легко. Везде, где есть нечто, что можно трактовать как информацию, можно найти контекст, без которого это нечто представляет собой просто "так сложившуюся" комбинацию вещества и энергии. V>Примеры: V>1. Информация о наличии информации. Ты смотришь сейчас на экран. Зачем? Видимо, ты подозреваешь, что фотончики, прилетающие с этого направления, несут в себе какую-то информацию. Т.е. для того, чтобы считать информацию с сигнала, тебе нужна информация о том, что в этом сигнале информация может содержаться. V>2. Знаковая система. Ты сейчас читаешь текст на русском языке. Все используемые в этом тексте термины тебе знакомы. Если бы ты не знал русского языка, в этом тексте для тебя не было бы той информации, которую ты получаешь сейчас. V>3. И ещё куча всяких контекстов, характеризующих актуальность, полезность, достоверность информации.
Как мне кажется это слишком узкие контексты
Что если, например, сказать, что у меня есть глаза, уши, нос, руки и язык и поэтому я могу воспринимать соответствующую информацию. А потом добавить, что если я взаимодействую с компутером, то использую только глаза и уши, ну еще руки и язык для ввода информации (хотя верю, что скоро можно будет и запахами обмениваться по интернету . Тогда получается, что у меня есть зрительные и звуковые ощущения, которые в мозгу трансформируются в различную информацию. Применяя компьютерную терминологию (поскольку кодировка в человеческом мозгу неизвестна) эта информация, чтобы ей могли обмениваться человек и компьютер, может быть текстом, видео и звуком (ничего не забыл?). Есть у этого контекста новые свойства помимо тех общих, которые уже обсуждались?
V>Что касается "наших баранов", то у них тоже образуется очень мощное хитросплетение информации и контекстов. Например, для контроллера жёсткого диска EXEшник — всего лишь поток байт, который нужно передать в ОП, для процессора — поток команд, для обрабатываемых данных — контекст обработки данных, для HEX-редактора — сами обрабатываемые данные. А где-то внутри процессора сидит аналог машины Тьюринга — микропрограмма и железная логика, управляющие друг другом с сумасшедшей тактовой частотой.
Если рассматривать контекст взаимодействия человека и компьютера, то базовая "кодировка" информации в компьютере (традиционной архитектуры — это двоичный код, который может быть программным кодом и данными (ничего не забыл?). Для создания канала обмена с человеком эта информация трансформируется в зрительные образы на экране, звук и т.д.
Re[34]: Несколько дурацких вопросов по теории информации
Здравствуйте, Sinclair, Вы писали:
V>>Суть изначального замечания была в том, я не представляю, как этот непрерывный ряд снимать, что с ним потом делать, а самое главное — с какой целью? S>Твоя ошибка в том, что ты хочешь что-то зачем-то "снимать". Это всё равно что считать непрерывные сигналы заранее несуществуюшими — ты же всё равно его через цифровой датчик в компьютер втаскивать будешь
С аналоговым преобразованием не всё так просто. Реального разложения в гармонический ряд ты не получишь всё-равно, т.е. никакого разложения сигнала на интеграл Фурье не получишь, хоть тресни. При условии использования абсолютно прямоугольных полосовых фильтров в предложенной схеме мы лишь получим на каждом таком фильтре вместо бесконечного интеграла — конечный, от частоты min до max фильтра, то бишь получим банальную фильтрацию, вместо разложения. Можно, конечно, по результату фильтрации определить мощность сигнала в этой полосе — это всего лишь будет конечный интеграл в той же полосе от модуля аргумента исходного интеграла. Но ты никогда не восстановишь фазы составляющих, т.к. при аналоговой обработке в сколь угодно малой полосе может быть сколь угодно много частотных составляющих.
В общем, подобные схемы практически не используются, ну разве что кроме случаев совсем "грубых" требований, вроде детектора для цветомузыки.
V>>Ну нам же разложенный сигнал надо как-то принимать/обрабатывать? S>А в аналоговом случае ничего дискретного не нужно. Вот мы взяли исходный сигнал, применили к нему преобразователь Фурье в виде диф.решетки. Теперь у нас есть частотная характеристика — мы можем работать уже с ней. К примеру, поставим некий сложной формы фильтр. А после него — обратный преобразователь Фурье. Вот тебе аналоговое решение аналоговой задачи.
В отличие от преобразования Фурье по дискретным отсчетам, ты в этой схеме не восстановишь обратно эквивалентный сигнал. В цифровом виде сигнал точно восстанавливается обратно из-за Частоты Найквиста, в этом соль. Для аналогового решения это всё работает только в случае заведомо известной решетки частот (типа тонового набора), и то, на полосовых фильтрах аналоговые детекторы тонального набора всё-равно никогда не делали.
S>В аналоговой схеме просто все компоненты аналоговые.
Именно, ты правильно начал, но не закончил мысль. Как таковое преобразование Фурье в аналоговой схемотехнике не нужно и не используется. Иногда используется тот самый конечный интеграл по модулю аргумента — он имеет хоть какой-то "физический смысл" для аналоговой схемотехники (пример с цветомузыкой). Но это не тот самый интеграл, повторю, хоть мне здесь уже несколько раз указали на полосовые фильтры; это, ИМХО, от недопонимания.
Самое замечательное применение около-интегральной-фурье темы — это принципы построения обнаружителей сигнала, основанные на гармонической корреляции с ортогональными фазами. При своём элементарном схемотехническом исполнении, эта схема вычисляет проекции некоей гармоники, которые однозначно определяют её векторный вид. На этом построена чуть ли не вся сигналообрабатывающая схемотехника, от радарного детектирования, до ФМ (не путать с FM) при приёме цифрового сигнала, например в GSM.
S>В реальных схемах народ отжигает так, что только диву даешься — ведь есть не только линейные эффекты. К примеру, есть вполне удачные аналоговые схемы для построения сверхкоротких лазерных импульсов. Например, есть схема усиления сигнала, где сначала импульс искусственно растягивается, чтобы понизить мгновенную мощность до приемлемой для усилителя, затем усиливается, а затем сжимается обратно.
Занятно, но к обсуждаемой теме не относится.
S>Естественно, никаких "снятий непрерывного ряда" в середине нету — не бывает такой техники, чтобы с нужной скоростью работала.
Здравствуйте, vdimas, Вы писали:
V>С аналоговым преобразованием не всё так просто. Реального разложения в гармонический ряд ты не получишь всё-равно, т.е. никакого разложения сигнала на интеграл Фурье не получишь, хоть тресни.
Это почему еще? V> При условии использования абсолютно прямоугольных полосовых фильтров в предложенной схеме мы лишь получим на каждом таком фильтре вместо бесконечного интеграла — конечный, от частоты min до max фильтра, то бишь получим банальную фильтрацию, вместо разложения.
Слушай, ты точно видел призму?
V>В отличие от преобразования Фурье по дискретным отсчетам, ты в этой схеме не восстановишь обратно эквивалентный сигнал.
Восстановлю — только в путь. Просто полосовые фильтры, про которые ты толкуешь, это уже дискретка. Речь о true analog. V>Занятно, но к обсуждаемой теме не относится.
Это к полосовым фильтрам не относится. А к аналоговым преобразованиям — относится.
... << RSDN@Home 1.2.0 alpha rev. 677>>
Уйдемте отсюда, Румата! У вас слишком богатые погреба.
Re[7]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информац
Здравствуйте, Voblin, Вы писали:
SH>>Возможность создания контекста как признак жизни? Хотя, нейронные сети всякие...
V>Можно... А что значит "создавать контекст"?
Ну, мысль была в том, что процессор не обучается, а всё подряд воспринимает как команды, даже если не очень получается. А человек не так, он, если не получается, может попытаться изменить подход.
Делай что должно, и будь что будет
Re[9]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информац
Здравствуйте, SergH, Вы писали:
SH>Ну, мысль была в том, что процессор не обучается, а всё подряд воспринимает как команды, даже если не очень получается. А человек не так, он, если не получается, может попытаться изменить подход.
По-моему (и вроде не только по-моему) в этом корренное отличие ИИ от ЕИ: наш мозг способен к обучению, в отличие от компьютерных систем, система правил (комманд, алгоритмов) которых является замкнутой (правда может включать заметно больше этих правил чем может вместить человеческий мозг, ну и даже пополняемый набор всё-таки однотипных правил).
Re[10]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, Курилка, Вы писали:
К>По-моему (и вроде не только по-моему) в этом корренное отличие ИИ от ЕИ: наш мозг способен к обучению, в отличие от компьютерных систем, система правил (комманд, алгоритмов) которых является замкнутой (правда может включать заметно больше этих правил чем может вместить человеческий мозг, ну и даже пополняемый набор всё-таки однотипных правил).
Ну да, мне тоже так хотелось бы думать. Но как быть с нейронными сетями? Обучаются, сволочи, и иногда даже без учителя..
Делай что должно, и будь что будет
Re[11]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, SergH, Вы писали:
SH>Здравствуйте, Курилка, Вы писали:
К>>По-моему (и вроде не только по-моему) в этом корренное отличие ИИ от ЕИ: наш мозг способен к обучению, в отличие от компьютерных систем, система правил (комманд, алгоритмов) которых является замкнутой (правда может включать заметно больше этих правил чем может вместить человеческий мозг, ну и даже пополняемый набор всё-таки однотипных правил).
SH>Ну да, мне тоже так хотелось бы думать. Но как быть с нейронными сетями? Обучаются, сволочи, и иногда даже без учителя..
Насколько я понимаю у нейросетей в любом случае есть некая целевая функция, т.е. обучение опять же не может быть произвольным. Теоретически, конечно, можно представить сверхмощную нейросеть, которая будет обладать достаточной универсальностью, но насколько оно реализуемо на практике — просто не представляю, т.к. не особо в курсе чего там они добились за несколько десятков лет, сдаётся мне что не так чтоб грандиозных вершин, иначе бы я что-нибудь да услышал.
Re[12]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, Курилка, Вы писали:
К>Насколько я понимаю у нейросетей в любом случае есть некая целевая функция, т.е. обучение опять же не может быть произвольным. Теоретически, конечно, можно представить сверхмощную нейросеть, которая будет обладать достаточной универсальностью, но насколько оно реализуемо на практике — просто не представляю, т.к. не особо в курсе чего там они добились за несколько десятков лет, сдаётся мне что не так чтоб грандиозных вершин, иначе бы я что-нибудь да услышал.
Ну вот, т.е. такой простой границы не получается. Некое "ограниченное обучение" для ИИ допустимо. Вопрос, насколько неограничено наше и какая целевая функция у нас.
Например, гражданин Хомский отстаивает теорию, что грамматическая структура языка имеет врождённый характер и у всех одинаковая (насколько я понял то, что мне объясняли, сам я не лингвист).
Делай что должно, и будь что будет
Re[13]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, SergH, Вы писали:
SH>Ну вот, т.е. такой простой границы не получается. Некое "ограниченное обучение" для ИИ допустимо. Вопрос, насколько неограничено наше и какая целевая функция у нас.
Вот тут как раз гораздо больше простора для человека, т.к. целеполаганием пока что компьютеры не могут заниматься
Причём цель для комьпьютера формируется "снаружи", т.к. человек способен сам формировать свои цели (хотя не всегда так делает).
Он способен ставить ещё и метацели — цель "найти цель", т.е. "тривиальный" поиск смысла жизни.
SH>Например, гражданин Хомский отстаивает теорию, что грамматическая структура языка имеет врождённый характер и у всех одинаковая (насколько я понял то, что мне объясняли, сам я не лингвист).
Ты про гипотезу Сепира-Уорфа? Она вроде как раз о том, что разные языки дают разные результаты
Если о чём-то другом — кинь ссылкой.
А то, что бытие определяет сознание, то это врядли стоит оспаривать.
Re[14]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, Курилка, Вы писали:
К>Вот тут как раз гораздо больше простора для человека, т.к. целеполаганием пока что компьютеры не могут заниматься К>Причём цель для комьпьютера формируется "снаружи", т.к. человек способен сам формировать свои цели (хотя не всегда так делает). К>Он способен ставить ещё и метацели — цель "найти цель", т.е. "тривиальный" поиск смысла жизни.
Но, возможно, всё это делается в рамках скрытого от нас движения к цели, о которой мы не в курсе?
К>Ты про гипотезу Сепира-Уорфа? Она вроде как раз о том, что разные языки дают разные результаты
Не, я не о том, да и Хомский был чуть позже.
К>Если о чём-то другом — кинь ссылкой.
Я не могу дать ссылку на источник, мне сестра объясняла
Ну вот в вики что-то похожее есть:
Универсальная грамматика — термин, которым в ряде лингвистических теорий обозначается предполагаемый набор правил или принципов, присущих каждому человеческому языку. Подобные правила не определяют язык полностью: они допускают значительную вариантность, но ограничивают её некоторыми конечными рамками. В современной когнитивной науке универсальная грамматика понимается как встроенное на генетическом уровне знание о языке.
Здравствуйте, SergH, Вы писали:
SH>Здравствуйте, Курилка, Вы писали:
К>>Вот тут как раз гораздо больше простора для человека, т.к. целеполаганием пока что компьютеры не могут заниматься К>>Причём цель для комьпьютера формируется "снаружи", т.к. человек способен сам формировать свои цели (хотя не всегда так делает). К>>Он способен ставить ещё и метацели — цель "найти цель", т.е. "тривиальный" поиск смысла жизни.
SH>Но, возможно, всё это делается в рамках скрытого от нас движения к цели, о которой мы не в курсе?
Ну рассуждать о каких-нибудь "матрицах" и т.п. "высокуровневых" вещах непроверяемых (ониж вроде по определению вроде как выше нашего понимания) по-моему никакого смысла нет
Re[16]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, Курилка, Вы писали:
SH>>Но, возможно, всё это делается в рамках скрытого от нас движения к цели, о которой мы не в курсе?
К>Ну рассуждать о каких-нибудь "матрицах" и т.п. "высокуровневых" вещах непроверяемых (ониж вроде по определению вроде как выше нашего понимания) по-моему никакого смысла нет
Имхо, отрицать их, значит тоже рассуждать о них Или нет?
Делай что должно, и будь что будет
Re[17]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, SergH, Вы писали:
SH>Здравствуйте, Курилка, Вы писали:
SH>>>Но, возможно, всё это делается в рамках скрытого от нас движения к цели, о которой мы не в курсе?
К>>Ну рассуждать о каких-нибудь "матрицах" и т.п. "высокуровневых" вещах непроверяемых (ониж вроде по определению вроде как выше нашего понимания) по-моему никакого смысла нет
SH>Имхо, отрицать их, значит тоже рассуждать о них Или нет?
Ну никто вроде об отрицании не говорил
А пописать буквы ради самого процесса — это, безусловно, можно, но не сильно охота.
Re[18]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, Курилка, Вы писали:
К>Ну никто вроде об отрицании не говорил
Смотри, последовательность примерно такая:
— ты говоришь про обучение как отличие ЕИ от ИИ
— я говорю про нейронные сети
— ты говоришь про то, что они могут обучаться только очень ограниченно, а человеки -- без ограничений
— я сомневаюсь в последнем тезисе и поминаю целевую функцию
— ты говоришь, что человек как раз сам себе целеполагает
— я говорю, что это не факт
— ты говоришь, что говорить об этом не имеет смысла
Делай что должно, и будь что будет
Re[36]: Несколько дурацких вопросов по теории информации
Здравствуйте, Sinclair, Вы писали:
S>Здравствуйте, vdimas, Вы писали:
V>>С аналоговым преобразованием не всё так просто. Реального разложения в гармонический ряд ты не получишь всё-равно, т.е. никакого разложения сигнала на интеграл Фурье не получишь, хоть тресни. S>Это почему еще?
ХЗ как тебе объяснить. Любой аналоговый сигнал — это уже и есть тот самый интеграл Фурье. Т.е. сам интеграл его находить не надо.
Иногда интересна задача разложения этого интеграла (суть бесконечной суммы) на члены. В задачу разложения входит нахождение частот, амплитуд и фаз составляющих сигнал гармоник. В цифровом виде задача вполне решаема из-за массы ограничений:
1. частоты дискретизации, т.е. в цифровом виде не интересует весь сигнал, а только лишь во временных точках, соответствующим замерам в процессе дискретизации. Соотв., после восстановления при обратном преобразовании, гарантируется прохождение результирующей суммы ряда через эти самые отсчёты.
2. речь идёт о конечном временном отрезке, и, чем он меньше, тем "грубее" в цифровом виде проводится вычисление, т.е. тем больше имеем шаг дискретизации по частоте.
Итого, цифровое преобразование Фурье реально ищет не те частоты (произвольные в общем случае), из которых состоит исходный сигнал, а некую фиксированную решётку частот, при обратном преобразовании которая даёт на вычисляемом отрезке (и только на нём) совпадение с исходным сигналом в точках дискретизации.
В аналоговом виде разложение в ряд Фурье легко выполнимо для случая, когда сигнал представлен одной гармоникой, преобразователь такого рода — это просто измеритель частоты. Вполне решаема задача так же нахождения двух близкостоящих гармоник (когда сигнал состоит только из них), по формуле суммы синусов/косинусов получаем умножение разностной и средней частоты (первую замеряем как АМ-сигнал, вторую как ЧМ-сигнал). Если же близкостоящих гармоник более 2-х, то выполнить разложение в аналоговом варианте просто нереально.
V>> При условии использования абсолютно прямоугольных полосовых фильтров в предложенной схеме мы лишь получим на каждом таком фильтре вместо бесконечного интеграла — конечный, от частоты min до max фильтра, то бишь получим банальную фильтрацию, вместо разложения. S>Слушай, ты точно видел призму?
Про призму уже отвечал — покажи мне преобразователь спектра из электрического в спектр световой с сохранением хоть какой-то пропорциональности (то бишь линейности). В аналоговом виде задача даже просто масштабирования спектра электрического сигнала пока не решена, возможен только перенос без масштабирования, что в области световых частот (если бы был возможен такой перенос) сделает "далеко стоящие" гармоники на радиочастотах практически неразличимыми в области световых частот (относительная ширина спектра при переносе вверх уменьшается).
V>>В отличие от преобразования Фурье по дискретным отсчетам, ты в этой схеме не восстановишь обратно эквивалентный сигнал. S>Восстановлю — только в путь. Просто полосовые фильтры, про которые ты толкуешь, это уже дискретка. Речь о true analog.
Тогда можно на пальцах, каким образом?
Re[7]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информац
Здравствуйте, depth, Вы писали:
D>Что если, например, сказать, что у меня есть глаза, уши, нос, руки и язык и поэтому я могу воспринимать соответствующую информацию.
Я бы сказал не так. У тебя есть глаза, уши и нос и поэтому ты можешь принимать визуальные, звуковые и химические сигналы. А информацией они становятся потому, что у тебя есть мозг, который может поместить эти сигналы в контекст.
D>Применяя компьютерную терминологию (поскольку кодировка в человеческом мозгу неизвестна) эта информация, чтобы ей могли обмениваться человек и компьютер, может быть текстом, видео и звуком (ничего не забыл?).
Это по форме. По сути же может быть что угодно.
D>Если рассматривать контекст взаимодействия человека и компьютера...
Стоп. Человек взаимодействует с компьютером только когда он изучает/меняет этот самый компьютер и его содержимое (например, патчит KDE на FreeBSD). В большинстве случаев человек взаимодействует с людьми через компьютер. А там уже свои, чисто человеческие контексты.
Re[19]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информа
Здравствуйте, SergH, Вы писали:
SH>Здравствуйте, Курилка, Вы писали:
К>>Ну никто вроде об отрицании не говорил
SH>Смотри, последовательность примерно такая: SH>- ты говоришь про обучение как отличие ЕИ от ИИ SH>- я говорю про нейронные сети SH>- ты говоришь про то, что они могут обучаться только очень ограниченно, а человеки -- без ограничений SH>- я сомневаюсь в последнем тезисе и поминаю целевую функцию SH>- ты говоришь, что человек как раз сам себе целеполагает SH>- я говорю, что это не факт
Только без аргументации, типа их не может быть, мы ведь не понимаем это... SH>- ты говоришь, что говорить об этом не имеет смысла
А какой смысл рассматривать нефасальсифицируемые гипотезы? Если только по приколу, в реальности же от них толку маловато
И где тут отрицание?
Re: Несколько дурацких вопросов по теории информации
Здравствуйте, Voblin, Вы писали:
V>С удивлением обнаружил, что не смотря на то, что вспахиваю ниву информационных технологий, о самом понятии "информация" имею довольно мутные представления.
Может кто-то уже предлагал, но всеже вот:
ИНФОРМАЦИЯ (от лат . informatio — разъяснение, изложение), первоначальная — сведения, передаваемые людьми устным, письменным или другим способом (с помощью условных сигналов, технических средств и т. д.); с сер. 20 в. общенаучное понятие, включающее обмен сведениями между людьми, человеком и автоматом, автоматом и автоматом; обмен сигналами в животном и растительном мире; передачу признаков от клетки к клетке, от организма к организму (см. Генетическая информация); одно из основных понятий кибернетики.
Re[8]: ИТОГИ ОБСУЖДЕНИЯ дурацких вопросов по теории информац
Здравствуйте, Voblin, Вы писали:
V>Здравствуйте, depth, Вы писали:
D>>Что если, например, сказать, что у меня есть глаза, уши, нос, руки и язык и поэтому я могу воспринимать соответствующую информацию.
V>Я бы сказал не так. У тебя есть глаза, уши и нос и поэтому ты можешь принимать визуальные, звуковые и химические сигналы. А информацией они становятся потому, что у тебя есть мозг, который может поместить эти сигналы в контекст.
Шаг преобразования мозгом сигналов в информацию я пропустил (чтобы особо не расписываться), хотя и подразумевал
D>>Применяя компьютерную терминологию (поскольку кодировка в человеческом мозгу неизвестна) эта информация, чтобы ей могли обмениваться человек и компьютер, может быть текстом, видео и звуком (ничего не забыл?).
V>Это по форме. По сути же может быть что угодно.
Мне все-таки кажется, что это свойство контекста или канала (а значит, возможно, св-во информации) — кодирование информации, соглашение о протоколе. Здесь возникает и, судя по всему, не в первый раз вопрос, есть ли у компьютера информационный контекст?
D>>Если рассматривать контекст взаимодействия человека и компьютера...
V>Стоп. Человек взаимодействует с компьютером только когда он изучает/меняет этот самый компьютер и его содержимое (например, патчит KDE на FreeBSD). В большинстве случаев человек взаимодействует с людьми через компьютер. А там уже свои, чисто человеческие контексты.
Согласен, но чтобы пояснить свою позицию первый предложенный use case был:
1. Контекст 1 (человек) — канал обмена — Контекст 2 (компьютер). Вопрос: можно ли считать, что у компутера есть контекст?
теперь мы пришли к тому, что не нужно забывать о
2. Контекст 1 (человек) — канал обмена — Контекст 2 (компутер) — канал обмена — Контекст 3 (человек 2). Если у компутера нет контекста, то тогда его надо считать каналом?
и пожалуй сразу надо упомянуть (как один из самых важных)
3. Контекст 1 (человек 1) — канал обмена (например, личное общение) — Контекст 2 (человек 2).
.
