Здравствуйте, kov_serg, Вы писали:

_>Решение задачи это получение из входных данных некоторых выходных значений. При этом расходуется время и энергия.
_>Причем тут команды?

Если в этом ракурсе оценивать — то можно посчитать количество правил преобразования данных. Обычно эти правила мы описываем на неком ЯП с помощью команд.

S>>К примеру, у человека даже аппендикс, как оказалось, выполняет некую полезную функцию.
_>И сколько команд в секунду выполняет аппендикс?

Команды имелись в виду — это как способ описать систему, а не то что делает система.

Описывать аппендикс нужно на язке генетического кода. Сколько там триплет занято его описанием — понятия не имею, думаю что около сотни триплет. Убери из ДНК эту сотню триплет — и получится человек без аппендикса, что скажется на его функционале, хотя работать будет. Если убрать тот код, который овечает за печень — то работать вообще не будет — чел. не сможет жить.

S>>Можно легко нагенерить кода, который не улучшает способности системы решать задачу, но при этом увеличивает сложность.
_>Для решения задачи не обязателен код, нужен решатель.

Так вот решатель и исполняет некий код или, сказать иначе, правила преобразования. Нейросеть не исключение — там каждый нейрон — это тоже набор неких правил для преобразования входящих данных в исходящие.

S>>Что значит "шел в разнос"?
_>Например: z[n+1]=f(z[n])
_>если |f(z)|<=1 при |z|<=1 то функцию можно применить бесконечное число раз, геометрически наращивая сложность.

А привести пример такой функции вы можете?

S>>Меня интересуют практические исследования и наработки:

S>>1. Доказано ли вообще, что некая система может порождать полезную сложность выше самой себя? Где можно увидеть такую систему?
_>Снячало определите что токое полезная сложность. Любая система с простыми правилами взаимодействия своих частей порождает более сложную. В чем проблемма?

Сложность, если говорим о вычислительной системе, — это количество правил преобразования данных. Атомарные правила можно выбрать условно (пусть совпадает с теми, что реализованы на современных процессорах, т.е. арифметические преобразования и пр.).

Если выразить эти правила на ЯП — то получаем некий набор операторов/команд. Можно и в этой системе оценивать.

Для нейронной сети — каждый нейрон хранит некие правила (нужно детально смотреть что за сеть и сколько правил преобразования в среднем хранит нейрон), как и архитектура описывает некие правила преобразования данных.

S>>2. Лимитируется ли сложность, т.е. стремится ли она к некому пределу?
_>Да есть физические ограничения. В конце концов получаем черную дыру.

Я выше уточнил — речь не о физических ресурсах а именно о вычислительном лимите. Так, среда Avida уприрается в некий лимит сложности моделирования. Или же нейронная сеть решает задачу при определенном количестве нейронов и их структуре, при этом повышение количества нейронов не помогают решить задачу лучше.