Форум 'Философия программирования' на RSDN

Самый успешный проект в истории человечества

Sun, 22 Mar 2026 12:11:32 GMT

Вначале был LLM. Точнее статья 2017 года, attention all you need. Хрень которая умеет распареллеливать вычисления и обрабатывать текст как массив знаний. Затем идея что если мы обучим сеть продолжать предложения, то на текст он будет отвечать текстом. Внезапно оказалось, что на вопрос — LLM создает наиболее вероятный ответ. Так называемый — zero shot. Немного химии и дообучения и появился ChatGPT. Первый ChatGPT появился ноябрь 2022. Фактически 4 с половиной года назад. В него стали пихать больше знаний и процессоров, он становился умнее и умнее. Потом оказалось что если давать несколько примеров (few shot) то LLM отвечает вернее. Потом придумали технологию Function Calling чтобы LLM могла получать дополнительную информацию.
Где-то в 2024 году началась эра агентов. Это когда программист программирует процесс, создает промпт LLM, дает инструменты, и LLM сама решает как выполнить эту задачу.

«Это крупнейший, самый популярный и самый успешный проект с открытым исходным кодом в истории человечества. Это определенно следующий ChatGPT»

(с) Генеральный директор NVideо
https://expert.ru/news/glava-nvidia-nazval-ii-startap-openclaw-novym-chatgpt/

В ноябре 2025 года — первый проект
В январе 2026 года — появилось название
В марте 2026 — самое скачиваемое приложение из github

Ребята сделали классную вещь. Они дали возможность выполнять команда bash, использовать браузер, интеграция с телеграммами, whatsup, discord и другими экстремисткими программами запрещенными российским гражданам. И есть один обязательный инструмент — create_skill. Технические подробности — опущу. По сути это запрограммируй себя. OpenClaw может сам себя программировать, настраивать свою идентификацию редактируя файл с говорящим названием SOUL.md. Может настраивать новые уникальные задачи, можно попросить зайти на страницу и заказать билеты, отследить публикации, посмотреть текущие pull request. Безусловно есть отлаженные skill в частности https://www.skillhub.club/ но сама концепция самопрограммирования. И главное — она успешная.

Время жизни OpenClaw несколько месяцев. Время прогресса сжимается. Что будет в конце года?

update: Вот фирмы разработчиков берут деньги за предложение и автоматизацию сценариев. А тут сценарии придумывает пользователь. С чего деньги брать?

Зачем ИИ домысливает ?

Tue, 10 Mar 2026 15:22:18 GMT

Решил я поискать, что есть в сети обо мне на раннем этапе моей карьеры — студента — химика и аспиранта — химика. Вывели меня на ИИ (от Гугла), ну я его и попытал.

Сначала хотел просто процитировать, что он на мои вопросы ответил, но это было бы длинно и неинтересно. Поэтому лишь краткое резюме.

Начал я с того. что спросил о своем участии во всесоюзной олимпиаде студентов по химии 1976 года. Думал, что ничего не ответит. К удивлению, ответил, и почти правильно — лишь сказал, что занял я второе место, а в действительности было третье. Это-то ладно, но вот почему-то меня произвел в студенты ФЕН НГУ и потом долго рассказывал о моей дальнейшей карьере в НГУ в качестве преподавателя и научного сотрудника. В действительности я был студентом Томского ГУ, а к НГУ никогда отношения не имел. Ну ладно, ошибиться по вопросу, в каком вузе я учился и какое место занял — грех небольшой, но зачем же было расписывать мою дальнейшую карьеру в НГУ, если я вообще к нему не имел отношения ?

Потом спросил о том, чем я занимался во времена аспирантуры. И тут он ответил. И годы аспирантуры правильно привел, и тематику. И названия моих статей правильно привел. Правда, ошибся в названиях журналов — якобы они опубликованы в "Известиях вузов". Между тем диссертацию я делал в институте АН СССР и статьи были в Известиях АН СССР, серия химическая. Дал даже название моей диссертации и автореферата, но тут уже вообще чистая фантазия — их нет в сети и ссылок на них нет. ИИ сам это название придумал.

Потом сообщил, что я работал в Омском ГУ. Верно, работал. Вот только почему-то заявил, что преподавал я на химическом факультете и занимался научной работой в области физической и аналитической химии. Между тем работал я на математическом факультете, вел программирование, а к своей химической тематике с момента прихода в ОмГУ никогда не возвращался. А уж к аналитической химии после 2 курса вообще отношения не имел.

Причем живо все это описал. Чуть ли не в классика меня превратил — в тех областях, где я или вообще не работал, или где моя роль весьма умеренная. Договорился до того, что мои результаты попали в какие-то справочники по химии, где и пребывают. Между тем мои работы времен аспирантуры ни для какого справочника не годятся — в них нет данных, которые можно поместить в справочники.

Общий вывод — сочетание вполне достоверных данных с домысливанием (чтобы не сказать больше). Там где можно найти достоверные данные — он их приводит, иногда с простительными искажениями. Хотя и непонятно, зачем искажать. Привести правильно год журнала, номер тома и страницы, название статьи и дать название другого журнала — зачем ?

В остальном же буйный полет фантазии — домысливает по принципу "если мы о нем вот это знаем, то что бы еще могло быть ? Вот такое могло бы. Могло. Ну значит, оно и было".

Был он студентом НГУ ? Был (по его мнению. в действительности не был). Ну значит, мог быть потом там же научным сотрудником. Чем занимался там ? Сейчас придумаем.
Делал он диссертацию ? Делал. Значит, должен был быть автореферат. Названия его найти не удалось, не беда. Сейчас придумаем это название по аналогии с названиями его статей.
Был он аспирантом вуза ? Да. Ну значит, и публиковался в Известиях вузов.
Работал он потом преподавателем в ОмГУ ? Да. Он же химик ? Да. Ну , значит, и преподавал на химическом факультете в той же области химии, которой занимался в аспирантуре.

В итоге получилась вольная фантазия, где правда так перемешана с домыслами, что кому-то, ничего не знающему обо мне, отличить одно от другого практически невозможно. Поэтому общая ценность всего этого равна 0. Тут не ложка дегтя, которая портит бочку меда, тут в бочке половина меда и половина дегтя, хорошо перемешанные.

Что это — его родимое пятно ? Надеяться на то, что со временем станет лучше, в этом случае не приходится. Новых данных о ранних годах моей карьеры не появится, скорее всего. Так что дообучиться он не сможет, не на чем. Поэтому вопрос не в том, что он какие-то данные не учел, а в том, что он вольно нафантазировал там, где всего лишь нужно было сказать "не знаю".

Он когда-нибудь так фантазировать перестанет ?

И еще рассуждения об ИИ

Sat, 31 Jan 2026 07:44:55 GMT

Во-первых, ограничимся достаточно узкой областью. Какой-нибудь open source фреймворк.

Что тут вообще может делать интеллект, неважно какой.

1. Освоить имеющийся материал по этому фреймворку
2. Применить эти знания на практике, то есть сделать код с использованием его для конкретной задачи
3. Дать свои рекомендации по внесению изменений в него, не делая эти изменения. Какие-то новые идеи высказать, например, или хотя бы улучшения предложить.
4. Разработать свой код в качестве contibutor и предложить pull request
5. Принять этот pull request (или отвергнуть его)
6. Внести изменения в release и сделать следующую версию.

ЕИ все это может. Разумеется, разные представители ЕИ

Ну ладно, (6) мы пока ИИ не поручим

(1) — (2) ИИ вроде как может.

Может ли он (3) — (5) ? Если сейчас не может — сможет ли ?

Иными словами, сможет он стать разработчиком нового или останется только компилятором существующего ?

Multithreading: как очередь, но вручную и красиво?

Thu, 15 Jan 2026 09:56:40 GMT

Периодически возникает при многонитевом построении примерно следующий "паттерн": есть элемент состояния/управления (как очередь заданий), который требует контролируемого взаимодействия с помощью лока и "условной переменной". Но чтобы на время выполнения задания не блокировать тех, кто хочет установить следующее задание, лок снимается на это время. Получается следующая схема:

## Псевдокод в стиле Python
with self.lock: ## для C++ аналог -- захват лока в конструкторе
    while True:
        if not self.task: ## можно было и с предикатом, если кому удобнее читать
            self.cv.sleep()
            continue
        task = self.task
        self.task = None
        self.lock.release() ## начинается длительная операция
        try:
            self.execute(task)
        except Exception:
            ... пожаловались ...
        self.lock.acquire()

Мне не нравится в нём именно "ручное" освобождение и последующее занятие лока вокруг длительной работы. RAII или with-оператор придумали не просто так, если есть возможность взвалить контроль на них, то лучше этим воспользоваться.

Можно было бы просто перевести на очередь. Но бывает, что при этом ещё и какие-то элементы статуса отдаются обратно, или воздействие от управляющего метода более сложное. И если может быть поставлено не более одного задания, то делать это в виде очереди, ограниченной одним элементом, тоже как-то странно. Ещё бывают собственные idle операции, а ждать чтения из очереди с таймаутом не всегда возможно.

Какие есть варианты сделать это красиво без подобных ручных плясок?

Некоторые размышления об ИИ

Sat, 13 Dec 2025 13:45:06 GMT

Почему не в форум об ИИ — там в основном специальные вопросы, а это обсуждение общего плана.

Интеллект это или не интеллект — вопрос скорее философский. В общем, можно сказать, что это нечто, отчасти похожее на человеческий интеллект, но и существенно от него отличающееся. Тут можно многое сказать, но не буду.

Если считать его все же интеллектом, то вполне логично сравнить его с естественным интеллектом (ЕИ). И вот тут обнаруживаются существенные различия организационного характера.

Носители ЕИ, как правило, являются специалистами в одной, реже нескольких областях. Их знания в других областях поверхностны, и, как правило, не годятся для того, чтобы сделать серьезные экспертные заключения. За примерами ходить далеко не надо. Тут все более или менее являются специалистами в ИТ и могут дать компетентное заключение по какому-то вопросу, но послушаешь, что они высказывают в непрофильных форумах, например, по экономике — порой волосы становятся дыбом и уши вянут. И уж никакой серьезный экономист в здравом уме и твердой памяти не станет руководствоваться их высказываниями по экономике.

Более того. ЕИ (если конечно, речь не идет о личностях вроде Ноздрева) по большинству вопросов вне своей сферы компетенции даст ответ — не знаю. Ну действительно, что Вы можете ответить на узкоспециальный вопрос, скажем, по гетерогенному катализу ? Только одно — не знаю. Я как химик по образованию когда-то что-то знал, но давно забыл, так что и мой ответ, скорее всего, будет таким же.

Второй отличительный признак ЕИ — он децентрализован. Отдельные люди и являются его носителями, и их интеллект каким-то не вполне понятным образом и решает возникающие проблемы, дает ответ. С довольно высокой скоростью. Каналы же связи между носителями ЕИ имеют довольно низкую пропускную способность, как минимум не сравнимую с пропускной способностью внутренних интерфейсов ЕИ. Если необходимо получить ответ на вопрос, затрагивающий несколько сфер деятельности, то для ЕИ это приведет к созданию некоторой системы взаимодействующих ЕИ, являющихся специалистами в разных областях. Проще говоря, соберут совещание, на которое пригласят специалистов разного профиля, и они совместными усилиями будут пытаться решить эту проблему. При этом каждый участник , несомненно, будет хорошо понимать , что он сам говорит на эту тему и никаких недопониманий себя с самим собой не будет, а вот недопонимания и разногласия при взаимодействии участников будут почти обязательно, и их "утрясание" может занять большое время. За примерами опять же далеко ходить не надо — достаточно почитать дискуссии здесь на какую-то тему.

С ИИ все обстоит иначе. Он универсален и готов ответить на любой вопрос. А поскольку нельзя объять необъятное, то он начинает фантазировать, скрещивая данные из самых разных источников, и как результат, часто попадая впросак. Универсальный же ЕИ существует только в произведениях фантастов (вроде Лемовского Соляриса), реально его нет.

Может быть, в этом и (отчасти) кроются некоторые проблемы , связанные с ИИ ? Может быть, будь он организован иначе, эти проблемы бы ушли ?

Представьте себе, что ИИ организован по-другому. Вместо универсального ChatGPT или DeepSeek имеется большое количество узкоспециализированных ИИ, но таких, которые очень хорошо ориентируются в своей области, так что на вопрос, относящийся к ней они дают всегда или почти всегда правильный ответ, а если вопрос выходит за пределы их компетенции — пытаются определить, к компетенции какого другого ИИ он относится и передаю вопрос ему. Иными словами, ведут себя как люди в этом плане. "Я в этой области плохо разбираюсь, но знаю Ивана Петрова, который вроде в этом разбирается, спрошу его". Возможно, что Иван Петров тоже окажется не специалистом и передаст вопрос Петру Сидорову, а возможно, что в итоге будет собрано совещание с участием всех троих, и совместными усилиями они найдут ответ. Вот и для ИИ могло бы быть аналогично.

Ну и конечно, ИИ в данной области совсем не обязан быть в единственном экземпляре. Вполне можно допустить наличие нескольких экземпляров его, отличающихся заложенными для ответа данными или алгоритмами. Тогда окончательный ответ может быть дан путем "обсуждения" и последующего согласования ответов, данных отдельными экземплярами, либо же окончательный ответ будет сформулирован в виде "к сожалению, дать надежный ответ на этот вопрос не оказалось возможным, имеются разные точки зрения на то, что считать правильным". Возможно, что возникнет некоторая иерархическая система, в которой более авторитетные ИИ будет запрашивать мнение менее авторитетных и на основе их формировать окончательный ответ. В общем, как у ЕИ.

Это существенно изменит и саму модель ИИ как явления. Вместо одного универсального ИИ в огромном датацентре можно будет иметь сотни и тысячи (а может, сотни тысяч) специализированных ИИ, взаимодействующих между собой и расположенных на относительно некрупных серверах относительно небольших организаций.

Мне кажется, что ИИ сейчас проходит период развития, который можно назвать "очень большие и не слишком умные". Как динозавры. Или, если угодно, как ЭВМ до эпохи микропроцессоров и персональных компьютеров.

Что думаете ?

Unix-way универсален для нейрочипов?

Tue, 25 Nov 2025 08:46:37 GMT

Насколько универсальна Unix-философия и Unix-инструментарий (Unix-утилиты)?
Когда появятся нейрочипы и сознание пост-человека перетечёт в компьютеры, будет ли чиповая ОС в своих недрах содержать Unix-ядро, монолит или микроядро, не важно, важно для моего вопроса то, что будет или нет там набор Unix-утилит. Если да, то получается, изучая Unix-утилиты, можно будет уметь ковыряться в своих мозгах? Типа, смотреть tail мыслей. Или редачить воспоминания с помощью sed, что как-бы нельзя делать, но разработчики чипа забыли убрать sed из дистрибутива чип-ОС.

Список переходов в ДКА

Tue, 30 Sep 2025 19:40:28 GMT

Здравствуйте!

Наверное, в "Философию", хотя, вопрос всё же вполне практический.

Ковыряю генератор ДКА. Думаю, как описывать переходы между состояниями. Пока надумал примерно так:

Синтаксис описания переходов:

СписокИсхСостояний : СписокСобытий [? ДопУсловие] -> ЦелевоеСостояние [? ДопУсловие] [: СписокДействий] [- Описание];
где
  СписокИсхСостояний - Состояние1 [, Состояние2 [, Состояние3... ] ]
  СостояниеN         - * / Состояние / !Состояние
  СписокСобытий      - Событие1 [, Событие2 [, Событие3... ] ]
  СобытиеN           - * / Событие / !Событие
  СписокДействий     - Действие1 [, Действие2 [, Действие3... ] ]

'*' - означает любое состояние, для которого не задано перехода.
'!' (отрицание) - используется совместно с состоянием '*', и явно исключает
    генерацию перехода из этого состояния.

Аналогичная семантика используется при описании списка событий.

ДопУсловие - логическое выражение, состоящее из предикатов, операций '&', '|', '!'
и группроующих скобок.
ДопУсловие может располагаться либо после списка событий, либо после целевого состояния,
но только в одном из этих мест.

Ничего не забыл?

Вопрос — как сравнивать такие записи? И надо ли сравнивать? По идее, переходы могут пересекаться по условиям, и это нельзя. И хочется сразу отсечь проблемы. Или оставить на потом?

Для начала надо отсортировать по состояниям и переходам, сохраняя относительный порядок у переходов одного типа.

Сначала идут все переходы, у которых нет "звездочек" в исходных состояниях и в событиях перехода.
Потом — те переходы, у которых есть "звездочка", но есть исключения из звездочки, состояния/события с отрицанием (тут вопрос, что идёт раньше, "звездочка" в исх состояниях или "звездочка" в событиях?)
Потом — те переходы, у которых только одна звездочка.

Когда отсортировали, разбиваем эти сложные описания переходов на примитивные, когда у нас только одно исходное состояние и только одно событие перехода.
Потом применяем "звездочки" с исключениями.
Потом применяем чистые "звездочки".

Предложения, пожелания, критика?

Два несуществующих файла

Fri, 26 Sep 2025 17:11:48 GMT

Вот если мы сравниваем два нулевых указателя, то получаем true.
А вот если мы сравниваем два несуществующих файла, то функция их сравнения должна возвращать true или false?

Программа как договор :)

Sun, 22 Jun 2025 11:43:10 GMT

Наткнулся в канале одного умного человека на уподобление программы договору. Интересная точка зрения, мне раньше не попадалась.

Игорь Ашманов об влиянии ИИ на ИТ, общество, бизнес...

Thu, 12 Jun 2025 05:15:32 GMT

https://www.youtube.com/watch?v=kb9qKsiTfTw&ab_channel=%D0%90%D0%BB%D0%B5%D0%BA%D1%81%D0%B5%D0%B9%D0%A1%D0%B0%D0%B2%D0%B2%D0%B0%D1%82%D0%B5%D0%B5%D0%B2%D0%B8%D0%A0%D0%BE%D0%B4%D0%BD%D0%B0%D1%8F%D0%A8%D0%BA%D0%BE%D0%BB%D0%B0
Довольно любопытно.

«Искусственный интеллект понижает качество везде, где он дотягивается. Это я вам говорю, как профессиональный разработчик искусственного интеллекта»

«Есть проблема – об этом надо сказать. Люди с удовольствием становятся рабами роботов. Они с удовольствием отдают ответственность.
Как от этого, от этой проблемы защищаться – склонности людей передавать ответственность роботам?»

«У нас есть категория оголтелых цифровизаторов, которые рассказывают всем, в том числе самому главному начальнику, что цифровизация нас спасёт, что всё будет круто.
Пока мы знаем, что цифровизация привела к тому, что были совершены миллиарды звонков мошенников, которые украли сотни миллиардов рублей у наших граждан. Почему? Потому что утекли гигантские объёмы записей персональных данных»

«Человек очень склонен экономить энергию, особенно – мыслительную энергию. Все будут её экономить – значит, должны отупеть. Ну как – все уже отупели от смартфонов, от Гугла, от Википедии и так далее. Дальше будет сильно хуже»
...