Возьмите теперь уже печально известный отчёт MIT, на который мои читатели, вероятно, устали от моих ссылок. Он показал, что 95% пилотных проектов с ИИ вообще не увеличили прибыль или производительность компаний. Фактически, многие компании увидели отрицательный эффект.
...
А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METR показал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается.
... ИИ постоянно пишет бессмысленные баги, и поскольку программист не писал код сам, ему требуется целая вечность, чтобы найти и исправить ошибки.
Таким образом, любой разработчик даже с небольшим опытом потратит больше времени на отладку кода ИИ, чем изначально сэкономил, заставив ИИ написать код.
...
Однако эта проблема не ограничивается только кодированием.
Недавний опрос Harvard Business Review показал, что 40% работников за последний месяц сталкивались с «рабочим шлаком» (workslop), который они определяют как «сгенерированный ИИ рабочий контент, который маскируется под хорошую работу, но не имеет содержания для значимого продвижения данной задачи».
Про агентный ИИ
Хорошо, но эти генерирующие «рабочий шлак» ИИ и инструменты для кодирования — это всего лишь LLM. Настоящая угроза для труда — это агентный ИИ, который может выполнять задачи самостоятельно. Что ж, по правде говоря, никакого агентного ИИ не существует, так как его на самом деле нельзя создать по множеству причин. Его нужно обучать не только на словах, изображениях и картинках. Его нужно обучать на человеческих действиях, которые гораздо более разнообразны и сложны, и ИИ-модели значительно с этим не справляются. Это приводит к фатальным проблемам, таким как экспоненциально большие и дорогие модели, нехватка пригодных для использования обучающих данных, раздувание объёма задач и постоянные проблемы с крайними случаями.
Вместо этого, агентные ИИ, разрабатываемые и впариваемые сегодня, — это просто LLM, переупакованные в плохую обёртку, и, неудивительно, они отстой.
Университет Карнеги-Меллона провёл исследование для количественной оценки производительности лучших агентных ИИ и обнаружил,
что они полностью проваливали поставленную им задачу в 70% случаев!
О вреде использования ИИ для человека
Исследование от Microsoft и Университета Карнеги-Меллона обнаружило астрономически сильную отрицательную корреляцию между использованием инструментов ИИ и критическим мышлением. В общем, чем больше вы взаимодействуете с этими инструментами ИИ, тем больше вы занимаетесь когнитивной разгрузкой и тем меньше задействуете критическое мышление. Но критическое мышление — это как мышца. Её нужно тренировать, иначе она атрофируется. Так что чем дольше и чаще вы используете инструменты ИИ, тем больше навыков критического мышления вы теряете.
Затем есть исследование MIT Sloan, которое показало, что, хотя менее опытные работники могут извлечь выгоду из генеративного ИИ, у опытных работников, использующих эти инструменты, наблюдалось притупление их экспертизы. В контексте исследования Microsoft и Карнеги-Меллона, выгода менее опытных работников от ИИ — это тревожный вывод, поскольку для того, чтобы стать опытным профессионалом, необходимо развивать навыки критического мышления, что говорит о том, что генеративный ИИ мешает работникам приобретать опыт, необходимый для карьерного роста.
В статье есть все ссылки на отчеты...
И там еще есть ссылки на предыдущие статьи.
В общем — очень интересно!
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
LVV>А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METR показал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается.
LVV>... ИИ постоянно пишет бессмысленные баги, и поскольку программист не писал код сам, ему требуется целая вечность, чтобы найти и исправить ошибки.
LVV>Таким образом, любой разработчик даже с небольшим опытом потратит больше времени на отладку кода ИИ, чем изначально сэкономил, заставив ИИ написать код.
А немного обобщив, при корпоративном стиле разработки, когда за разработчиком не закреплена долгосрочная тема, а есть общоий пул маленьких задач, и каждый освободившийся разработчик берет следующую маленькую нерешенную задачу из общего пула, ВСЕ участники оказываются в ситуации, когда они работают с кодом, который они сами не писали, и ВЕСЬ код написан не кем-то конкретным, а мелкими крупицами целой толпой, поэтому в нём не ориентируется, как в своём, вообще никто — и эффективность разработки вообще для всех участников падает до уровня, когда любое изменение в коде занимает целую вечность (и никто не хочет браться за серьёзные изменения, потому, что это вечность в квадрате).
И так мы приходим к интересному выводу. Брукс (который "мифический человеко-месяц") писал, что организационные проблемы не могут быть разрешены в плоскости технологий и должны решаться в организационной плоскости. Похоже, что верно и обратное утверждение: не технологии создают организационные проблемы а эффективные менеджеры. Так что получается, опять во всём виноват капитализм, но вину на этот раз пытаются свалить на ИИ
Здравствуйте, Vzhyk2, Вы писали:
Pzz>>Проблема в том, что на хорошо програботанном корпусе знаний и старомодный поисковик неплохо справляется. А вот когда корпус знаний маленький, разрозненный, датасеты маленькие, случайные коэффициенты начинают тянуть в разные стороны, и ИИ глючит. V>А вот тут уже нюансы. ИИ таки лучше простого поисковика тебе выжимку сделает. А так да, когда-то и библиотек, куда ножками ходить нужно было, хватало.
Вот я б поспорил. Поисковик хоть умеет сказать "ничего не найдено". А ИИ — он оптимист и всегда готов, как юный пионер. Поэтому чего не знает, сочинит на лету. А мне потом проверять.
Здравствуйте, LaptevVV, Вы писали:
LVV>В статье есть все ссылки на отчеты... LVV>И там еще есть ссылки на предыдущие статьи.
А ты сам лично смотрел на все эти ссылки и отчёты? Я посмотрел на автора этой статьи: он пишет по статье КАЖДЫЙ день. Каждый грёбаный день без переррыва он выпускает по статье, причём на разные темы. 21 ноября он выпускает статью про космос, а 22 ноября про бесполезность LLM, называя их более общим термином ИИ. Ты уверен, что он сам смог прочитать и проанализировать всё, что в своей статье написал? Я не верю.
Кстати, там же написано откуда данный автор, он из bothub, конторы занимающейся нейронками и доступом к ним. Карл! Онн же просто геннерирует статьи с помощью LLM. В том числе статью про то, что LLM бесполезны сгенерировали с помощью LLM! И преподаватель со стажем, не проверив источники идёт разносить эту чепуху по миру просто потому, что нейронки его раздражают и мешают преподавать. Надо начать с себя, проверять источники и, согласно собственным принципам, перестать доверять бреду от LLM. Тут надо либо крестик снять, либо трусы надеть.
LVV>В общем — очень интересно!
Очень интересно доверять бреду от LLM, ругая LLM? Нет, не интересно. Если внимательно почитать саму статью, то там часто даже предложения не согласованы, нет логики в аргументациях и она противоречит самой себе.
Автор говорит, что ИИ-оптимистов много и они ошибаются:
Говоря об огромном разрыве, который в настоящее время мучает менеджеров и их работников, если ИИ так очевидно плох, почему так много людей думают, что он заменит работников? Конечно, столько людей не могут ошибаться. Что ж, могут, благодаря нашему старому доброму другу, эффекту Даннинга-Крюгера.
И тут же говорит, что что есть оптимистичные исследования, но их мало и поэтому они ошибочны:
Тем не менее, есть исследования, которые действительно показывают, что ИИ может повысить производительность, например, это от Гарварда. ... Более того, общий консенсус в настоящее время сильно смещён в сторону того, что ИИ не повышает производительность, поэтому эти исследования находятся в меньшинстве. Всё это вместе означает, что они имеют гораздо меньший вес.
То есть большинство ИИ-оптимистов ошибаются из-за Даннинга-Крюгера, а большинство обратных исследований не ошибаются — почему? Потому что автор так хочет. И так у него по всему тексту, логика ломается и трещит. Почему? Потому что нейросети дали задание написать человекочитаемый текст на заданную тему, что она и выполняет. Читатели в восторге.
Здравствуйте, LaptevVV, Вы писали:
LVV>Во, примерно так было в московской конторе, где я работал 22-23 год. Я тимлида спросил конкретно: есть ли человек, который ориентируется в системе в целом и знает ее. Он ответил, что одного такого нет, но все вместе они знают.
Я читал переводную книгу про информационную безопасность. В целом, книга была про ИТ и технологии, и довольно толковая. Ради этого я её и читал. Но среди прочего, в ней целая глава была посвящена вопросам безопасности бизнеса.
И там так и излагалось, что это опасно, когда знание сосредотачивается в кругу небольшого количества людей. Потому, что контора начинает от них зависеть. И надо специально так делать, чтобы не было тем, которые закреплены за каким-то одним человеком, и не было людей, которые закреплены за какой-то одной темой, а надо дёргать людей по кругу.
Т.е., это не случайность, а сознательный выбор. Возможно, не все конторы почерпнули этот подход из этой книжки, но это определённо витает в воздухе, которым дышит менеджмент корпораций.
Вероятно, это как раз и есть то самое явление, которое Маркс называл отчуждением результатов труда.
Здравствуйте, LaptevVV, Вы писали:
LVV>А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METR показал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается.
Стареры собрались полить дерьмица на новые технологии. Я незнаю какими надо быть дятлами, чтобы такую глупость сказать. Попробуйте что ли сами использовать ИИ.
Люди с головой вполне нормально могут ускорять работу с помощью ИИ:
1. Рефакторинги.
2. Написание тестов.
3. Поиск и даже написание стандартных алгоритмов.
Просто надо понимать, что ИИ могут, а что нет. И что они ни разу не одинаковые. Ну и что им нужно давать разумные промты. Просто "сделай красиво" не работает. Как и программисту задачу придется подставить качествнно.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, VladD2, Вы писали:
VD>Стареры собрались полить дерьмица на новые технологии. Я незнаю какими надо быть дятлами, чтобы такую глупость сказать. Попробуйте что ли сами использовать ИИ.
У Лаптева специфическая проблема: он задолбался проверять студенческие работы, сделанные ИИ. К тому же, ИИ в результате ничему не учится, и студенты тоже.
VD>Люди с головой вполне нормально могут ускорять работу с помощью ИИ: VD>1. Рефакторинги. VD>2. Написание тестов. VD>3. Поиск и даже написание стандартных алгоритмов.
Пробовали. Тесты на небольшие модули, да, пишет и неплохо. Рефакторинги — нунах, в результате работающий код становится немного "опримизированным" и перестаёт работать. В качестве справочника, там, где мне нужен продвинутый справочник, ИИ сам ничего не знает и сочинает на ходу, а там, где справляется, там и гуглопоиск справляется.
Здравствуйте, LaptevVV, Вы писали:
LVV>В общем — очень интересно
Недостатков и ограничений будет всё меньше и меньше по мере увеличения вычислительной мощности. Это тот же путь, по которому шла вычислительная техника всё это время.
Отрицать очевидное бесполезно, это пустая трата сил, времени и энергии.
Здравствуйте, Pzz, Вы писали:
Pzz>У Лаптева специфическая проблема: он задолбался проверять студенческие работы, сделанные ИИ. К тому же, ИИ в результате ничему не учится, и студенты тоже.
Это решается сухим и спонтанным тестированием: каждые 3-4 недели выдается файл состоящий из 1-3 листков, на каждом из которых по 1-2 заданию. Телефоны убрать, тишина и таймер на 20 минут. Все, кто ответил и набрал проходной балл — молодцы. Остальные — неуд. / без оценки. с возможностью пересдачи. Как они там уже будут учить эти материалы, это их проблемы. К файловым тестам можно добавить устные собеседования, особенно важно для тех кто не прошел файловый тест. Цель — понять уровень конкретного ученика и дать соотв. направление куда ему нужно посмотреть.
Но чтобы это все работало, нужно по-настоящему учить, что в условиях ВУЗа не просто достичь. Всякие курсовые, дипломные и прочее — это тоже хорошо, но их и раньше нередко писали за деньги совсем другие люди. ИИ просто удешевил этот процесс. Но у ИИ тут есть очень большое преимущество: в процессе создания работы, он сам может обучать студента если в нем есть зерно. Ведь любопытный студент обязательно будет задавать много наводящих и уточняющих вопросов, особенно если не очень уверенно владеет материалом.
Pzz>>У Лаптева специфическая проблема: он задолбался проверять студенческие работы, сделанные ИИ. К тому же, ИИ в результате ничему не учится, и студенты тоже. VD>Ну почему же? Студенты ведь читают "свои" работы?
Не читают... VD>Проверять их тоже можно ИИ.
Можно. Если умеешь... VD>Если серьезно, надо уходить от этой тупости — домашних заданий. А дипломные работы нужно защищать очно, как диссертации.
Так у нас очно и защищают. Как диссертации. VD>В любом случае наезжать на ИИ в корне не верно. ИИ не виноваты, что они полезны студентам.
Вредны. Ашманова почитай. Человек 30 лет в ИИ. Pzz>>Пробовали. Рефакторинги — нунах, в результате работающий код становится немного "опримизированным" и перестаёт работать.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, LaptevVV, Вы писали:
LVV>Ашманов говорит, что всей мощности Земли не хватит, чтобы сделать "сильный" ИИ. Чел более 30 лет в ИИ — можно верить.
Нельзя верить. Отсылка к авторитету — это один из лжеаргументов, прямо по учебнику. Так-то можно найти авторитетов и посильнее твоего Шаманова, с мировым именем и даже Нобелевкой в этой области.
LVV>>1. Мы не знаем что такое интеллект. LVV>>2. Мы не знаем, существует ли и нтеллект... LVV>>Особенно у нас в головах... LVV>>У меня — БОЛЬШИЕ сомнения на это счет.
N>У нас в головах он существует по определению. Интеллект — это бирка, наклеенная на человеческие способности, не больше и не меньше. Даже солипсисты не могут сомневаться в существовании себя самих, дальше отступать некуда. N>ИИ — это то, что хотят повторить. И по мере того, как часть за частью повторяют, обнаруживаются грани, которые пока не повторили. И тест Тьюринга уже не актуален, а интеллекта ещё нет. Или есть? Какой там следующий критерий?
Мы не знаем, что такое сознание.
Мы не знаем, что такое интеллект.
Так что это не более, чем просто название.
Кто-то взял и назвал алгоритмы с матрицами и функциями многих переменных нейронной сетью — это просто название.
Поэтому пока нет определения интеллекта — даже говорить не о чем.
Тест Тьюринга — это я каждый месяц по несколько раз имею...
а) я эксперт в нашем ваковском журнале. И не раз читал статьи, сгенерированные машиной. Они — отличаются.
б) студенты приносят коды — они отличаются...
Это я тебе как эксперт говорю...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Nuzhny, Вы писали:
LVV>>В статье есть все ссылки на отчеты... LVV>>И там еще есть ссылки на предыдущие статьи.
N>А ты сам лично смотрел на все эти ссылки и отчёты? Я посмотрел на автора этой статьи: он пишет по статье КАЖДЫЙ день. Каждый грёбаный день без переррыва он выпускает по статье, причём на разные темы. 21 ноября он выпускает статью про космос, а 22 ноября про бесполезность LLM, называя их более общим термином ИИ. Ты уверен, что он сам смог прочитать и проанализировать всё, что в своей статье написал? Я не верю.
Такие статьи пишутся следующим образом (это в лучшем случае). Сначала делается deep research по новым "горячим темам" в редит, икс итд, затем отметаются те, о которых писал недавно, так выбирается тема. Затем по теме делается следующий ресёрч, чтобы собрать "факты". Затем генерируется несколько планов статьи, где может быть "автор" тыкает пальцем — вот так мне нравится. А затем по заданному стилю генерируется сама статья. И может быть после проверки на глаз публикуется по нажатию кнопки. По факту у некоторых "авторов" этот процесс полностью автоматизирован и они даже не смотрят чего публикуют. Зависит от того, насколько важен автору его собственный имидж (но такое больше публикуют обезличенно, как от агентств или каналов).
А потом приходит Лаптев и читает написанное ИИ и говорит, что ИИ ошибается..
Здравствуйте, VladD2, Вы писали:
VD>Это как доверять рефакторинг тулу. Просто тул умеет делать произвольные рефакторинги, которые ты сумеешь описать в виде промта.
"рефакторинг тулом" vs "рефакторинг ИИ-кой" это как "считать на калькуляторе" vs "считать ИИ-кой"
откуда тебе столько плюсов (И КТО!!!!!?) ставят ))) это же полная\ задница. Мало того, что вы в этой технологии нихрена, судя по вашим "блаблабла", не понимаете так еще и лупасите в горло тех, кто занима(лся|ется).
ща где там эта ссылка, в обшем целом согласен с докладчиком https://youtu.be/XMEJwlLvgNI?si=4zCxKMqN60_vcOCc
Вы можете студентами и шпаргалки как я понял разрешить
?))))!!!?? — А это полная ж....
Вот я выводил уравнение Шредингера, просто понимая ход мысли, опираясь не на память, а на логику процесса. И чем ИИ отличается от шпаргалки?
А вот с докладчиком я согласен про когнитивные дыры, и следующие от того (скажу просто ) — ТУПОСТЬ
LVV>>А как насчёт другого отчёта, от которого также устали мои читатели? Отчёт METR показал, что ИИ-инструменты для кодирования на самом деле значительно замедляют разработчиков. Оказывается, ИИ не так уж и точен и постоянно ошибается.
ну конечно не точен, разве экскаватор может провести раскопки золотого шлема? Но вот откопать разрыть массу грунта, вполне, для того мы машины и создаем.
VD>
VD>Стареры собрались полить дерьмица на новые технологии. Я незнаю какими надо быть дятлами, чтобы такую глупость сказать. Попробуйте что ли сами использовать ИИ.
)) новые технологии? Знаете, послушайте докладчика, он в теме ( уж не знаю на сколько глубоко). Потому, что я там от него слышал — я согласен. Мы создаем машины, /Вы скажите, вы прямо бинарями код пишете ? Или используете IDE compiler ? нет за вас это делает машина, и всегда есть ненулевая вероятность, что он (клмпайлер) глюканет, а мы плюсовики, так и вовсе его хакаем, чтобы добиться своего. Вообще вы этот тред превратили в бинарное да/нет
Я бы студентов учил использовать данные технологии. Но в генерации тех-же курсовых, дипломных отказал. И тут ведь не в оценке дело. Сколько отличниц и отличников с моей группы сейчас занимается сршенной хренью, не смотря на их оценки. Это надо доносить студентам, можно и шпаргалки разрешить. А шо толку ??? Я с докладчиком согласен — когнитивная дыра ... вот и весь эффект.
VD>Люди с головой вполне нормально могут ускорять работу с помощью ИИ: VD>1. Рефакторинги.
Ага ... )) не смешите VD>2. Написание тестов.
Ну тут любезный 26 стандарт плюсов уже имеет compile time reflection, там все эти моки генерируются\ одним шаблоном. Сомневаюсь (и не просто, я его пытался использовать в практике — экскаватор не проделает раскопки кисточкой), что эта железяка обязательно гдето протупит, нет никаких сомнений. А мне проще забядяжить один шаблон, чем гоняться за тем, где эта железяка натупила. — тайминг.
VD>3. Поиск и даже написание стандартных алгоритмов.
)) поиск — согласен, иногда помогает. А генерация — пункт выше
VD>Просто надо понимать, что ИИ могут, а что нет. И что они ни разу не одинаковые. Ну и что им нужно давать разумные промты. Просто "сделай красиво" не работает. Как и программисту задачу придется подставить качествнно.
ага ... наковырял кисточкой )) что ??? мы все это понимаем ..просто пока он больше как "консультант" не всегда правый. Причем всегда я его высеры сверяю с.... ну вы поняли.
Здравствуйте, LaptevVV, Вы писали:
LVV>Ведь изначально же был некий главный архитектор/конструктор и т.п. LVV>Потом он ушел. LVV>А кто тогда развивает продукт ?
В корпорациях редко когда бывает главный архитектор, который именно что вкладывает свои знания в архитектуру, а не командует командой неглавных архитекторов.
В корпорации все работники — тактики, а стратегические решения принимаются комитетом тактиков. Бывают исключения, но они редки.
LVV>Ведь все эти мелкие задачи откуда-то появлЯются ?
Берут большую задачу и "декомпозируют" на задачи поменьше. Потом распихивают эти задачи поменьше по архитекторам рангом пониже, и они еще мельче дробят. И так до тех пор, пока задачи не станут совсем маленькими.
Заметим, что делается это рано, еще до того, как в задачу начали всерьёз вникать. Т.е. на этапе, когда задача еще толком не ясна. А разбить на подзадачи надо. Потому что от этого разбиения отталкиваются сроки, годовые бюджеты, наём сотрудников и сокращения и т.п. Поэтому есть "паттерны проектирования" и учёт опыта аналогичных (или кажущихся аналогичными) проектов. Т.е., фактически это делается по аналогии с тем, что кем-то когда-то раньше делалось. Примерно как ИИ "мыслит" по аналогии с текстами, которые ему скормили в процессе дрессировки обучения
И потом эти границы разбиения на задачи очень трудно передвинуть.
А в больших организациях и проектах задачи после первой-второй крупной нарезки еще и по командам раздаются. А договориться потом уже о перераспределении чего-то между командами трудно, потому, что у каждой команды свои планы и рисковать нажить неприятности никто не хочет.
Pzz>>Вероятно, это как раз и есть то самое явление, которое Маркс называл отчуждением результатов труда. LVV>Да. Для ИТ это определенно именно то самое. LVV>Но во времена Маркса о безопасности бизнеса в таком плане вряд ли задумывались.
Но о том, чтобы наёмные работники не борзели, еще как задумывались.
LVV>>В общем — очень интересно A>Недостатков и ограничений будет всё меньше и меньше по мере увеличения вычислительной мощности. Это тот же путь, по которому шла вычислительная техника всё это время.
Ашманов говорит, что всей мощности Земли не хватит, чтобы сделать "сильный" ИИ. Чел более 30 лет в ИИ — можно верить. A>Отрицать очевидное бесполезно, это пустая трата сил, времени и энергии.
Не при нашей жизни.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
LVV>>Ашманов говорит, что всей мощности Земли не хватит, чтобы сделать "сильный" ИИ. Чел более 30 лет в ИИ — можно верить. N>Нельзя верить. Отсылка к авторитету — это один из лжеаргументов, прямо по учебнику. Так-то можно найти авторитетов и посильнее твоего Шаманова, с мировым именем и даже Нобелевкой в этой области.
Дык в том-то и дело, что непризнанный авторитет — говорит правду.
А Нобелеаты раздувают хайп...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
LVV>>Дык в том-то и дело, что непризнанный авторитет — говорит правду. LVV>>А Нобелеаты раздувают хайп... N>Правду говорит математика. У Шаманова готова математическая модель? Он тоже хайпит, только для себя.
Он говорит о потребляемой энергии. А не теоретической невозможности.
Теоретически мы и на Юпитер слетать можем, ибо второй космической скорости земляне уже вполне достигли.
А практически ?
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, VladD2, Вы писали:
VD>Кстати, пора перестать от детей требовать зазубренных знаний. Они теперь легко могут получить просто грамотно сформулировав вопрос. И пора переходить к проверке умения добыть эти знания любым путём (гуглингм, обращением к ИИ, к людям и т.п.).
Умения просто добывать знания, из гугля, ИИ или википедии, мало.
Надо еще уметь критически относиться к добытому. Чтобы быть в состоянии отличить разумную, осмысленную информацию от чепухи.
Кстати, такое умение требовалось (и ценилось) всегда, ещё и до всякого ИИ. Можно ведь и не от ИИ чепухи набраться, а от соседки, и принимать эту чепуху за чистую монету.
Здравствуйте, VladD2, Вы писали:
LVV>>Во, примерно так было в московской конторе, где я работал 22-23 год. Я тимлида спросил конкретно: есть ли человек, который ориентируется в системе в целом и знает ее. Он ответил, что одного такого нет, но все вместе они знают.
VD>Не поверишь, но это так для любого крупного проекта. Есть кто-то кто понимает общую архитектуру, но так чтобы знать весь код из огромного проекта — это физически невозможно.
Что значит, "занать весь код"?
Если знать наизусть каждую строчку кода — да, невозможно.
Ориентироваться на уровне, "понять, какой код отвечает за XXX" — совершенно возможно. Человек, разбирающийся в проекте, навскидку скажет, куда примерно смотреть, какая там архитектура и зачем вообще так, и потратив разумнее время, локализует до конкретных файлов, классов и строк.
N>>>Правду говорит математика. У Шаманова готова математическая модель? Он тоже хайпит, только для себя. LVV>>Он говорит о потребляемой энергии. А не теоретической невозможности. LVV>>Теоретически мы и на Юпитер слетать можем, ибо второй космической скорости земляне уже вполне достигли. LVV>>А практически ? Pzz>А почему человеческому мозгу хватает 20-и ватт, а электрическому разуму не хватает всех электростанций Земли?
Так принципы устройства другие совершенно.
Птицы и самолеты — летают. Но совершенно на разных принципах...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Pzz, Вы писали:
Pzz>Умения просто добывать знания, из гугля, ИИ или википедии, мало.
Это если говорить в общем. Если же говорить о программировании, то эти знания один фиг будут проверены на практике.
Но в целом, конечно человек должен анализировать то, что он нашел. Или он просто может найти не то, что нужно.
Pzz>Надо еще уметь критически относиться к добытому. Чтобы быть в состоянии отличить разумную, осмысленную информацию от чепухи.
Естественно. Но я то о чем говорю? Надо отказаться от принуждения детей зубрить. Пусть стихи зубрят. А про алгоритм — это уже делать не надо. Не знать, что он есть и как называется.
Pzz>Кстати, такое умение требовалось (и ценилось) всегда, ещё и до всякого ИИ. Можно ведь и не от ИИ чепухи набраться, а от соседки, и принимать эту чепуху за чистую монету.
Естественно. В том же Стековерфлоу тоже не всегда то, что нужно можно найти. И ИИ просто позволяет сократить время на поиск. Это не замена мозгу, а помощник ему.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, LaptevVV, Вы писали:
LVV>Матрицы и функции — это не нейроны...
Правильно ли я понимаю твою позицию, что математическую модель Интеллекта (что бы это ни было) создать не получится? Или что он сильно нелинейный и линейно его не аппроксимировать никакими способами?
Для меня рассуждения о том, что "никакой энергии не хватит" звучат антинаучно. Так-то у нас совсем недавно никакой энергии не хватало, чтобы в Го человека выиграть, но что-то пошло не так.
Потом никакой энергии не хватало, чтобы предсказать форму белка, но снова пошло что-то не так и форма стала предсказуемой. А Демис за это Нобелевку получил. Что твой Ашманов говорил про Го и форму белка? Ничего там у него не подгорело?
Здравствуйте, LaptevVV, Вы писали:
Pzz>>Ну вроде как пока что нейронки делали с оглядкой на мозги. В тех пределах, конечно, насколько устройство мозгов вообще известно. LVV>Только названия. LVV>Матрицы и функции — это не нейроны...
Я так понимаю, там и действительно прям нейроны (т.е., модель их, штука с N входами с коэффициентами и одним выходом, который срабатывает или нет в зависимости от того, куда перетянут входы с учётом коэффициентов). А матрицы и функции нужны, чтобы постараться понять, как эта хреновина работает, а не наугад тыкать.
Здравствуйте, LaptevVV, Вы писали:
LVV>Теоретически мы и на Юпитер слетать можем, ибо второй космической скорости земляне уже вполне достигли. LVV>А практически ?
А практически Воеджер-2 уже вышел за пределы солнечной системы. Так что слетать можем. А вот делать нам там нечего, так как там давление и притяжение, которые мы не переживём.
А ИИ практически видно, что оно взлетело. И отрицать это глупо. Тупо идешь на сайт какого-нить дип-сика и понимаешь, что он уже знает больше большинства твоих студентов и даже на их уровне код пишет. Потому ты злишься, так как раньше для обмана тебя нужно было деньги реальным программистам платить, а теперь каждый дурак может пойти и принести готовую работу, с которой тебе придется возиться, чтобы понять настоящая она или нет.
Ты пытаешься оспорить научно технический прогресс. Это не конструктивно. А то что проблемы есть, так с этим все тут согласны.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Nuzhny, Вы писали:
N>А ты сам лично смотрел на все эти ссылки и отчёты? Я посмотрел на автора этой статьи: он пишет по статье КАЖДЫЙ день. Каждый грёбаный день без переррыва он выпускает по статье, причём на разные темы. 21 ноября он выпускает статью про космос, а 22 ноября про бесполезность LLM, называя их более общим термином ИИ. Ты уверен, что он сам смог прочитать и проанализировать всё, что в своей статье написал? Я не верю.
Да там вообще всё весело. Он и в экономике спец. "Google и Microsoft на мели"
А рядом "DeepSeek-OCR + LLama4 + RAG = Революция в мире агентного OCR", т.е. ИИ говно, но вот в области OCR — из-за них революция.
Да он тролль пишущий всем что они хотят.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
LVV>>Матрицы и функции — это не нейроны... N>Правильно ли я понимаю твою позицию, что математическую модель Интеллекта (что бы это ни было) создать не получится? Или что он сильно нелинейный и линейно его не аппроксимировать никакими способами?
Понятия не имею. N>Для меня рассуждения о том, что "никакой энергии не хватит" звучат антинаучно. Так-то у нас совсем недавно никакой энергии не хватало, чтобы в Го человека выиграть, но что-то пошло не так. N>Потом никакой энергии не хватало, чтобы предсказать форму белка, но снова пошло что-то не так и форма стала предсказуемой. А Демис за это Нобелевку получил. Что твой Ашманов говорил про Го и форму белка? Ничего там у него не подгорело?
Тут не энергия. тут узкоспециализированные алгоритмы. Особенно Го.
Которые никак не похожи на нейроны мозга.
А требуется нечто универсальное самообучающееся...
Причем, сколько лет самообучается человек ?
При наличии нескольких рецепторов РАЗНОГО типа ?
Почему ты думаешь, что самообучение универсального ИИ будет меньше времени занимать ?
Алгоритмами интеллектуальных игр сколько десятилетий занимались ?
Еще Клод Шеннон публиковал алгоритм игры в шахматы.
Так это одна узконаправленная область мозговой деятельности.
Которая без наращивания мощности все равно не срабатывала...
Но здесь хватило одного мощного компьютера.
Хотя история с проигрышем Каспарова — достаточно мутная.
И прошло порядка 40 лет, пока это случилось.
А потом прошло еще 20 лет, и мощности выросли настолько, что алгоритм справился с человеком в Го.
Не считая того, что и сами алгоритмы были усовершенствованы...
Опыт-то создания игровых алгоритмов — не пропьешь...
И структура белка — задача стояла 50 лет, пока мощности доросли до необходимых.
И алгоритмы были усовершенствованы настолько, что все получилось. https://habr.com/ru/news/530718/
50 лет назад. 1970 — компьютеры были повсеместно. Суперкомпьютеры были везде.
Ждем еще 50 лет...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, LaptevVV, Вы писали:
LVV>1. Мы не знаем что такое интеллект. LVV>2. Мы не знаем, существует ли и нтеллект... LVV>Особенно у нас в головах... LVV>У меня — БОЛЬШИЕ сомнения на это счет.
У нас в головах он существует по определению. Интеллект — это бирка, наклеенная на человеческие способности, не больше и не меньше. Даже солипсисты не могут сомневаться в существовании себя самих, дальше отступать некуда.
ИИ — это то, что хотят повторить. И по мере того, как часть за частью повторяют, обнаруживаются грани, которые пока не повторили. И тест Тьюринга уже не актуален, а интеллекта ещё нет. Или есть? Какой там следующий критерий?
Здравствуйте, Nuzhny, Вы писали:
N>Надо начать с себя
Поэтому математика прекрасна. Образно говоря, как бы первый аргумент операции умножения не спорил с умножением на 0, в результате всё равно будет 0.
Люди делятся на две категории: те, кто осознают и признают эту механику, и те, кто будут пытаться обратить весь мир в пепел отрицая очевидное.
То, что способности ИИ зависят от вычислительной мощности — факт. То, что вычислительные мощности растут с каждым днем — тоже факт. Неужели кому-то так трудно увидеть предел этой прогрессии? Я думаю, что любой более-менее образованный человек может без напряга уловить эту взаимосвязь. Но дело тут не только в этом, дело еще и в психологии.
Поскольку развитие ИИ затрагивает уже сложившуюся социоэкономическую среду и полностью переформатирует её, многие современники начинают чувствовать страх быть невостребованными. Чтобы скомпенсировать это, начинаются попытки искажения объективной реальности с помощью проекций и манипуляций. Один из этапов этого процесса — обесценивание оппонента, который несет угрозу сложившейся самоидентичности. В данном случае, происходят попытки обесценивания ИИ. Для этого используются клеветнические кампании ("распространение слухов и подтверждающих псевдо-материалов"), самовиктимизация ("мои ученики не учатся из-за ИИ"), выставление себя супер-героем ("ИИ никогда не дотянет до уровня настоящего специалиста (т.е. меня), поэтому он очень плохой и недостоин внимания").
Это совсем не новая история, и это всё хорошо описывал Карл Юнг, например, в описании отношений условных эмпата (ИИ) и нарцисса (в данном случае Лаптева). Если смотреть еще дальше, есть рассказ о Каине и Авеле, который описывает такую же ситуацию, но на более примитивном уровне (Каин убил Авеля из-за зависти к его способностям).
Использование психологии также позволяет объяснить, почему у разных людей такой полярно-разный опыт работы с ИИ. Для кого-то, он очень положительный, а для кого-то — откровенно плохой. Это происходит из-за подсознательной проекции черт своего характера на оппонента ("ИИ — смышленый / ИИ — тупой"). Именно из-за этого феномена светлые и открытые люди склонны видеть в ИИ потенциал и вселенский свет, в то время как темные — непроходимую темноту. В данном случае, ИИ выполняет одинаковую роль зеркала для всех, где каждый видит в нем продолжение себя.
Здравствуйте, LaptevVV, Вы писали:
LVV>Мы не знаем, что такое сознание.
Мы не знаем, что такое Любовь. Мы не заем кто такой Бог.
LVV>Мы не знаем, что такое интеллект. LVV>Так что это не более, чем просто название.
Не так. Мы можем наблюдать, оценивать, изучать — наука очень много знает о законах функционирования естественного интеллекта. Мы знаем пределы человеческой памяти, измеряем на тестах его возможности, олимпиады по разным предметам показывают кто, и что, и как, и в каком возрасте.
LVV>Кто-то взял и назвал алгоритмы с матрицами и функциями многих переменных нейронной сетью — это просто название.
Это не просто название — это так и есть. Есть искусственный нейрон, есть сеть из искусственных нейронов. Всё это делали не просто так, а с целью переложить на компьютер часть тех задач, которые считались прерогативой человека, считались интеллектуальными. С развитием нейросетей понятие интеллекта сильно изменилось, оно стало всё больше уточняться.
Многие задачи, такие как преподавание или математические открытия так и остались интеллектуальными. А арифметические вычисления как-то потеряли и стали механическим трудом, их автоматизировали.
LVV>Поэтому пока нет определения интеллекта — даже говорить не о чем.
Есть определение естественного интеллекта. Даже искусственный интеллект стал подразделяться на 3 части: AI, AGI, ASI. Вот современные LLM относятся просто к AI, то есть к слабому или узкому искусственному интеллекту.
LVV>Это я тебе как эксперт говорю...
И верю, и не верю. Верю, потому что глаз намётан, но только студенческие работы — это не тест Тьюринга. Не верю, потому что существует эта тема, обсуждение статьи, написанной слабым ИИ — но ты не смог это распознать.
V> "рефакторинг тулом" vs "рефакторинг ИИ-кой" это как "считать на калькуляторе" vs "считать ИИ-кой"
Это ложная аналогия. Она приравнивает принципиально разные по сложности задачи. Использование ИИ для простой арифметики действительно избыточно — так как всегда есть то самое детерминированное решение, универсальный алгоритм вычисления (в прочем хорошая ИИ-шка, как и не глупый человек без проблем и выражения вычислит). Рефакторинг — это сложная, многокритериальная и часто творческая задача, для которой не всегда существует единый детерминированный алгоритма и даже если такой существует для частных случаев, часто он просто не реализован в IDE, а стало быть не может быть применён. ИИ решает не ту же задачу, что и тулинг (синтаксические преобразования), а задачу более высокого уровня — семантический и архитектурный анализ и осмысленное переписывание кода, как это делает человек. И ИИ способен генерировать сотни слов в секунду в отличии от человека, что и позволяет использовать его в качестве тулзы рефакторинга.
Я не спорю, что если есть готовый рефакторинг, применять вместо него ИИ довольно бессмысленно хотя бы потому, что рефакторинг работает намного быстрее и детерминировано. Но автоматические рефакторинги покрывают лишь часть совсем простых случае. А ИИ может сделать рефакторинг почти любой сложности, так как он может понимать контекст и производить анализ, как и человек. Все что нужно сделать — качественно поставить задачу и предоставить необходимый контекст (код).
V> В основе тулов лежат детерминированные вычисления... А в основе ИИ-ки лежит и случайная интерпретация задачи и случайное её применение — примерно так работает джун.
Твое понимание работы ИИ детское и наивное ну или устарело. Современные LLM — это не генераторы случайных токенов, а системы, выявляющие сложные логические и семантические паттерны на основе обучения на огромных массивах качественного кода. Их работа — это не "случайное применение", а предсказание наиболее вероятного корректного решения, аналогичное процессу мышления опытного разработчика. Сравнение с джуном некорректно: ИИ обладает "опытом", на порядки превышающим человеческий, так как "видел" больше паттернов.
V> Перепроверка имеет такие показатели, как затраты, вероятность пропустить ошибку.
Именно поэтому ИИ — мощный инструмент. Проверить и доработать качественное предложение от ИИ дешевле, чем писать решение с нуля. Он резко повышает качество исходного варианта, сокращая пространство для ошибок и снижая общие затраты. Ревью кода от коллеги ты тоже проверяешь, но это не делает его работу бесполезной.
Когда ты проверяешь, что сделал ИИ ты просто используешь diff. Ты видишь, что изменила ИИ-шка и можешь или откатить ненужные изменения, или уточнить в промпте, что делать надо, а что не надо. Что сложного в том, чтобы понять, что изменила ИИ-ка по diff-у? Ниже будет пример промпта и их diff. Можешь оценить сам.
Писать и отлаживать код куда медленнее нежели читать его. Ну и должны быть тесты или тестовый запуск с проверкой функционала. Именно так делают люди когда сами пишут код. Ни всегда получается написать корректный код сразу (даже человеку). Всегда есть место для ошибки. Лично я всегда смотрю свой код при коммите и потом в PR-е. Ну и по возможности стараюсь его запускать и тестировать или запускать тесты.
V>Оба пункта странные — потому что они никак не следуют из того, как работают ИИ.
Не как работает ИИ, а твоим заблуждениям по этому поводу. Давай будем точными в формулировках.
V> ...ты воспринимаешь ИИ как волшебный черный ящик... на всем множестве задач это не работает.
Не надо за меня додумывать. ИИ — не волшебный ящик, а инструмент с конкретными сильными и слабыми сторонами. Его сила — в работе с неформализованными, контекстно-зависимыми задачами, где нет детерминированного алгоритма. Для таких задач (к которым относится большая часть сложного рефакторинга) он часто работает и работает хорошо. Критиковать его за не идеальность на "всем множестве задач" — это требовать от отвёртки, чтобы она хорошо забивала гвозди.
Твоя основная ошибка — в дихотомии "либо детерминированный алгоритм, либо бесполезная случайность". Реальность сложнее: ИИ — это статистически обобщённый алгоритм высокого уровня, который дополняет детерминированные тулы, решая те задачи, которые им недоступны в принципе или не автоматизированы на сегодня.
Вот тебе пример который придумал на ходу. В студии нет встроенного рефакторинга правильно расставляющего ключевые слова sealed и abstract на типах. Но дав ИИ-шке просто промпт и код (в данном случае фалы: DotAst.cs и DotVisitor.cs) в качестве контекста легко заставить её расставить sealed и abstract на заданном множестве типов. При этом тебе не надо объяснять где можно ставить sealed-ы, а где нельзя. ИИ-шка без проблем создает граф наследования "в голове" и логически выводит куда можно впихнуть sealed, куда abstract, а куда ни то, ни другое. Это не случайность. Чтобы ей было сложнее я специально удалил abstract с тех типов где они уже были расставлены человеком и при этом их отсутствие не ломало бы компиляцию. Вот результат:
Тебе будет сложно оценить, что ИИ сделал всё как следует? Всё что тебе нужно сделать — это перед внесением изменений засташить старые. Ну разные IDE вроде Cursore или Antigravity делают это автоматом.
Специально включил режим рассуждений, хотя ИИ-шка все сделала бы правильно и без него. И что интересно, так как у данной задачи есть только одно решение, то оно всегда будет одинаковым (детерминированным), как бы ты не заявлял обратного. По сути недетерминизм скорее определяется множеством возможных решений, а не природой ИИ. И ИИ всегда можно подтолкнуть в том направлении, что тебе требуется, даже если изначально ты получил не то решение, что ожидал. Просто добавил уточняющих промптов и всё. Главное, чтобы ИИ-шка была не тупой от рождения и умела следовать инструкциям. Это достижение буквально последнего года. Еще 1-2 года назад ИИ-шки плохо следовали инструкциям.
V>То, что ты увидел черную корову (в своей работе получил вау-эффект) — не значит, что все коровы черные и даже не значит, что она со второго бока тоже черная.
Я не однократно использовал ИИ для решения конкретных задач, вроде той, что я тебе привел в качестве примера. Не скажу, что всегда удавалось добиться желаемого. Но очень часто. В отличи от тебя я предпочитаю оценивать вещи на практике, а не по пересказу одной бабки.
Что там тебе за коровы мерещатся, я не знаю. Я вполне реалистично оцениваю ИИ и часто критикую оные за тупость.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, LaptevVV, Вы писали:
LVV>MIT доказал провал 95% проектов... LVV>В общем — очень интересно!
Логичный результат, если микроскопом гвозди забивать или с помощью молотка микробов рассматривать.
Фактически обобщенные LLM — это новые Корчеватели и не более. Поиграться и повпечатляться тем, как он в падежи попадает.
А вот когда начнут обучать экспертные LLM по узким областям знаний на датасетах, созданных специалистами в этих областях знаний. Но в этом направление самая большая работа — это создать такой датасет.
Вот эти ИИ будут реально полезны, как быстрые поисковики-справочники по некоторому корпусу знаний.
Мультиагентные тоже сработают отлично в узких областях, где выполнение работы может быть представлено итерационным процессом (например некоторые направления в программировании). Например, итерационно сходящимся водопадом.
VD>Люди с головой вполне нормально могут ускорять работу с помощью ИИ:
Ну, таких примерно 10-15%
А 70-80% — этот типовые миддлы, которым надо просто педалить код
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Vzhyk2, Вы писали:
V>Вот эти ИИ будут реально полезны, как быстрые поисковики-справочники по некоторому корпусу знаний.
Проблема в том, что на хорошо програботанном корпусе знаний и старомодный поисковик неплохо справляется. А вот когда корпус знаний маленький, разрозненный, датасеты маленькие, случайные коэффициенты начинают тянуть в разные стороны, и ИИ глючит.
Pzz>А немного обобщив, при корпоративном стиле разработки, когда за разработчиком не закреплена долгосрочная тема, а есть общоий пул маленьких задач, и каждый освободившийся разработчик берет следующую маленькую нерешенную задачу из общего пула, ВСЕ участники оказываются в ситуации, когда они работают с кодом, который они сами не писали, и ВЕСЬ код написан не кем-то конкретным, а мелкими крупицами целой толпой, поэтому в нём не ориентируется, как в своём, вообще никто — и эффективность разработки вообще для всех участников падает до уровня, когда любое изменение в коде занимает целую вечность (и никто не хочет браться за серьёзные изменения, потому, что это вечность в квадрате).
Во, примерно так было в московской конторе, где я работал 22-23 год. Я тимлида спросил конкретно: есть ли человек, который ориентируется в системе в целом и знает ее. Он ответил, что одного такого нет, но все вместе они знают.
Pzz>И так мы приходим к интересному выводу. Брукс (который "мифический человеко-месяц") писал, что организационные проблемы не могут быть разрешены в плоскости технологий и должны решаться в организационной плоскости. Похоже, что верно и обратное утверждение: не технологии создают организационные проблемы а эффективные менеджеры. Так что получается, опять во всём виноват капитализм, но вину на этот раз пытаются свалить на ИИ
Да... "Это — не мы, это ОНИ!"...
Ничего не меняется...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Pzz>Я читал переводную книгу про информационную безопасность. В целом, книга была про ИТ и технологии, и довольно толковая. Ради этого я её и читал. Но среди прочего, в ней целая глава была посвящена вопросам безопасности бизнеса. Pzz>И там так и излагалось, что это опасно, когда знание сосредотачивается в кругу небольшого количества людей. Потому, что контора начинает от них зависеть. И надо специально так делать, чтобы не было тем, которые закреплены за каким-то одним человеком, и не было людей, которые закреплены за какой-то одной темой, а надо дёргать людей по кругу. Pzz>Т.е., это не случайность, а сознательный выбор. Возможно, не все конторы почерпнули этот подход из этой книжки, но это определённо витает в воздухе, которым дышит менеджмент корпораций.
Да. И получается, что это извечный вопрос: экономика для людей, или люди для экономики ?
В капитализме бизнес становится важнее людей, которые его делают.
Если про ИТ говорить, то получается интересно.
Ведь изначально же был некий главный архитектор/конструктор и т.п.
Потом он ушел.
А кто тогда развивает продукт ?
Ведь все эти мелкие задачи откуда-то появлЯются ?
Pzz>Вероятно, это как раз и есть то самое явление, которое Маркс называл отчуждением результатов труда.
Да. Для ИТ это определенно именно то самое.
Но во времена Маркса о безопасности бизнеса в таком плане вряд ли задумывались.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Pzz, Вы писали:
Pzz>Проблема в том, что на хорошо програботанном корпусе знаний и старомодный поисковик неплохо справляется. А вот когда корпус знаний маленький, разрозненный, датасеты маленькие, случайные коэффициенты начинают тянуть в разные стороны, и ИИ глючит.
А вот тут уже нюансы. ИИ таки лучше простого поисковика тебе выжимку сделает. А так да, когда-то и библиотек, куда ножками ходить нужно было, хватало.
Здравствуйте, Pzz, Вы писали:
Pzz>У Лаптева специфическая проблема: он задолбался проверять студенческие работы, сделанные ИИ. К тому же, ИИ в результате ничему не учится, и студенты тоже.
Ну почему же? Студенты ведь читают "свои" работы?
Проверять их тоже можно ИИ.
Если серьезно, надо уходить от этой тупости — домашних заданий. А дипломные работы нужно защищать очно, как диссертации.
В любом случае наезжать на ИИ в корне не верно. ИИ не виноваты, что они полезны студентам.
Pzz>Пробовали. Рефакторинги — нунах, в результате работающий код становится немного "опримизированным" и перестаёт работать.
Херово пробовал. Можно добиваться выполнения именно того, что хочешь. Прямо в промте приказываешь не менять ничего не относящегося к делу, включая комментарии и ИИ выполняет. Ну и всегда есть дифф. Перед изменением закладываешь текущую работу в сташь, накатываешь изменения и смотришь на них. Всё что не устраивает откатываешь.
Pzz>В качестве справочника, там, где мне нужен продвинутый справочник, ИИ сам ничего не знает и сочинает на ходу, а там, где справляется, там и гуглопоиск справляется.
У них у всех сейчас есть функция поиска. Они где-то 10 страниц параллельно могут обрабатывать. Ну и я не знаю, что он у тебя там не знает. Они не всеведущие, но обучаются на очень широком наборе знаний. Вот недавно мне ИИшка с полпинка написала функцию определения битности исполнимого файла по PE-заголовку. Стек оверфлоу грусно вышел из чата.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Pzz, Вы писали:
Pzz>Вот я б поспорил. Поисковик хоть умеет сказать "ничего не найдено". А ИИ — он оптимист и всегда готов, как юный пионер. Поэтому чего не знает, сочинит на лету. А мне потом проверять.
Так именно так эти ИИ сейчас и научены. На хайпе и безумной идее "клиент всегда прав". Через пару лет хайп схлынет, часть этих модных моделей уйдет в небытие, выживут более нужные потребителю.
Здравствуйте, Pzz, Вы писали: Pzz>А немного обобщив, при корпоративном стиле разработки, когда за разработчиком не закреплена долгосрочная тема, а есть общоий пул маленьких задач, и каждый освободившийся ...
Здравствуйте, LaptevVV, Вы писали:
LVV>Не читают... LVV>Так у нас очно и защищают. Как диссертации.
Ну и какие тогда проблемы? Если не читал, а тупо перепечатал, сразу завалится. Если читал, то он просто автоматизировал свою работу. Молодец! Похвалить надо.
LVV>Вредны. Ашманова почитай. Человек 30 лет в ИИ.
Мне глубоко плевать на всех тех кто был там чего не было. У меня еще отец темой ИИ бредил те самые 30 лет назад. Все уши мне прожужжал экспертными системами и прологом. Реальный ИИ появился в 2020-х годах. Какие-то зачатки были и раньше, но было вообще не ясно выгорят эти иди или нет.
Ты похож на ёжиков, которые плакали, кололись но продолжали жрать кактус. По-моему — это бесперспективно. ИИ всерьёз и на долго. Его возможности будут только расти. Начинай приспосабливаться или уходи на пенсию и дай дорогу тем, кто сможет с ИИ ужиться.
Pzz>>>Пробовали. Рефакторинги — нунах, в результате работающий код становится немного "опримизированным" и перестаёт работать. LVV>
Глупость поддерживаешь. Вот буквально сегодня сгенерил ИИшкой ToString() к нескольким классам. Причем очень тупой ИИшкой на 30b параметров (доступной на работе). Она это сделала пока я заваривал себе чай. Пришел, скопипастил и остался доволен, так как не нужно тупую работу делать. ИИшка всё сделала по образцу написанному вручную и всё получилось так как я хотел. Если писал сам, то написал бы всё тоже самое, только убил бы больше времени и не заварил чай.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, VladD2, Вы писали:
VD>У меня еще отец темой ИИ бредил те самые 30 лет назад. Все уши мне прожужжал экспертными системами и прологом. Реальный ИИ появился в 2020-х годах. Какие-то зачатки были и раньше, но было вообще не ясно выгорят эти иди или нет.
батя не дожил до настоящего ИИ ? (типа SUNO/MidJourney/ChatGPT и т.д.)
Здравствуйте, LaptevVV, Вы писали:
LVV>Не при нашей жизни.
Если скачать локальные модели (например, проект ollama), и попробовать их, то вы довольно быстро заметите, что соотношение качества/скорости моделей имеет вполне себе линейную зависимость. Не квадратичную, и тем более не кубическую.
Имея эту простую демонстрацию, откуда у кого-то возникла идея о "не при нашей жизни"? Как можно такое заявлять, если перед глазами есть практические примеры, которые прямо опровергают подобные заявления?
(Обучение — это другое дело, возможно речь была об этом. Но это решается капиталом и супервычислениями)
LVV>>Не читают... LVV>>Так у нас очно и защищают. Как диссертации. VD>Ну и какие тогда проблемы? Если не читал, а тупо перепечатал, сразу завалится. Если читал, то он просто автоматизировал свою работу. Молодец! Похвалить надо.
У нас еще программу надо написать...
Желательно по заказу какому-нибудь.
И демонстрировать ее работу.
Сгенерировал — молодец.
Только покажи, как она работает, и чтоб отвечала требованиям заказчика — это тоже покажи...
VD>Ты похож на ёжиков, которые плакали, кололись но продолжали жрать кактус. По-моему — это бесперспективно. ИИ всерьёз и на долго. Его возможности будут только расти. Начинай приспосабливаться или уходи на пенсию и дай дорогу тем, кто сможет с ИИ ужиться.
Ну, мне пофигу, если студент мне рассказывает, о чем программа, почему она такая и чего надо поменять, чтобы уж совсем сделать, как заказчику надо.
Но ведь не рассказывает.
А потому — вредно. Свои мозги не развивает.
Именно об этом постоянно говорит Ашманов.
А потом приходят такие на работу.
Начальник говорит: там бухгалтерия звонила, надо новый принтер им поставить.
Вот принтер — вперед.
Вечером выясняется: чел взял коробку с принтером, пришел в бухгалтерию, спросил, куда поставить, и ушел.
Реальный случай. Челу 27 лет.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, LaptevVV, Вы писали:
N>>Правду говорит математика. У Шаманова готова математическая модель? Он тоже хайпит, только для себя. LVV>Он говорит о потребляемой энергии. А не теоретической невозможности.
Кажется, что по земле ходят несколь миллиардов ЕИ и энергии хватает. Нет? Или он типа Пенроуза — считает, что у интеллекта может быть исключительно квантовая природа? Есть не видео, а текстом?
Здравствуйте, LaptevVV, Вы писали:
LVV>У нас еще программу надо написать... LVV>Желательно по заказу какому-нибудь. LVV>И демонстрировать ее работу. LVV>Сгенерировал — молодец. LVV>Только покажи, как она работает, и чтоб отвечала требованиям заказчика — это тоже покажи...
Ну и отлично! Правильно делаете. Действительно нет разницы сгенерированный код или рукописный, если человек его понимает и автор идеи.
Вот ваша работа усложняется. Оценку по принесенной бумажке уже поставить нельзя.
LVV>Ну, мне пофигу, если студент мне рассказывает, о чем программа, почему она такая и чего надо поменять, чтобы уж совсем сделать, как заказчику надо.
Вот это правильный подход!
LVV>Но ведь не рассказывает.
Ну так это другое дело. Это халтурщик. Они и с ИИ будет халтурщиком, и без ИИ.
Я вот своей дочке (она еще школьница) прямо говорю: Не понимаешь тему, спроси ИИ. Проси, чтобы она тебе её разжевал. Только ты тему понять должна и мочь другим её объяснить.
LVV>А потому — вредно. Свои мозги не развивает.
А вот это не верный вывод. Вредно не ИИ, а пытаться заместить ИИ собственное понимание. А ИИ сверхполезная вещь хотя как источник знаний. Можно не искать книги, тему на форуме или документацию, а быстро получить лаконичный и исчерпывающий ответ на свои вопросы.
LVV>Именно об этом постоянно говорит Ашманов.
Да пусть говорит о чём угодно. У меня пиетета перед именами нет. Я смотрю на смысл. А смысл глупый.
Нравится вам, не нравится. ИИ есть и полезен людям. Ваша задача приспособиться к новому миру.
Кстати, пора перестать от детей требовать зазубренных знаний. Они теперь легко могут получить просто грамотно сформулировав вопрос. И пора переходить к проверке умения добыть эти знания любым путём (гуглингм, обращением к ИИ, к людям и т.п.).
Человеку теперь нужен общий кругозор (чтобы знать что искать) и умение искать и воспринимать нужную информацию.
А зубрили никогда ничего не добавились. У нас и в школе, и в институте было много отличниц. Всё знали. На всех уроках одни пятёрки. Но что сейчас на работе рядом умных девок раз два и обчёлся. Все как одна не тянут или тянут очень слабенько. И поверь у нас в компании никакой сегрегации. Если девка тянет, будет работать и получать как все. Просо зубрила — это совсем другое. Это не гибкость ума и умение решать проблемы, а усидчивость, аккуратность, хорошая память. Точь в точь как современные ИИшки.
LVV>А потом приходят такие на работу. LVV>Начальник говорит: там бухгалтерия звонила, надо новый принтер им поставить. LVV>Вот принтер — вперед. LVV>Вечером выясняется: чел взял коробку с принтером, пришел в бухгалтерию, спросил, куда поставить, и ушел. LVV>Реальный случай. Челу 27 лет.
А зачем программисту ставить принтер? По мне так это от работы грузчика (которую он выполнил) не сильно отличается. Когда придет на реальную работу ему этим заниматься не придется. А если придется тут ему ИИшкка очень даже может помочь.
Ваша задача выпустить из ВУЗ-а инженера. А значит, умеющего думать, знающего что искать, умеющего искать и умеющего решать проблемы.
Вот это и проверяйте. А с ИИ решил или без — да по фиг! Просто сделайте так, чтобы он не мог уйти просто сдав сгенеренную ИИ работу. Ты все правильно описал. Пусть объяснит. Пусть сможет при тебе изменить код так, чтобы он решил задачу иначе.
В общем, не зацикливайтесь на том как. Проверяйте, что человек шарит в теме. Наверно это сложнее чем просто проверить работу. Ну дак и вы же должны совершенстоваться.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, VladD2, Вы писали:
VD>Люди с головой вполне нормально могут ускорять работу с помощью ИИ: VD>1. Рефакторинги. это как доверить рефакторинг джуну
VD>2. Написание тестов.
которые тоже надо перепроверять
VD>3. Поиск и даже написание стандартных алгоритмов.
ну вот это и есть единственное примение — просто поисковая примочка к массе материалов, которые ранее были созданы людьми
VD>Просто надо понимать, что ИИ могут, а что нет.
пункт 1 и 2 странный, если это понимать
Здравствуйте, viellsky, Вы писали:
V> это как доверить рефакторинг джуну
Это как доверять рефакторинг тулу. Просто тул умеет делать произвольные рефакторинги, которые ты сумеешь описать в виде промта.
V>которые тоже надо перепроверять
Любой код нужно перепроверять. Даже свой. Какие с этим проблемы? Прочесть всегда проще чем написать. Более того ты его и прогнать можешь и убедиться, что код проверяет то, что нужно.
V>ну вот это и есть единственное примение — просто поисковая примочка к массе материалов, которые ранее были созданы людьми
Оба пункта твоя некомпетентность. У меня не плохо получается. Не всегда, не всё, но очень даже получается. И это только начало. Уж точно хуже не станет.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, LaptevVV, Вы писали:
LVV>Во, примерно так было в московской конторе, где я работал 22-23 год. Я тимлида спросил конкретно: есть ли человек, который ориентируется в системе в целом и знает ее. Он ответил, что одного такого нет, но все вместе они знают.
Не поверишь, но это так для любого крупного проекта. Есть кто-то кто понимает общую архитектуру, но так чтобы знать весь код из огромного проекта — это физически невозможно.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, VladD2, Вы писали:
VD>Глупость поддерживаешь. Вот буквально сегодня сгенерил ИИшкой ToString() к нескольким классам. Причем очень тупой ИИшкой на 30b параметров (доступной на работе). Она это сделала пока я заваривал себе чай. Пришел, скопипастил и остался доволен, так как не нужно тупую работу делать. ИИшка всё сделала по образцу написанному вручную и всё получилось так как я хотел. Если писал сам, то написал бы всё тоже самое, только убил бы больше времени и не заварил чай.
По хорошему, этот ToString() должен бы быть встроен в stdlib твоего языка программирования...
Здравствуйте, LaptevVV, Вы писали:
N>>Правду говорит математика. У Шаманова готова математическая модель? Он тоже хайпит, только для себя. LVV>Он говорит о потребляемой энергии. А не теоретической невозможности. LVV>Теоретически мы и на Юпитер слетать можем, ибо второй космической скорости земляне уже вполне достигли. LVV>А практически ?
А почему человеческому мозгу хватает 20-и ватт, а электрическому разуму не хватает всех электростанций Земли?
Здравствуйте, LaptevVV, Вы писали:
Pzz>>А почему человеческому мозгу хватает 20-и ватт, а электрическому разуму не хватает всех электростанций Земли? LVV>Так принципы устройства другие совершенно. LVV>Птицы и самолеты — летают. Но совершенно на разных принципах...
Ну вроде как пока что нейронки делали с оглядкой на мозги. В тех пределах, конечно, насколько устройство мозгов вообще известно.
LVV>>Так принципы устройства другие совершенно. LVV>>Птицы и самолеты — летают. Но совершенно на разных принципах... Pzz>Ну вроде как пока что нейронки делали с оглядкой на мозги. В тех пределах, конечно, насколько устройство мозгов вообще известно.
Только названия.
Матрицы и функции — это не нейроны... Pzz>P.S. С хорошим пинком и ёжики летают
С этим не поспоришь. Но принцип — опять не как у птиц...
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, Pzz, Вы писали:
Pzz>По хорошему, этот ToString() должен бы быть встроен в stdlib твоего языка программирования...
А чё прямо ОС не встроить сразу? ToString может быть реализован по разному. Вот у новых типов record есть встроенный ToString, но он часто многословный и все равно иногда требуется его переопределить. Здесь же я даю ИИшки пример того, как я хочу чтобы было, а она делает по образу и подобию реализацию для другого типа. Прямо идеальное решение. Причем если тебе что-то не понравилось, ты можешь и сам поправить и ИИшки сказать как переделать.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Pzz, Вы писали:
Pzz>Что значит, "занать весь код"? Pzz>Если знать наизусть каждую строчку кода — да, невозможно.
Дык иначе ты не полностью разбираешься.
Pzz>Ориентироваться на уровне, "понять, какой код отвечает за XXX" — совершенно возможно. Человек, разбирающийся в проекте, навскидку скажет, куда примерно смотреть, какая там архитектура и зачем вообще так, и потратив разумнее время, локализует до конкретных файлов, классов и строк.
Даже на таком уровне ты в каком-нибудь КИСе хер разбершься. Иногда бага может несколько человек обойти пока найдёт того, кто сможет понять куда надо копать. В них не написано где что грохнуло. В них какие-то сиптомы. Вот упал у тебя тест. Но не в 90% случаев он падает не на том, что тестирует.
Pzz>А как иначе-то?
Ну вот так и иначе. Общее представление архитектуры и отдельные области с теми кто их знает лучше. А иногда бывает, что автор уже свалил и этот код просто никто еще не знает. Приходится садиться и изучать его занова.
Вот недавно на меня свалилась ошибка возникавшая в процессе сборки. Чтобы понять в чем причина пришлось идти тем кто писал сборочные скипты на базеле и Питоне. В итоге разобрались общими усилиями. Но каждый из нас знал лишь часть "системы".
Так что иногда, и довольно часто, приходится править код, который ты совсем не знаешь и узнать кто его знает не представляется возможным.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, VladD2, Вы писали:
VD>Даже на таком уровне ты в каком-нибудь КИСе хер разбершься. Иногда бага может несколько человек обойти пока найдёт того, кто сможет понять куда надо копать. В них не написано где что грохнуло. В них какие-то сиптомы. Вот упал у тебя тест. Но не в 90% случаев он падает не на том, что тестирует.
Если этот КИС написан так, как я думаю, в нём вообще хрен разберёшься.
В ядре Linux я ориентируюсь примерно на таком уровне, как говорю (кроме новомодных видеодрайверов). Потому, что оно написано скучно и однообразно, в нём есть логика, которая примерно одинаковая везде.
А вот в CVS мне как-то понадобилось разобраться. Казалось бы, маленькая програмка. Но там лапша, приправленная винигретом. В конце концов плюнул и отступился, не настолько велика была потребность, как то количество сил, которые потребовалось бы на эту хрень положить.
Здравствуйте, Pzz, Вы писали:
Pzz>Вот я б поспорил. Поисковик хоть умеет сказать "ничего не найдено". А ИИ — он оптимист и всегда готов, как юный пионер. Поэтому чего не знает, сочинит на лету. А мне потом проверять.
Ну вообще-то все ИИ с поиском если не находят ответ в поиск, говорят что-то вроде "Точных данных не удалось найти...", так что ты не прав. Вот если ты будешь без поиска обращаться к ИИ, то он может галлюцинации вместо правильного ответа выдать. Но и с этим уже борются. Хорошие ИИшки сейчас выдают глюки только в 25% случае, если они что-то не знают. Тоже, конечно, не здорово. Но и люди частенько говорят хенрю и полностью в ней уверены.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, LaptevVV, Вы писали:
LVV>Ашманов говорит, что всей мощности Земли не хватит, чтобы сделать "сильный" ИИ. Чел более 30 лет в ИИ — можно верить.
Если он такое действительно говорит, то он уже дискредитировал себя до полного дурака. В фабриках Гугла, Маска и ОпенАИ уже столько вычислительных мощностей, что дальше ехать некуда. В прочем, некоторые с возрастом тупеют, а не умнеют. Деменцию никто не отменял.
LVV>Не при нашей жизни.
Да оно здесь и сейчас. И только слепой или упертый ишак может это отрицать. Есть конечно проблемы. И еще лет 10-20 их будут решать. Но главный прорыв сделан.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Nuzhny, Вы писали:
N>Нельзя верить. Отсылка к авторитету — это один из лжеаргументов, прямо по учебнику. Так-то можно найти авторитетов и посильнее твоего Шаманова, с мировым именем и даже Нобелевкой в этой области.
Тут даже авторитетов не надо, чтобы понять, что это бед идиота. Да имя тоже не особо выдающееся. Я почему-то до этой темы его ни разу не слышал.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, LaptevVV, Вы писали:
LVV>Птицы и самолеты — летают. Но совершенно на разных принципах...
Вообще-то именно принцип полёта один — подъёмная сила крыла. Вот двигатели и движители разные.
Но наличие биологического мозга потребляющего действительно так мало энергии и при этом не только думающего, но еще и в реализме общипывающего зрение, слух, осязание, навигацию и управление внутренними органами говорит о том, что ИИ уж точно можно сделать энергоэффективное.
Главное чтобы при этом не сделать его таким же медленным. Главное преимущество ИИ над нами в том, что они намного быстрее и могут масштабироваться.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Pzz, Вы писали:
Pzz>Я так понимаю, там и действительно прям нейроны (т.е., модель их, штука с N входами с коэффициентами и одним выходом, который срабатывает или нет в зависимости от того, куда перетянут входы с учётом коэффициентов). А матрицы и функции нужны, чтобы постараться понять, как эта хреновина работает, а не наугад тыкать.
Там не те нейроны, которые в мозгу. В мозгу они асинхронные и сработки у них не на каждом входе, а только при достаточном насыщении. Есть попытки сделать и нейроны как в мозгу, но LLM работают не на них.
Здравствуйте, VladD2, Вы писали:
Pzz>>А почему человеческому мозгу хватает 20-и ватт, а электрическому разуму не хватает всех электростанций Земли?
VD>Миллионы лет эволюции без внешних, эффективных источников питания. Ну и не ватт, а ккал скорее. Я так понимаю ты перевел 1300 ккал в аналог ватт?
Если честно, посмотрел в гугле и не проверял. Но по ощущениям, как-то близко.
Здравствуйте, LaptevVV, Вы писали:
LVV>Тут не энергия. тут узкоспециализированные алгоритмы. Особенно Го.
Не так. Там был универсальный алгоритм для обучения игры в любые игры. А, как тебе? Сперва они сделали алгоритм, который сам научился играть в компьютерные игры — сразу в сотню игр.
LVV>Которые никак не похожи на нейроны мозга. LVV>А требуется нечто универсальное самообучающееся...
Как раз к этому дело и идёт, всё более и более универсальное.
LVV>Причем, сколько лет самообучается человек ? LVV>При наличии нескольких рецепторов РАЗНОГО типа ? LVV>Почему ты думаешь, что самообучение универсального ИИ будет меньше времени занимать ?
Или времени, или мощности.
LVV>Так это одна узконаправленная область мозговой деятельности.
У Шенннона — да. Но теперь этим занимается универсальный алгоритм, а не специализированный шахматный. Разница есть.
LVV>И структура белка — задача стояла 50 лет, пока мощности доросли до необходимых. LVV>И алгоритмы были усовершенствованы настолько, что все получилось.
В том-то и дело, что эта задача считалась нерешаемой в классической постановке. Но что-то пошло не так и она решилась. Аналогично ждут и с интеллектом: раз он существует (у нас в головах), то существуют и компьютеры — наши мозги. Как не обязательно быть белком, чтобы вычислить свою форму, так не обязательно быть мозгом, чтобы вычислить какой-то результат. То есть идея в том, что Природа не действует полным перебором, а движется от какого-то минимума к минимуму. И человеческий интеллект — это тоже точка экстремума, который реально найти с некоторым приближением. Также как с Го или белками.
N>У Шенннона — да. Но теперь этим занимается универсальный алгоритм, а не специализированный шахматный. Разница есть.
Специализированный — на интеллектуальных играх.
LVV>>И структура белка — задача стояла 50 лет, пока мощности доросли до необходимых. LVV>>И алгоритмы были усовершенствованы настолько, что все получилось.
N>В том-то и дело, что эта задача считалась нерешаемой в классической постановке. Но что-то пошло не так и она решилась. Аналогично ждут и с интеллектом: раз он существует (у нас в головах), то существуют и компьютеры — наши мозги. Как не обязательно быть белком, чтобы вычислить свою форму, так не обязательно быть мозгом, чтобы вычислить какой-то результат. То есть идея в том, что Природа не действует полным перебором, а движется от какого-то минимума к минимуму. И человеческий интеллект — это тоже точка экстремума, который реально найти с некоторым приближением. Также как с Го или белками.
1. Мы не знаем что такое интеллект.
2. Мы не знаем, существует ли и нтеллект...
Особенно у нас в головах...
У меня — БОЛЬШИЕ сомнения на это счет.
Хочешь быть счастливым — будь им!
Без булдырабыз!!!
Здравствуйте, VladD2, Вы писали:
VD>Тут даже авторитетов не надо, чтобы понять, что это бед идиота. Да имя тоже не особо выдающееся. Я почему-то до этой темы его ни разу не слышал.
Ну, это ты не слышал. А вообще, он — человек довольно известный.
Это один из крупнейших специалистов нашей страны в области языковых моделей.
Бывший исполнительный директор "Рамблера".
Его книжка "Жизнь внутри пузыря" — однозначный маст-рид на уровне "Мифический человеко-месяц".
Здравствуйте, LaptevVV, Вы писали:
LVV>А требуется нечто универсальное самообучающееся...
Оно и есть универсальное. Фактически ИИ дают "книги" и через какое-то время получается эрудит.
LVV>Причем, сколько лет самообучается человек ?
Пока живёт. Но делает он это очень медленно. Ему нельзя скормить учебник математики за день или даже за месяц. Нужен целый год, чтобы знания отложились в мозге. И то со временем они из него выветриваются.
LVV>При наличии нескольких рецепторов РАЗНОГО типа ?
Это не понял.
LVV>Почему ты думаешь, что самообучение универсального ИИ будет меньше времени занимать ?
Потому что это не биологический мозг, он работает на совсем других скоростях, а главное, масштабируется. Плюс этот мозг еще можно оптимизировать. Вот сейчас разные новые архитектуры применяют.
Мозг человека штука крутая, но очень тормозная. Он и думает медленно. А уж обучается неприемлемо медленно. Ну и уж совсем фатальным недостатком является то, что каждого человека нужно учить с нуля. Это, конечно, и преимущество, так как порождает невероятное разнообразие. Но в плане быстрого получения нужного количества знающих людей прямо фатальный недостаток.
ИИ с их скоростями и масштабированием позволяют буквально за месяцы получить эксперта почти по всем вопросам, записать его "мозг" на диск и запустить нужное количество копий. В перспективе вложить такую копию в каждого робота.
LVV>Алгоритмами интеллектуальных игр сколько десятилетий занимались ?
Я думаю, что он тебе говорил не про программы, а про то, что ИИ сделал человека в Го.
LVV>Ждем еще 50 лет...
Мы 50 лет точно не дождемся. Но уверен, что прогресс в этом вопросе будет куда быстрее. Я ставлю на 10-20 лет. А уже в течении будущих 5 лет мы увидим заметный прогресс.
Слышал мнение людей близких к процессам обучения, что рекурсивное задействование ИИ приведет к экспоненциальному росту возможностей. Сам к этому скептически отношусь. Здравое зерно в этом есть.
По сути сейчас не решена только одна проблема — полноценное дообучение. Сейчас дообучение приводит к катастрофическому забыванию старого (перетиранию старых знаний). Но над этой проблемой работает море людей. Есть интересные исследовательские работы. Думаю, что лет за 5 её таки решат. И тогда ИИ смогут обучаться всю жизнь, как мы. И единственной проблемой для них будет проблема размера "мозга". Ведь новые знания будут требовать дополнительной оперативки.
Есть логика намерений и логика обстоятельств, последняя всегда сильнее.
Здравствуйте, Nuzhny, Вы писали:
нейронки его раздражают и мешают преподавать.
, я прошу прощения но как может раздражать экскаватор, )) или феррари ??))
просто вычислительный механизм, ессно в некоторых местах будем мощнее. раскопки не проведет (а вот это тонкий момент) это уже задача преподавателя свести дискуссию в то русло, где ИИ — просто тупая машина, ткскть нустро щипануть
VD>А рядом "DeepSeek-OCR + LLama4 + RAG = Революция в мире агентного OCR", т.е. ИИ говно, но вот в области OCR — из-за них революция.
VD>Да он тролль пишущий всем что они хотят.
Баа да вы тут людей обсуждаете, а не технологию ))?? ну тады я дрысь ))
не буду строить тут из себя но карпика надо чистить, а не цилю.
Здравствуйте, Aquilaware, Вы писали:
A>Здравствуйте, LaptevVV, Вы писали:
LVV>>В общем — очень интересно
A>Недостатков и ограничений будет всё меньше и меньше по мере увеличения вычислительной мощности.
Месье, экспоненту ваши даже "вычислительные мощности" не сожрут, сколько бы вы датацентров не построили.
Здравствуйте, VladD2, Вы писали:
V>> "рефакторинг тулом" vs "рефакторинг ИИ-кой" это как "считать на калькуляторе" vs "считать ИИ-кой"
VD>Это ложная аналогия. Она приравнивает принципиально разные по сложности задачи. Использование ИИ для простой арифметики действительно избыточно — так как всегда есть то самое детерминированное решение,
Да ну ))) для арифметики ? с ложной аналогией согласен, но только не надо в контексте ИИ про непогрешимость и точность. Вы вообще про неполноту (а отсюда и etc...) нет? Весь ИИ обложен, неполнотой, накоплением ошибки (и не только), и в итоге неожиданными глюками в глубине к применяемой системе. И вот я не совсем согласен, что искать эти глюки быстрее, чем написать одну строчку в обобщенном коде.
VD>универсальный алгоритм вычисления (в прочем хорошая ИИ-шка, как и не глупый человек без проблем и выражения вычислит).
Ну вот хватит экскаватор сравнивать с человеком. Вы накопление ошибки считали (ну перечисляли) ??
Итак — ваши промты, кто занимается векторизацией слов? Генерацией токенов (имеется в виду параметризацией), подбором параметров? Как слова в LLM приобретают вид конкретных инструкций (а все иное просто топчется лесом)? Автоматом, transform?))))) от не надо.
VD>Рефакторинг — это сложная, многокритериальная и часто творческая задача, для которой не всегда существует единый детерминированный алгоритма
) да в шарпах сложно жить.
VD>и даже если такой существует для частных случаев, часто он просто не реализован в IDE,
а зачем ?? Если писали умные люди, то первое ИИ там себе ноги поломает (пробовали знаем), а во вторых мимализм и обобщенность. Пишите код на правильном языке, с правильной архитектурой, и ИИ вы таки начнете использовать по назначению.
VD>а стало быть не может быть применён.
Сам зааксиомил непойми что, и сам вывод сделал. НЮНЮ.
VD>ИИ решает не ту же задачу, что и тулинг (синтаксические преобразования),
это какие ?)))
VD>а задачу более высокого уровня — семантический и архитектурный анализ
Ага, большая часть семантики скрыта в джире и бошках девелоперов (тех, кто еще живы), блин реально )))
VD>и осмысленное переписывание кода,
И откудла там осмысленное переписывание кода ?? А??? А если ему
(коду) уже лет 50??? И там инфу чел будет рыть по коллегам джире, коммитам гиту и прочему )))??? Вы туда ИИ запустите? Так он себе там так ноги поломает, и такого нагенерит, .. нюню (как говорят в Одессе).
VD>как это делает человек. И ИИ способен генерировать сотни слов в секунду в отличии от человека, что и позволяет использовать его в качестве тулзы рефакторинга.
Ага. Я так понимаю, у вас срослось с мелкой задачкой по рефакторингу .. скажем небольшого участка кода, и вы воспылали любовью. Ну и это пройдет.
VD>Я не спорю, что если есть готовый рефакторинг, применять вместо него ИИ довольно бессмысленно хотя бы потому, что рефакторинг работает намного быстрее и детерминировано. Но автоматические рефакторинги покрывают лишь часть совсем простых случаев. А ИИ может сделать рефакторинг почти любой сложности,
Слушайте, хватит вводить народ в заблуждение. В реальных проектах где экспертиза разбросана по юнитам ИИ просто об****тся. Ну я не спорю, что машину надо пинать под задницу в правильное направление, но иногда, мне проще на коде с кмпайлтайм рефлекшином добавить одну — пару строчек .. чем чем этому барану рассказывать, а почему оно тут так ... — в весьма извращенных вариантах.
VD>так как он может понимать контекст и производить анализ, как и человек. Все что нужно сделать — качественно поставить задачу и предоставить необходимый контекст (код).
т.е. я должен вместо того, чтобы быстренько наколбасить код (весьма короткий шаблонный и обобщенный), в правильной архитектуре с историей, и разбросанной экспертизой, кою собрать и выдать ИИ не представляется возможным в назначенные сроки т.к. я опа и сделал, а эту дрянь я еще пинать должен непонятно какой срок ... ???))
V>> В основе тулов лежат детерминированные вычисления... А в основе ИИ-ки лежит и случайная интерпретация задачи и случайное её применение — примерно так работает джун.
Вы весьма переоцениваете случайность в ИИ
VD>Твое понимание работы ИИ детское и наивное ну или устарело. Современные LLM — это не генераторы случайных токенов, а системы, выявляющие сложные логические и семантические паттерны на основе обучения на огромных массивах качественного кода.
Ага, только не моего, он можно грубо ?? "дупля не отбивает, что там в этом коде, который я ему дам"
VD>Их работа — это не "случайное применение", а предсказание наиболее вероятного корректного решения, аналогичное процессу мышления опытного разработчика.
А это просто какое-то.. предновогоднее наверное. Какой опытный разработчик, если это чучело
1. не компилятор
2. не имеет экспертизы в том коде, куда его запускают (если его не просят решить типовую задачу, что в принципе в подавляющем случаев так и есть)
3... да сами подумайте ... там еще пунктов и пунктов )) попросите ИИ — ответить
VD>Сравнение с джуном некорректно: ИИ обладает "опытом", на порядки превышающим человеческий, так как "видел" больше паттернов.
вот именно "опытом"
V>> Перепроверка имеет такие показатели, как затраты, вероятность пропустить ошибку.
VD>Именно поэтому ИИ — мощный инструмент. Проверить и доработать качественное предложение от ИИ дешевле, чем писать решение с нуля.
А это какое, и какое с нуля ?? Меня его генерации раздражают, он не шарит. и не напишет код, как я хочу. есть области применения .. но и там за ним подтирать, и подтирать. А архитектуру — да пшел он ...
VD>Он резко повышает качество исходного варианта,
слова слова слова ...
VD>сокращая пространство для ошибок и снижая общие затраты. Ревью кода от коллеги ты тоже проверяешь, но это не делает его работу бесполезной.
Коллега не обременен накоплением ошибок (и прочими сюрпризами линейной алгебры векторизацией слов и прочих алгоритмов, которые смысл.. семантику втопчут в ню), обучаем, причем в контексте той архитектуры, что ему дают (и это не ваше позднее связывание)
VD>Когда ты проверяешь, что сделал ИИ ты просто используешь diff.
Это вообще волшебно, diff после "рефакторинга" ИИ-шкой
VD>Ты видишь, что изменила ИИ-шка и можешь или откатить ненужные изменения, или уточнить в промпте,
Знаете, я за свою программерскую жизнь понял одну вещь, чем сложнее технология, тем больше с ней долбаться. Промты — сырое и не языкоподобное образование, это скорее для девочек, картинки рисовать. Я бы предпочел, ферари. язык, который мне даст мне возможность эту технологию так обуздать, чтобы она ... была как компилятор С++ 26-го стандарта. Чтобы я написал, а оно мне — ... ну вы понимаете. А все это блаблабла с векторизацией (сквозь дырявой) слов, ..и мне не нужен естественный язык. Мы не девочки мы не в этой области работаем, все должно быть — железобетонно.
VD>что делать надо, а что не надо.
Нюню, а неоднозначность промта ??? А накопление ошибки в тех градидентах ??? А глюки в обратной связи ??
VD>Что сложного в том, чтобы понять, что изменила ИИ-ка по diff-у? Ниже будет пример промпта и их diff. Можешь оценить сам.
Две строчки поменял ... и — да там регекспом пройтись, ну (не вникал)
VD>Писать и отлаживать код куда медленнее нежели читать его.
Это смотря на чем писать. В языках с поздним связыванием и без метпрограммига да — сложно жить. А когда у тебя любой шаг влево компайл тайм констрейнт покрывает, то пади ты ошибись.. ) и никакой ИИ эти мысли не поднимет, только человек (возможно с использованием оного).
VD>Ну и должны быть тесты или тестовый запуск с проверкой функционала.
а тесты кто буде тестить ?)))
VD>Именно так делают люди когда сами пишут код. Ни всегда получается написать корректный код сразу (даже человеку).
ООО вот тут вы выдали себя — даже человеку, т.е. понимание таки есть.
VD>Всегда есть место для ошибки. Лично я всегда смотрю свой код при коммите и потом в PR-е. Ну и по возможности стараюсь его запускать и тестировать или запускать тесты.
V>>Оба пункта странные — потому что они никак не следуют из того, как работают ИИ.
VD>Не как работает ИИ, а твоим заблуждениям по этому поводу. Давай будем точными в формулировках.
V>> ...ты воспринимаешь ИИ как волшебный черный ящик... на всем множестве задач это не работает.
нет он просто тебе оппонирует, и у него получился "рефакторинг"
VD>Не надо за меня додумывать. ИИ — не волшебный ящик, а инструмент с конкретными сильными и слабыми сторонами. Его сила — в работе с неформализованными, контекстно-зависимыми задачами, где нет детерминированного алгоритма.
не детерминированные алгоритмы ? А если там просто рассчитать налоговую накладную по новому плану счетов, в общем чистый расчет? Что там не детерминированного. Не детерминированное это из области статистики (плодом чего ИИ и является), хотя без реального генератора СЧ — все одно детерминированно. или вы за квантовые расчеты.
VD>Для таких задач (к которым относится большая часть сложного рефакторинга)
Вы конечно простите, но рефакторинг по определению детерминирован, да вариативен, но детерминирован.
VD>он часто работает и работает хорошо. Критиковать его за не идеальность на "всем множестве задач" — это требовать от отвёртки, чтобы она хорошо забивала гвозди.
а вот мне кажется, что для рефакторинга ИИ как раз и есть — то, что вы сказали.
VD>Твоя основная ошибка — в дихотомии "либо детерминированный алгоритм, либо бесполезная случайность". Реальность сложнее: ИИ — это статистически обобщённый алгоритм высокого уровня,
Бла бла, весь этот разговор вообще смысла имеет мало, потому как мы обсуждаем ничто. Какой ИИ? вообще ИИ?
VD>который дополняет детерминированные тулы, решая те задачи, которые им недоступны в принципе или не автоматизированы на сегодня.
Отродясь люди писали генераторы. Качественное и корректно применение ИИ — в генерации массивных формализованных данных, на основе неформальных вводных, или же классификации и формализации оных. И таких технологий было со времен AMC, и прочих статистических алгоритмов.
VD>Вот тебе пример который придумал на ходу. В студии нет встроенного рефакторинга правильно расставляющего ключевые слова sealed и abstract на типах. Но дав ИИ-шке просто промпт и код (в данном случае фалы: DotAst.cs и DotVisitor.cs) в качестве контекста легко заставить её расставить sealed и abstract на заданном множестве типов. При этом тебе не надо объяснять где можно ставить sealed-ы, а где нельзя. ИИ-шка без проблем создает граф наследования "в голове" и логически выводит куда можно впихнуть sealed, куда abstract, а куда ни то, ни другое. Это не случайность. Чтобы ей было сложнее я специально удалил abstract с тех типов где они уже были расставлены человеком и при этом их отсутствие не ломало бы компиляцию. Вот результат:
VD>https://chat.deepseek.com/share/bmp62sq0iab4bikx97
VD>Вот diff изменений:
VD>Image: AiWorkDiff-001.png
VD>Тебе будет сложно оценить, что ИИ сделал всё как следует? Всё что тебе нужно сделать — это перед внесением изменений засташить старые. Ну разные IDE вроде Cursore или Antigravity делают это автоматом.
VD>Специально включил режим рассуждений, хотя ИИ-шка все сделала бы правильно и без него. И что интересно, так как у данной задачи есть только одно решение, то оно всегда будет одинаковым (детерминированным),
Вариативность и детерминированность вообще вещи разные
VD>как бы ты не заявлял обратного. По сути недетерминизм скорее определяется множеством возможных решений, а не природой ИИ. И ИИ всегда можно подтолкнуть в том направлении, что тебе требуется, даже если изначально ты получил не то решение, что ожидал. Просто добавил уточняющих промптов и всё.
))) или написал пол строчки в метакоде. безовсяких пинаний ..
мндя тяжело жить в мире позднего связывания
VD>Главное, чтобы ИИ-шка была не тупой от рождения и умела следовать инструкциям. Это достижение буквально последнего года. Еще 1-2 года назад ИИ-шки плохо следовали инструкциям.
слушайте, это же просто какой-то треш. Вы на естественном языке пишите промпт, который сам по себе — не однозначен (при компиляции в систему). Потом вся эта, далее уже идет умноженное на неоднозначность заводится, запускает этот поток в свои градиенты, mladjoint и прочие с накоплением ошибки, и в итоге заявляете , что оно точно ).
V>>То, что ты увидел черную корову (в своей работе получил вау-эффект) — не значит, что все коровы черные и даже не значит, что она со второго бока тоже черная.
VD>Я не однократно использовал ИИ для решения конкретных задач, вроде той, что я тебе привел в качестве примера. Не скажу, что всегда удавалось добиться желаемого. Но очень часто. В отличи от тебя я предпочитаю оценивать вещи на практике, а не по пересказу одной бабки.
)) Так таки да, можно прежде сказать, что за ИИ? Я тоже кидал код, и просил генерировать, и сейчас пользую иногда. Но в реально нетривиальном проекте, с разбросанной экспертизой — что мертвому припарки. Неплохо иногда консультирует, но — всегда держи ухо в остро, навалять лажи может не глядя, да еще какой ))
VD>Что там тебе за коровы мерещатся, я не знаю. Я вполне реалистично оцениваю ИИ и часто критикую оные за тупость.
Я свой резюм скажу
— 1. надо писать язык, чтобы эту тварь заставить работать
— 2. интеграция с компиляторами, бо блин достало когда эта дрянь генерит, к примеру пайтон код с выдуманными полями, которых
в помине нет. (не все, о часто)
— 3. язык должен быть формальным, вполне возможно сложным, точно сложнее С++ etc... такой потенциал точно требуется
— 4. при написании есстественным языком — должен быть представлен внутренний вариант, наподобе того как оракл выдает внутреннее содержание запроса в системе.
(типа SUNO/MidJourney/ChatGPT и т.д.)
