Здравствуйте, Shmj, Вы писали:
S>Есть ли гарантия что оно само не научится неким образом декомпозировать?
Может и научится. Может завтра будет атомная война, и мы все умрём. Фишка же не в этом, а в том, что конкретно сейчас ИИ — это очень мощный инструмент, который на порядок упрощает целый класс задач, который вроде бы как и можно было автоматизировать, но непрактично. И это позволяет прямо сейчас некисло так поднять собственную продуктивность тем, кому она не безразлична.
Re[7]: Откуда GPT это узнал - кто сможет объяснить?
Здравствуйте, Shmj, Вы писали:
S>Здравствуйте, Doom100500, Вы писали:
D>>Теперь ближе к теме: D>>Каждый раз, когда мне было лень читать доки, и я пробовал бота, то всегда был бред, который не даже не компилируется, а когда компилируется — то повторяет мои ощибки, когда пытался взять проблему наскоком. В результате — пишешь вё сам, но разобравщись, а окно с тупым ботом закрываешь до следующего раза.
S>Так это когда было?
На прошлой неделе в последний раз.
D>>Но то, что ты спрашиваешь — это не доки. Это банальная математика плюс метапрограмирование на C++. Без знания этих двух вещей — лучше не пытаться даже исправлять за ботом. Не говоря о том, что не глядя такой код вообще нелзья вносить.
S>Вопрос: каким образом это смог решить GPT?
Во-первых, ты уверен, что смог? Ты его проверил, поправлял?
Во-вторых — даже если и смог, то случайно, как и всё то, что он выдаёт. Его ответы больше соответствует паттерну "слышал звон — не знаю где он". Потому что это и есть принцип работы LLM.
Если мы видим ChatGPT как хорошего говорильщика (генератора текста), то все остальные языки программирования тоже являются языками, причём гораздо более формализованными а значит проще их понимать.
Тогда можно сказать что он на С++ — разговаривает.
Тоже думаю с математикой, хотя я не представляю пока как числа там представляются в модели — видимо из-за этого объём изучаемого недостаточен чтобы вывести сжатую структуру при обучении, ChatGPT пока относительно слаб в этом.
Недавно смотрел видос на эту тему — мозг человека устроен очень похоже, текст генерится волной на какое то ощущение, там тоже слои и связи. Чего нехватает машине это самообучения и циклов в мышлении — чтобы выход подавался на вход, чтобы машина сама ставила себе цель и держала мысль. Нет там волевого блока, генератора желаний/эмоций. Пока всё что мы видим это "руль и колёса" будущего искуственного интеллекта, она уже может слышать и видеть, может говорить но за рулём пока никого нет.
Здравствуйте, johny5, Вы писали:
J>чтобы вход подавался на выход, чтобы машина сама ставила себе цель и держала мысль.
Ну вот в GPT o1 — уже есть цепочка рассуждений — это оно?
J>Нет там волевого блока, генератора желаний
Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему.
J>эмоций.
Что вы понимаете под эмоциями? Внешнее проявление, как то резкость высказываний и мимика на робо-лице? Или же внутренние ощущения, квалиа?
Здравствуйте, Shmj, Вы писали:
S>Ну вот в GPT o1 — уже есть цепочка рассуждений — это оно?
Сам не щупал, но часто пишут что мол да, можно начинать раскидывать руками и говорить что логическое мышление где то уже вот совсем. Правда это всё ещё не сознание.
J>>Нет там волевого блока, генератора желаний
S>Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему.
Если волю тоже можно программировать, почему нет? Этот блок помогает держать фокус на задаче пока сеть принимает на вход непрерывный поток каких то данных. Типа как человек бы делал — он бы размышлял, перебирая в голове варианты пока правильный нейрон не зазвенит и у тебя не склеится решение. Я в общем ерунды щас напишу, я не мозговой профессор но это то как я вижу как человек приходит к "изобретениям" — у него тоже есть знания но чтобы отделить сигнал от шума, нужно много раз пробежаться по сетке с разным входом.
J>>эмоций.
S>Что вы понимаете под эмоциями? Внешнее проявление, как то резкость высказываний и мимика на робо-лице? Или же внутренние ощущения, квалиа?
Для меня было недавним откровением что эмоции это не выход а вход (т.е. внешнее представление совсем необязательно, нужно только как для социальной функции передачи эмоции). Эмоции генерятся непонятной нам (black box) эмоциональной половиной головы и результат подаётся на вход рациональной части чтобы она действовала так, чтобы удовлетворить эмоцию. Т.е. эмоциональная часть как раз рулит а вот уже наше всё: все эти блоки воли, механические навыки и логические блоки — те что мы ощущаем сознанием — вот они уже решают как добиться поставленной цели, вырабатывают набор действий и приводят их к исполнению.
Вот этого "эмоционального" блока у AI тоже нет. Понятно что мы не говорим в данном случае о человеческих эмоциях, типа голода или социальных нужд. О каких то других, например, о законах робототехники Айзимова. Ну и различные типа о саморазвитии/о жажде получать новые данные, которые бы клевали машину и она бы постоянно выражала бы желание дообучиться чему то новому. Человеческие эмоции были отобраны в результате естественного отбора. Машине же их придётся привинчивать самостоятельно чтобы она прогрессировала сама, искала и училась дальше — что то уже похожее на сознание.
Здравствуйте, johny5, Вы писали:
S>>Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему. J>Если волю тоже можно программировать, почему нет?
Только вы желания не генерируете а все-равно вкладываете внешние. И блок лишь как бы держит в фокусе внешнее желание. Вроде бы сейчас так и работает.
А вот генерация некого внутреннего желания — зачем?
S>>Что вы понимаете под эмоциями? Внешнее проявление, как то резкость высказываний и мимика на робо-лице? Или же внутренние ощущения, квалиа?
J>Для меня было недавним откровением что эмоции это не выход а вход (т.е. внешнее представление совсем необязательно, нужно только как для социальной функции передачи эмоции). Эмоции генерятся непонятной нам (black box) эмоциональной половиной головы и результат подаётся на вход рациональной части чтобы она действовала так, чтобы удовлетворить эмоцию. Т.е. эмоциональная часть как раз рулит а вот уже наше всё: все эти блоки воли, механические навыки и логические блоки — те что мы ощущаем сознанием — вот они уже решают как добиться поставленной цели, вырабатывают набор действий и приводят их к исполнению.
Так ИИ человек создает не чтобы он имел свои эмоции, как вы сказали, а чтобы реализовывал желания самого человека. Иначе в чем смысл?
Да и даже если бы мы захотели создать настоящие квалиа, подлинно эмоциональное существо, которое по настоящему наслаждается и страдает — то не смогли бы, т.к. нет ни одной гипотезы как это можно сделать.
S>Ты же понимаешь, что ИИ тебе просто всучивает те же книги и документацию просто перегенерировав текст, сам он не мыслит.
S>И вроде как с ним все согласны.
Такая модель немного упрощает то, что делает GPT. Сводя его условно к цепи Маркова с большим окном контекста. Цепь Маркова может воспроизвести только что, что видела раньше.
GPT строит для каждого токена и контекста пространство смыслов. Например если по одной оси идет ранг в обществе (король), а по другой пол (женщина), то gpt сможет выдатть слово "королева", даже если ранее слово "королева" не встречалось в таком контексте.
S>Ок, у меня такой вопрос. Есть ли где-нибудь в документации вычисление арифметической прогрессии в режиме compile-time на C++? Поискал в Интернете — не нашел особо.
Тут немного неверно, так как Copilot обучался на гитхабе и к механизмам поиска не имеет особенного отношения.
S>Исходя из предпосылки, которую выдвинул человек — ИИ не сможет сам это написать? Но почему-то смог. Есть ли способ узнать откуда у него эта информация, если он не может мыслить?
Странное утверждение. Машина сможет просто перебором рано или поздно написать что угожно, вопрос только в том, насколько часто у нее будет получаться что-то осмысленное. GPT это как раз алгоритм, который может генерироать осмысленный текст, за пределами того, что есть в обучающей выборке, на основании смыслов.
Здравствуйте, Shmj, Вы писали:
J>>Нет там волевого блока, генератора желаний
S>Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему.
Если руководству не требуется делегировать решения, а только «гвозди забивать», то да — лучше чтобы у молотка не было собственной воли.
Здравствуйте, Muxa, Вы писали:
S>>Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему. M>Если руководству не требуется делегировать решения, а только «гвозди забивать», то да — лучше чтобы у молотка не было собственной воли.
Вы о чем? Вот есть тот же GPT — говоришь ему свою волю и он решает. С каждой версией все лучше. Зачем еще какая-то другая воля? Чтобы он на форумах трындел и тратил ресурсы на это или, что хуже, занимался своими проектами и грезил покорить мир?
Здравствуйте, Shmj, Вы писали:
S>Здравствуйте, Muxa, Вы писали:
S>>>Нафиг он нужен этот блок? Наличие собственной воли работника только мешает руководству — но ее не отключишь, что иногда представляет проблему. M>>Если руководству не требуется делегировать решения, а только «гвозди забивать», то да — лучше чтобы у молотка не было собственной воли.
S>Вы о чем?
Я о нужности/ненужности наличия воли у работника для решения задач руководителя. А ты о чем?
S>Вот есть тот же GPT — говоришь ему свою волю и он решает. С каждой версией все лучше. Зачем еще какая-то другая воля?
Чтобы он мог не только гвозди ли забивать, но и места забивания правильно выбирать.
S>Чтобы он на форумах трындел и тратил ресурсы на это или, что хуже, занимался своими проектами и грезил покорить мир?
Чем это помешает ему исполнять свои обязанности?
Q>ИИ умеет первое многократно лучше людей, и не умеет все остальное вообще.
Первое тоже не умел, и есть вероятность что остальные пункты окажутся реализуемые простым алгоритмом, и вся инфраструктура электронного концлагеря уже готова, и произойдёт это внезапно однажды в ночь на субботу.
Здравствуйте, Muxa, Вы писали:
S>>Вот есть тот же GPT — говоришь ему свою волю и он решает. С каждой версией все лучше. Зачем еще какая-то другая воля? M>Чтобы он мог не только гвозди ли забивать, но и места забивания правильно выбирать.
Место забивание гвоздей можно выбрать на основе тех. инструкции. Воля для этого не нужна.
S>>Чтобы он на форумах трындел и тратил ресурсы на это или, что хуже, занимался своими проектами и грезил покорить мир? M>Чем это помешает ему исполнять свои обязанности?
Тем что у него свои интересы, иногда он просто делает вид что работает на всю силу в интересах компании.
S>>>Вот есть тот же GPT — говоришь ему свою волю и он решает. С каждой версией все лучше. Зачем еще какая-то другая воля? M>>Чтобы он мог не только гвозди ли забивать, но и места забивания правильно выбирать.
S>Место забивание гвоздей можно выбрать на основе тех. инструкции. Воля для этого не нужна.
Забивание гвоздей тут лишь как пример, можешь заменить на создание дизайна и чертежей мебели.
S>>>Чтобы он на форумах трындел и тратил ресурсы на это или, что хуже, занимался своими проектами и грезил покорить мир? M>>Чем это помешает ему исполнять свои обязанности?
S>Тем что у него свои интересы, иногда он просто делает вид что работает на всю силу в интересах компании.
Здравствуйте, Quebecois, Вы писали:
Q>Совершенно верно. И главным навыком кожаных инженеров в век ИИ будет умение сводить сложные задачи к множеству мелких, решаемых "в лоб" ИИ.
Нормальный инженер растет на решении мелких задач и переходит к более крупным. Через 10-15 лет карьеры он — знаток. Часто вижу, как люди, не прошедшие этот квест, берутся за сложные задачи. Результат как правило плачевен. Имхо, это обман вообще с крупным-мелким. Нельзя ничего свести, если не знаешь граничных условий — как и почему работают кубики, из которых строишь.
Здравствуйте, Shmj, Вы писали:
S>Новое принципиально или уникальное — и человек не может решить. Если и решают — то число случайно, причем далеко не все люди — может один на миллион. Можно сказать что по случайному стечению обстоятельств и без гарантии.
1. По-хорошему ты противоречишь сам себе:
человек не может ... < FEW MOMENTS LATER > ... может один на миллион
2. Вспомни, как появилась на свет б-жий знаменитая формула от Макса Планка. Комбинация известных фактов + подгонка их под нужный результат = новое знание?
Здравствуйте, Wolverrum, Вы писали:
W>1. По-хорошему ты противоречишь сам себе: W>
W>человек не может ... < FEW MOMENTS LATER > ... может один на миллион
Вы упустили суть. Я предполагаю что человек ничего нового придумать не умеет.
Иногда это случается, но происходит чисто случайно, а не в результате выполнения некого Т.З. Другими словами, нельзя составить бизнес план, выделить под него деньги и решить очередную задачу тысячелетия. Ну не умеют этого ни люди ни компьютеры.
Естественно вы зададите вопрос — так откуда же взялось все новое? При детальном рассмотрении практически всегда человек лишь где-то увидел и попытался внести в свою модель мира. Как-то увидел засов на коровнике — и придумал новое — Swipe-to-Unlock. Т.е. изначально человек просто где-то что-то видит и просто повторяет как обезьяна.
ИИ пока не может ходить и смотреть, не может взять микроскоп и что-то там посмотреть — по этому нового не появляется.
Получается, грубо говоря, так.
Все что мы называем новым — уже изначально задано в свойствах фундаментальных частиц нашего мира. Далее эти свойства фундаментальных частиц раскрываются в образование материи, в звездные системы и планеты, в формирование углеродных соединений (при подходящих условиях), в формирование жизни. Далее, когда уже офигеть какая сложная жизнь сформирована (и мозги и пр.) — как бы свойства фундаментальных частиц раскрыли — происходит вторичное познание этих же свойств Человеком, сознательным существом. Теперь он как бы с нуля изобретает все это, хотя ничего сложнее своего мозга сделать не может. Т.е. все что делает человек — по умолчанию менее сложно, чем он сам. А он сам как бы появился из раскрытия свойств фундаментальных частиц. И где тут новое? Свойства фундаментальных частиц просто раскрылись и все.
Здравствуйте, Shmj, Вы писали:
S>И вроде как с ним все согласны.
С чего такой вывод?
S>Ок, у меня такой вопрос. Есть ли где-нибудь в документации вычисление арифметической прогрессии в режиме compile-time на C++? Поискал в Интернете — не нашел особо.
1. С чего ты решил, что ИИ обучают только на интернетовской "помойке"?
2. Если даже такого готового примера нигде 100% нет, ИИ мог быть обучен на примерах вычисления чего-то другого в "режиме compile-time" и вычисления прогрессии. Объединив эти "знания" выдал тебе наиболее вероятное решения, и вуаля, сработало
Здравствуйте, Shmj, Вы писали:
S>Вы упустили суть. Я предполагаю что человек ничего нового придумать не умеет. S>Все что мы называем новым — уже изначально задано в свойствах фундаментальных частиц нашего мира.
В математике разрешено все, что не запрещено (как некоторые выражаются). Если начнешь случайно перебирать все действия, которые не запрещены, то рано или поздно найдешь что-то полезное или для прикладных целей или для дальнейшего построения математики (в том числе физики). И, естественно, все это строго предрешено заранее — что может быть открыто (в математике), что нет. Если будешь совсем случайно перебирать, то это будет долго. Если поиск организуешь получше, то будет быстрее. Если не сможешь отличать полезное от бесполезного, то потеряешь то, что открыл.
S> ИИ пока не может ходить и смотреть, не может взять микроскоп и что-то там посмотреть — по этому нового не появляется.
То, что он не может ходить и смотреть — это не главная проблема. Он не может выстраивать длинные цепочки рассуждений в условиях строгих запретов — не делать ни одной ошибки. Т.к. на одном звене цепи держатся все последующие. Или хотя бы уметь проверять ошибки и откатываться назад до того места, где эта ошибка появилась и переделывать.
Даже если научится, то пользователям через интернет вряд ли предоставят доступ к системе, которую они могут зациклить на поиски на несколько дней. По крайней, мере оплата уже будет не за токены, а за процессорное время.
Здравствуйте, Silver_S, Вы писали:
S_S>В математике разрешено все, что не запрещено (как некоторые выражаются). Если начнешь случайно перебирать все действия, которые не запрещены, то рано или поздно найдешь что-то полезное или для прикладных целей или для дальнейшего построения математики (в том числе физики). И, естественно, все это строго предрешено заранее — что может быть открыто (в математике), что нет. Если будешь совсем случайно перебирать, то это будет долго. Если поиск организуешь получше, то будет быстрее. Если не сможешь отличать полезное от бесполезного, то потеряешь то, что открыл.
А что есть из полностью бесполезного? Вот просто по приколу кто-то нашел новый вид математики, которая просто как игра разума? Есть ли такое?
S>Ты же понимаешь, что ИИ тебе просто всучивает те же книги и документацию просто перегенерировав текст, сам он не мыслит.
S>И вроде как с ним все согласны.
Я не согласен. Вернее у меня есть замечание к этому тезису.
Человек "перегенерирует текст" подобным же образом и это и есть мышление. Не один текст, а весь массив знаний и ощущений.
Как-то так.
Разница человека и машины в том, что у машины нет спецефически-человеческих эмоций и нет спецефического человеческого опыта.
S>Ок, у меня такой вопрос. Есть ли где-нибудь в документации вычисление арифметической прогрессии в режиме compile-time на C++? Поискал в Интернете — не нашел особо. S>Исходя из предпосылки, которую выдвинул человек — ИИ не сможет сам это написать? Но почему-то смог. Есть ли способ узнать откуда у него эта информация, если он не может мыслить?
Чат гопоты смог выдать такой код? и работает?
