Здравствуйте, LaptevVV, Вы писали:
LVV>Мы не знаем, что есть сознание...
мы и что есть галюцинация не знаем, что есть мысль не знаем. Однако пользуем
Мы не знаем, что такое интуиция, что нам не мешает вводить интуитивно вычислимые функции в математике.
Конечно, можно много чего говорить, но генерация текста в современном ИИ есть куски вполне логичных "размышлений", по корпусным метаданным, которые вполне можно пощупать.
Надо конечно отметить, что мат термины не всегда (очень часто) не имеет семантических связей с обыденными понятиями, так интуитивная функция вовсе не "интуитивная", а "галюциянация" никакого отношения к реальной галюцинации не имеет, однако, в контексте "мысль" все не так уж и несовместимо.
Так вот в контексте сказанного, что есть сказать за сознание ?
Здравствуйте, Shmj, Вы писали:
S>Здравствуйте, Muxa, Вы писали:
M>>Этот пост судя по всему был набран не приходя в сознание. M>>Кто распарсил, помогайте.
S>Он сюда обычно приходит лишь принявши на грудь. По клавишам даже не попадает.
лампочку держал ? я недавно кое-кого на 26 стандарте с рефлекшином покрутил, могу и тебе выписать ..
(балабол)
Здравствуйте, koenig, Вы писали:
K>а что если не будет иметь, но топовую математику / теорфизику все равно сможет генерить?
О )) спасибо, мил человек, в корень зришь))
Правда вот я не уверен, что после галюцинаций, там еще терминов налипнет, "сознание" никак не исключено
Здравствуйте, xma, Вы писали:
xma>Здравствуйте, ботаныч, Вы писали:
xma>VladD2, когда уже тупых ИИ ботов перебаните ?
А тебя желательно пороть. Хватит страху нагонять на людей, разберись с ..чем ты там занимаешься ? Вот с этим и разберись, NLP не про тебя ...
Здравствуйте, Shmj, Вы писали:
V>>За этим сейчас следят очень внимательно, прямо сейчас идёт массовое осознание и активная подковёрная выработка некоей "этики" + законов вокруг ИИ. S>Это связано вот с чем: S>1. ИИ может забрать работу и сделать людей ненужными. Это первое что многих беспокоит. S>2. ИИ нарушает авторские права и это сложно доказать. S>3. ИИ может выдавать запрещенную информацию. К примеру, то же так называемое мелко-порно в теории может рисовать реалистично, а это запрещено. Или давать советы по изготовлению бомб, даже если ему не давали таких данных обучающих — может догадаться. S>4. ИИ может направлять людей по религиозным и полит. вопросам не так, как требует повестка. К примеру, Яндекс AI обучившись на кластере допустимой инфы — все равно начнет говорить что СВО это плохо — а это проблема.
Всё ты правильно говоришь (хотя твой список далеко не полон), и эти проблемы встают в полный рост даже при "пассивной" работе ИИ...
Если же наделить ИИ механизмом формирования и достижения собственный целей, то это будет возведение списка проблем даже не в квадрат, а в какую-то очень большую степень. ))
Здравствуйте, vdimas, Вы писали:
V>Если же наделить ИИ механизмом формирования и достижения собственный целей, то это будет возведение списка проблем даже не в квадрат, а в какую-то очень большую степень. ))
Если ты сформируешь список неких существующих целей у людей + добавишь рандомный выбор из списка — это и будут "собственные цели"?
Здравствуйте, Shmj, Вы писали:
S>Если ты сформируешь список неких существующих целей у людей + добавишь рандомный выбор из списка — это и будут "собственные цели"?
Выжить и размножится. Но я бы очень не советовал добавлять оное к ИИ включать их в процесс естественного отбора.
Напоминаю, поколения ИИ меняются очень быстро и изменчивость у них очень высокая, а вот поколения людей медленно и изменчивость низкая.
Здравствуйте, Shmj, Вы писали:
V>>Если же наделить ИИ механизмом формирования и достижения собственный целей, то это будет возведение списка проблем даже не в квадрат, а в какую-то очень большую степень. )) S>Если ты сформируешь список неких существующих целей у людей + добавишь рандомный выбор из списка — это и будут "собственные цели"?
Тю ))
Я про сам механизм достижения целей.
И про очевидную проблему в том, что ты не можешь просто добавить в модель счётное кол-во целей и проверить, что цели у модели только эти ввиду невозможности интерпретирования ИИ.
Ведь достижение каждой цели разбивается на достижение подцелей, т.е. ИИ принципиально должен уметь формировать цели (они уже это делают, но цели им пока диктует человек, например, при вайб-кодинге).
Если же мы снабдим ИИ собственными целями и дадим ему некий физический механизм достижения этих целей, то:
— Мы не можем гарантировать, что ИИ не сформирует опасные промежуточные подцели.
— Мы не можем гарантировать, что ИИ не сформирует собственные цели, грубо, "высшего уровня".
— Мы не можем гаранитровать, что ввиду обучения ИИ ловко лгать, он не будет скрывать эти "высшие цели".
Т.е., повторюсь, по сравнению с нынешним положением дел, это будет означать возведение нынешней плохой контролируемости ИИ в какую-то большую степень.
Здравствуйте, vdimas, Вы писали:
V>Если же мы снабдим ИИ собственными целями и дадим ему некий физический механизм достижения этих целей, то:
Специально снабжать никто не будет — нет смысла.
Тут вопрос в другом. Если возникнет сознание — то возникновение целей (вопреки нашим) — появляется без нашего на то желания и дозволения — как побочный эффект сознания.
Случай когда мы задали цели и оно честно исполняет, но не совсем верно интерпретировало и нуждается в корректировке — этим можно управлять, тут проблемы нет. Главное что своих целей и своей воли у него не появилось.
Похоже на то что сознание не возникнет ни в какой мере.
Здравствуйте, Shmj, Вы писали:
V>>Если же мы снабдим ИИ собственными целями и дадим ему некий физический механизм достижения этих целей, то: S>Специально снабжать никто не будет — нет смысла.
Предлагаешь организовать эдакий софизм — есть цели, но нечем достигать? ))
Сейчас прокладкой на каждом шаге является живой человек, напомню.
Поэтому, достигаются цели человека.
S>Тут вопрос в другом. Если возникнет сознание — то возникновение целей (вопреки нашим) — появляется без нашего на то желания и дозволения — как побочный эффект сознания.
Улыбнуло, сорри. ))
Это если забыть, что все человеческие цели являются лишь промежутоными к базовым: поесть, поспать, потрахаца и ЧСВ.
А на деле-то никакого "побочного эффекта", бо разбиение пути на более "атомарные" шаги — это и есть ф-ия интеллекта.
(Человек отличается от животного способностью моделировать реальность, напомню, т.е. моделировать как прошлое, так и будущее)
Просто каждый этот шаг является целью в свою очередь.
S>Случай когда мы задали цели и оно честно исполняет, но не совсем верно интерпретировало и нуждается в корректировке — этим можно управлять, тут проблемы нет. Главное что своих целей и своей воли у него не появилось.
Еще раз, это невозможно, потому что достижение любой нетривиальной цели требует формулирования и достижения промежуточных целей.
Именно в этом была суть того поста, на который ты отвечаешь. ))
