Здравствуйте, Nnova, Вы писали:


N>Качественного скачка пока что нет. Просто оказалось, что генерация речи очень хорошо делается обычной нейронкой, достаточно лишь ее обучить этому. По сути задача писать и говорить- оказалась проще чем думали.

Да даже это сомнительно. Я бы сказал, что оказалось, что если иметь бесконечные деньги, чтобы купить бесконечную память, то можно научить машину писать грамматически правильный текст. Хм, ну да, это было довольно очевидно любому, кто хоть раз писал бредогенератор на марковских цепях для развлечения.

Здравствуйте, Shmj, Вы писали:

S>И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

У неё вместо мыслей — усредненный ответ из интернета. Для тривиальных вопросов ответ из интернета обычно правильный, во всех остальных случаях цитирует Достоевского (как все и делают, включая интернет).

Здравствуйте, Shmj, Вы писали:

S>Уже это спорно

Автор: Shmj
Дата: 02.04.23

. Кто-то скажет есть а кто-то скажет нет.

Чтобы стало ещё яснее. Вспомни первый показ "Прибытия поезда" Люмьер:

По свидетельствам, первый показ фильма вызвал панику среди публики, которая не была психологически готова воспринять «ожившее» изображение движущегося на зрителей поезда, показанного в натуральную величину.

Они не разбирались в том, как устроено кино. Они увидели непосредственно своими органами чувств, как на них едет поезд и решили, что это и есть настоящий поезд.
Потом разобрались. А ты пытался разбираться или до сих пор смотришь, как на тебя едет поезд?

Здравствуйте, smeeld, Вы писали:

S>Тут такая тенденция, что к работам, не требующим мозга, ИИ как раз не привлекают, эту работу задешево делают и будут делать люди. ИИ уже сейчас бросились припахивать как раз для всякого максимально интеллектуального и сложного, что людям не под силу, или под силу не всем. Или творческого. Пытаются получить от текущих ИИ сложную аналитику. Кучи кадров бросились пытаться получить предсказания биржевых курсов, запрашивать бизнес планы, запрашивать анализ массивов данных и прочее подобное. За бухгалтерским учетом никто не обращается.
Бухгалтерию очень даже пытаются в нейронку засунуть, не особо получается просто, на одной из прошлых работ одна из наших команд именно этим и занималась, результаты были не лучше чем у обычного алгоритмического подхода, и пожалуй даже хуже в том смысле, что это чёрный ящик, которой непонятно как фиксить
И я не знаю как там с нейронками для биржевых курсов, но судя по тому, что биржевые аналитики по-прежнему требуются — она там в лучшем случае в качестве вспомогательного инструмента
Ну и понятно же, что ни для бухгалтерии, ни для автомобилей chatGPT юзать не будут, он заточен исключительно на болтологию, причем где не требуется особая достоверность. Непонятно даже как его применять скажем для техподдержки, где требуется выдавать достоверные ответы, а не среднеарифметическое по больнице.
Но да, фантасты прошлого в целом знатно прокололись, у Айзека Азимова роботы сплошь мели полы и работали на шахтах

Здравствуйте, Sharowarsheg, Вы писали:

S>Да даже это сомнительно. Я бы сказал, что оказалось, что если иметь бесконечные деньги, чтобы купить бесконечную память, то можно научить машину писать грамматически правильный текст. Хм, ну да, это было довольно очевидно любому, кто хоть раз писал бредогенератор на марковских цепях для развлечения.
Ну тут не потребовался бесконечный компьютер, оказалось что то количество текста, которым ее обучили — достаточно для генерации правильной речи. Плюс несколько трюков и пинков в правильном направлении в ходе обучения

Здравствуйте, goto, Вы писали:

G>Понятно, что это надо пытливым или тщеславным научным умам и тем, кто хочет бабла и власти. А остальным? Ну, можно представить коммунистический рай, где работать не надо, а можно свободно заниматься науками и искусствами... Стоп, но ведь теперь науками и искусствами занимается ИИ.

Сосуществовать с сильным ИИ(такой, который смог бы сам зарабатывать деньги) можно было бы, если искусственно ограничивать его использование. Четко определить — как и кому его использовать можно, как нельзя. Кто и сколько должен платить налоги за его использование.
Но до этого цивилизации еще надо дорасти. Скорее всего сначала будет другое. Страна которая первая заполучит сильный ИИ, начнет подавлять(дешевыми товарами, безделушками) в других странах промышленность, образование. Не допускать возможности появления ИИ в других странах. Для большинства это будет каменный век, но с кучей безделушек (как индейцы с бусами).

Здравствуйте, Nuzhny, Вы писали:

S>>Уже это спорно

Автор: Shmj
Дата: 02.04.23

. Кто-то скажет есть а кто-то скажет нет.
S>>Нужна четкая математическая база, чтобы доказать или опровергнуть.

N>Что спорного? Ты статьи про GPT читал, код смотрел? Что тебя там смущает?

Эмерджентная гипотеза сознания.

Вы как бы подразумеваете, что в устройстве сознания должно быть нечто особенное, магическое. Ну как минимум то, о чем говорил Пенроуз — квантовые эффекты. А тут все как бы обходится без магии, по этому ясно что сознания тут нет.

Однако же эффекты могут быть подобны гравитации. Пока молекула одна — гравитации как бы нет. Когда молекул достаточно много — сила гравитации возиникает невесть откуда и эта груда молекул начинает проявлять новые свойства.

S>>То что сам ИИ говорит что не наделен сознанием — не доказательство отсутствия.

N>Ты опять не с той стороны заходишь. Инструментальный подход — всё проверить и посчитать без понимания того, что именно делается, не принесёт ответ. Надо начинать с анализа теории, на которой оно строится. Потом практики — программный код.
N>А потом у тебя уже не будет вопросов, где сознание, а где его симулякр.

Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.

Здравствуйте, Sharowarsheg, Вы писали:

S>>И как это позволяет сети обосновывать ход своих мыслей при решении логических задач?

S>У неё вместо мыслей — усредненный ответ из интернета. Для тривиальных вопросов ответ из интернета обычно правильный, во всех остальных случаях цитирует Достоевского (как все и делают, включая интернет).

Нет.

Здравствуйте, Nuzhny, Вы писали:

N>Чтобы стало ещё яснее. Вспомни первый показ "Прибытия поезда" Люмьер:
N>

N>По свидетельствам, первый показ фильма вызвал панику среди публики, которая не была психологически готова воспринять «ожившее» изображение движущегося на зрителей поезда, показанного в натуральную величину.

N>Потом разобрались. А ты пытался разбираться или до сих пор смотришь, как на тебя едет поезд?

Аналогии могут быть красивыми, обычно религиозные деятели любят этот прием использовать. Есть даже книга 10 тыс. аналогий, чтобы на все случаи жизни так сказать. Но аналогии ничего не доказывают. Может быть так а может быть и иначе — раз на раз не приходится.

Может быть в том случае недалекие люди инстинктивно бежали от "паровоза", в то время как продвинутые опасности не видели. А сейчас наоборот — недалекие говорят что там нет души, в том время как продвинутые видят опасность (в т.ч. экзистенциальную).

Здравствуйте, Nnova, Вы писали:

N>Конкретно в программировании это позволит автоматизировать часть работы, и вместо написания кода классов и листания документации можно будет больше времени уделять тому, что человек умеет лучше всего — анализу и решению задач. Аналогично тому, что произошло последние 20 лет у инженеров например, сейчас никто не рисует на кульманах и не рассчитывает на бумажке прочность деталей, для этого есть софт, который это делает. Инженеры стали ненужными?
N>Часть профессий, типа водителей и бухгалтеров, которые делаю шаблонную работу без привлечения мозга — да, отомрет. Ну так и погонщики лошадей больше не встречаются

ИИ я интересовался аж в прошлом веке и написал выше, что набрасываю. Мне кажется, пока на эту тему по-другому и не получится.

Меня крайне впечатлили результаты midijourney. Картинки были уровня нормального профи, но с оговорками, например, в тех, которые я видел, не было композиции. Я понимаю попытку бунта дизайнеров и вижу ситуацию так. Художник, умеющий формулировать, может добиться от ИИ отличного результата. Идем дальше. Отличного результата ведь может добиться уже не художник, а человек, совершенно не умеющий рисовать, но понимающий в искусстве или просто чувствующий. Это означает, что не нужны годы обучения в академии, учебное пачканье 500 холстов для отработки техник, не нужны преподаватели, достаточно желания и умения формулировать словами. Если пойти еще дальше, то почему бы ИИ не научиться композиции и всему остальному, и тогда клепать шедевры без малейших усилий сможет любой прохожий.

Раньше уже были опасения, что фотография убьет живопись, кино убьет театр, телевизор убьет кино. Никто никого не убил. Дело в том, что фотография, кино и телевизор — это только техники, технологии, к ним автоматически не прилагалось мастерство, талант, целеустремленность и трудоспособность. Мастерство и талант как были редкостью, так и остались. А ИИ может как раз имитировать талант и сделать ненужным остальное — в этом его принципиальное отличие.

В данном случае речь не об оценке, хорошо это или плохо. Здесь важно, что вероятна переоценка или даже разрушение некоторых базовых личностных и социальных основ, размывание, инфляция важных для человека понятий общего характера. Возможно, Маск видит нечто подобное, наверняка что-то еще стремного масштаба и силы.

Между программированием и искусством есть различия и общее: автор рожает мысль, или ее приносит на блюдце муза, а затем он пашет, реализуя. Прока непонятно (мне), что здесь может и не может ИИ.

Периодически проскакивало удивление, в том числе здесь: почему нас, программистов, все никак не заменят машиной? Область же с виду формализованная, т.е., казалось бы, поддающаяся даже алгоритмизации, без нейросетки. Ну вот, появились первые намеки. (Здесь должна быть картинка с девочкой с велосипедом, ядерным грибом на горизонте и подписью "ну наконец-то, бл...ть!"). Все с интересом ждут, некоторые подергивают ИИ-кодера за усы. Посмотрим.

Еще одно. Люди привыкли к тому, что контролируют ситуацию или делегируют контроль другим людям, которые за что-то там несут ответственность. А сейчас решения все более высокого уровня отдаются на откуп автоматике, которая справляется лучше (как бы). Это тоже интересный аспект.

N>Качественного скачка пока что нет. Просто оказалось, что генерация речи очень хорошо делается обычной нейронкой, достаточно лишь ее обучить этому. По сути задача писать и говорить- оказалась проще чем думали. Но умение говорить — это не умение думать, генерировать похожий текст, даже если он полный бред — это не разум. Даже то, что она научилась считать, чем все были так удивлены (я тоже) — лежит в той же плоскости, если нажимать на регенерацию ответа — она выдаёт разные числовые ответы, в зависимости как там сложилась траектория ответа.
N>Что такое "думать" — науке пока что неизвестно, работы конечно ведутся. Лет 100 уж как наверное

Есть подозрение, что бастионы могут пасть один за другим, и окажется, что и "думание" — это не такая уж сверхценность, как мы привыкли считать, гордиться. Неважно, как устроен изнутри процесс "думанья" у человека и машины, важно что машина может дать лучший результат благодаря своим масштабам и производительности, где нужно — точности и безошибочности.

Лично для меня происходящее очень интересно, даже ожидаемо, хотя я не думал, что это будет так скоро. Результата мы не знаем, но, какой бы он ни оказался, он будет очень познавательным и поучительным. Напрягают только возможные масштабные социальные и личностные пертурбации в том случае, если... Поглядим.

S>Ваше мнение.

создание ИИ это цель и смысл существования нашего как вида, мы заперты на этой планете, а созданный бессмертный интеллект основанный на не биологических принципах колонизирует галлактику, и будет жить там где мы не сможем никогда.

Здравствуйте, Silver_S, Вы писали:

S_S>Сосуществовать с сильным ИИ(такой, который смог бы сам зарабатывать деньги) можно было бы, если искусственно ограничивать его использование. Четко определить — как и кому его использовать можно, как нельзя. Кто и сколько должен платить налоги за его использование.

Не думаю, что у человечества есть или будет такой механизм. Можно судить по тому, что история состоит из войн, а перемены не просматриваются.

S_S>Но до этого цивилизации еще надо дорасти. Скорее всего сначала будет другое. Страна которая первая заполучит сильный ИИ, начнет подавлять(дешевыми товарами, безделушками) в других странах промышленность, образование. Не допускать возможности появления ИИ в других странах. Для большинства это будет каменный век, но с кучей безделушек (как индейцы с бусами).

Может быть страна, может — корпорация, может — удобный огороженный загончик типа управляемого золотого миллиарда. Наверное, фантасты уже придумали это и больше этого.

Вроде как, практика показывает, что абсолютного оружия и власти не существует, ничто не вечно под Луною итп.

Здравствуйте, goto, Вы писали:

>Ну вот, появились первые намеки.

У тебя излишне восторженный образ мышления. Пока что даже не могу заюзать это для написания юнит тестов для конкретно вон того кода вон того проекта, чтоб самому не тратить на это кучу времени. Все что он сейчас может, это выдать какой-то изолированный кусок кода по описанию. Этот кусок кода и сам смог бы надыбать, покопавшись на гитхабе. Может быть времения только больше затратил. Короче, пока по запросу: напиши СУБД ничем не уступающую СУБД оракла, оно не начнет выдавать требуемое, для использовании в разработке это применять не получится. Но рекламку MS-а в тырнетах обеспечить можно, да. Для чего весь этот хайп и поднят

Здравствуйте, Nuzhny, Вы писали:

N>​Чтобы немного поубавить хайп, вот вам наброс. Со слов самой GPT-4, она обладает рядом недостатков, делающих ее не прорывной, а проходной технологией:


говорят, что слухи о том что крокодилы плохо бегают, распространяются самими крокодилами

Здравствуйте, Wawan, Вы писали:

S>>Ваше мнение.

W>создание ИИ это цель и смысл существования нашего как вида, мы заперты на этой планете, а созданный бессмертный интеллект основанный на не биологических принципах колонизирует галлактику, и будет жить там где мы не сможем никогда.

вопрос — зачем ему это? человеки подгоняются животными инстинктами и химией в их основе, если они лишаться своих животных качеств, то скорее всего самовыпиляться

Здравствуйте, Shmj, Вы писали:

S>Эмерджентная гипотеза сознания.

S>Вы как бы подразумеваете, что в устройстве сознания должно быть нечто особенное, магическое. Ну как минимум то, о чем говорил Пенроуз — квантовые эффекты. А тут все как бы обходится без магии, по этому ясно что сознания тут нет.

Я ничего такого не подразумеваю. Я вижу, что в арифмометре нет сознания, вижу, что в моих программах его нет, вижу, что и в этой конкретной нейросети тоже.

S>Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.

Я ничего такого не говорю. Начни же с изучения матчасти. Чем больше знаний, тем меньше магии.

Здравствуйте, Nuzhny, Вы писали:

N>Я ничего такого не подразумеваю. Я вижу, что в арифмометре нет сознания, вижу, что в моих программах его нет, вижу, что и в этой конкретной нейросети тоже.

А если черепную коробку человека открыть и ты туда заглянешь — думаешь увидишь сознание там?

Как сознание можно увидеть?

S>>Вы так говорите, что в мозге есть еще что-то, кроме вычислений. В общем, первый абзац в моем этом ответе.
N>Я ничего такого не говорю. Начни же с изучения матчасти. Чем больше знаний, тем меньше магии.

А что именно изучить? Давайте список.

Как можно говорить что где-то есть сознание а где-то нет, не понимая природы сознания?

Здравствуйте, smeeld, Вы писали:

S>У тебя излишне восторженный образ мышления. Пока что даже не могу заюзать это для написания юнит тестов для конкретно вон того кода вон того проекта, чтоб самому не тратить на это кучу времени. Все что он сейчас может, это выдать какой-то изолированный кусок кода по описанию. Этот кусок кода и сам смог бы надыбать, покопавшись на гитхабе. Может быть времения только больше затратил. Короче, пока по запросу: напиши СУБД ничем не уступающую СУБД оракла, оно не начнет выдавать требуемое, для использовании в разработке это применять не получится. Но рекламку MS-а в тырнетах обеспечить можно, да. Для чего весь этот хайп и поднят

И образ восторженный, и на отсутствие фантазии не жалуюсь. Посмотрим. Может, это все пойдет стандартным циклом хайпа. И даже скачок в дизайне, который выглядит фатальным и необратимым, сведется к "а ну ее нахрен, эту возню с ИИ, дешевле и быстрее заказать обычному дизайнеру из мяса".

Здравствуйте, Shmj, Вы писали:

Ты так сейчас (до мышей дотрахаешься) дорассуждаешься, что по-твоему окажется, будто и табуретка сознанием обладает. А почему нет? Поди докажи обратное. Короче, о теме что есть интеллект праздно рассуждали еще в книжках 7-ых годов по околокибернетической тематике. Уже тогда четко формулировали: умение самостоятельно ставить задачи и решать их. Типо, наличие воли и стремление к созиданию
и творчеству. Ну, это есть в человеке, и именно это обесспечило развитие цивилизации. И вот этого в гптах нет от слова совсем. Может хоть с этим спорить не будешь? Если кодеры не покопаются, лучше оно не станет, если о чем-то не попросят, оно не ответит. Это машина обыкновенная. Хватит тут фантазий.

Здравствуйте, smeeld, Вы писали:

S>Ты так сейчас (до мышей дотрахаешься) дорассуждаешься, что по-твоему окажется, будто и табуретка сознанием обладает. А почему нет? Поди докажи обратное.

Какой гипотезы о сознании вы придерживаетесь?

Есть т.н. эмерджентная гипотеза, что сознание возникает в достаточно развитых нейросетях как эпифеномен.

GPT может удовлетворять этой гипотезе.

А критериев проверки то нет...

S>Короче, о теме что есть интеллект праздно рассуждали еще в книжках 7-ых годов по околокибернетической тематике. Уже тогда четко формулировали: умение самостоятельно ставить задачи и решать их. Типо, наличие воли и стремление к созиданию и творчеству. Ну, это есть в человеке, и именно это обесспечило развитие цивилизации.

Это не сознание а свидомисть так называемая. Как у нас делят людей на два класса — свидомые и не свидомые. Это не значит что вторые на самом деле философские зомби.

Человек может не ставить задачи а исполнять то что ему сказали — и что? Вы откажете ему в праве на сознание?