Здравствуйте, Muxa, Вы писали:
M>От нейросети можно получить только response на request. Ответ на вопрос ты получаешь от человека. M>Что тут отличать, все же итак очевидно.
Придумай уникальную задачу, которой точно нет в учебниках и в сети интернет, т.е. которой не могло быть в обучающей выборке. Дай задачу ИИ и дай задачу человеку — получи респонс и получи ответ. Сможешь ли отличить одно от другого, если тебе заранее не скажут где что?
Re[42]: Эра магии - когда технология становится магией
Здравствуйте, Muxa, Вы писали:
M>Смогу. От человека ответ, от сети response.
Тогда где ответ а где респонс:
Вопрос: почему небо голубое?
Ответы и респонсы:
Небо кажется голубым из-за явления, называемого рассеянием света. Когда солнечный свет проходит через атмосферу Земли, он сталкивается с молекулами воздуха, пылью и другими мелкими частицами. Свет Солнца состоит из всех цветов спектра, но синий свет имеет более короткую длину волны по сравнению с другими цветами (например, красным).
Из-за этой короткой длины волны синий свет рассеивается в атмосфере значительно сильнее, чем другие цвета. Этот рассеянный синий свет достигает наших глаз со всех направлений, создавая ощущение, что небо голубое.
Когда Солнце находится низко на горизонте (например, на рассвете или закате), свет проходит через более толстый слой атмосферы, и синие и фиолетовые волны рассеиваются сильнее. В итоге мы видим больше красного и оранжевого света, что объясняет цвет закатов.
Дело в рассеянии света. Когда солнечный свет проходит через атмосферу, он взаимодействует с молекулами воздуха и мелкими частицами. Синий цвет имеет короткую длину волны, поэтому он рассеивается сильнее, чем другие цвета. В итоге мы видим голубое небо. Это явление называется рассеянием Релея. Вот поэтому небо обычно голубое, а на закате оно больше красное, потому что свет проходит через более толстый слой атмосферы, и короткие волны (типа синего) рассеиваются ещё сильнее, оставляя нам длинноволновый красный свет.
Где что?
Re[44]: Эра магии - когда технология становится магией
Здравствуйте, Muxa, Вы писали:
M>Можем, источник текста является его внешним признаком. M>Источник определяется различными детекторами контента: сеть это была или человек.
Дай мне детектор контента, который сможет отличить писал ИИ или человек.
Re[50]: Эра магии - когда технология становится магией
Здравствуйте, vsb, Вы писали:
Pzz>>Если я не ошибаюсь, именно Эдсгер Дейкстра ввел в обиход организацию ввода-вывода вокруг системы прерываний, вместе с чем ушла детерминированность. Раньше этого избегали. И это, на минуточку, середина 60-х.
vsb>Тем не менее никто не пишет программы с прерываниями в юзерспейсе. Любая программа с вводом-выводом взаимодействует в чётких точках вызова API. Кстати задумался даже — почему так. Вроде бы логично было бы дать операционной системе указатели на функции и чтобы она вызывала эти функции при вводе/выводе, аналогично тому, как это происходит с сигналами...
В Unix как раз есть такое: AIO с доставкой сигнала.
Основная проблема, как я вижу, в том, что async-signal-safe код очень сложно писать. Даже в ядре с уровнем ядерных программистов есть регулярные проблемы с этим и есть сериализация через bottom half, который сейчас вообще в явные ядерные нити выделен, и буфера данных (даже если максимально сделано для zero copy).
Стандартную библиотеку юзерленда вообще минимально затачивали на такое.
А ещё надо это регулировать. В случае ядра мы верим в добросовестность программистов, которые ограничивают количество одновременных обработок прерываний на одном харте или вообще 1 (Linux без preemption, Windows), или количеством уровней прерываний (старые BSD). А в юзерленде что? Куда девать данные, если юзерленд не принимает? Опять же, проще поставить задачу в очередь или сделать wakeup на wait channel (аналог condition variable для ядра).
Во FreeBSD когда-то делали upcalls для M:N тредовой модели. И снова не осилили сложность (на этот раз с шедулингом).
vsb> Ну не суть, по факту так не делают. Поэтому таки детерминированность не ушла для 99% программистов, её аккуратно вернули на место.
Да. Есть некоторый предел хаоса, который способны осиливать большинство программистов, и он достаточно низкий.
The God is real, unless declared integer.
Re: Эра магии - когда технология становится магией
Сам удивляюсь (слегка сарказм), но с описательной частью согласен на 101%.
Разве что поправка, что нынешний типа-ИИ на базе всяких LLM не был в этом плане первым. Это вообще свойство ИИ. Не уверен, что тут этого не говорили, так что повторюсь.
Первые прото-нейросети на схемах так называемых "перцептронов" уже показывали некоторые примеры неожиданных выводов, как они могли, например, детектить изображения в одном случае и не детектить в другом (типа, при повороте на 1-5% и 7-90% всё ок, а на 6% не видит). Это 1960-е.
В 1970-х активно развивали так называемые "экспертные системы", которые представляли собой базы знаний с системами оценки достоверности выводов на основании правил нечёткой логики. Уже тогда неожиданные выводы стали если не нормой, то штатным результатом. Сейчас это вылилось, например, в IBM Watson, которая делает выводы для врачей — это просто толстенная такая база с простой логикой над ней. И там основная фишка в том, что база "знает" сильно больше среднего врача и кроме очевидного диагноза выдаёт ещё пачку менее вероятных на предмет проверить и отсечь.
Принципиальная разница с нашими временами в том, что современный ИИ стал уметь, грубо говоря, рисовать котиков и писать про них тексты, и потому вышел в пределы игрушек для всех. Поэтому мы его и обсуждаем сейчас. (Хотя что будет, когда его сделают везде платным? снова откат назад?)
S>И основной вопрос — приняли ли вы уже это? Или же имеете внутреннюю неприязнь к ИИ и системам, построенным на его основе?
Ну на это уже ответил. Пока над ним есть естественный интеллект, который исправляет огрехи, или есть жёсткие технические меры не выйти за пределы — бояться нечего. Но как раз это условие ограничения будет нарушаться чуть менее чем слишком часто.
Среди списка техногенных аварий по причине компьютеров есть случай (ссылку не нашёл быстро) как на основании несостоявшегося прогноза погоды про суперливни — была автоматически сброшена вода из водохранилища, затопив долину под ним. Где-то в Калифорнии в 80-е, кажется. А теперь представим себе то же самое с блоком управления от ИИ.
The God is real, unless declared integer.
Re[2]: Эра магии - когда технология становится магией
Здравствуйте, netch80, Вы писали:
N>Среди списка техногенных аварий по причине компьютеров есть случай (ссылку не нашёл быстро) как на основании несостоявшегося прогноза погоды про суперливни — была автоматически сброшена вода из водохранилища, затопив долину под ним. Где-то в Калифорнии в 80-е, кажется. А теперь представим себе то же самое с блоком управления от ИИ.
А в чем разница в этом примере между человеком и ИИ?
Кстати, так как ИИ может обрабатывать сильно больше информации, чем человек, то его решения могут оказаться более правильными в отличие от решений людей.
Re[3]: Эра магии - когда технология становится магией
Здравствуйте, Vzhyk2, Вы писали:
V>Здравствуйте, netch80, Вы писали:
N>>Среди списка техногенных аварий по причине компьютеров есть случай (ссылку не нашёл быстро) как на основании несостоявшегося прогноза погоды про суперливни — была автоматически сброшена вода из водохранилища, затопив долину под ним. Где-то в Калифорнии в 80-е, кажется. А теперь представим себе то же самое с блоком управления от ИИ. V>А в чем разница в этом примере между человеком и ИИ?
Человек выступит дополнительным уровнем контроля и оценит по факторам, которые для ИИ просто не входят в пределы понимания. На сейчас именно так.
V>Кстати, так как ИИ может обрабатывать сильно больше информации, чем человек, то его решения могут оказаться более правильными в отличие от решений людей.
Да. Но контролировать их всё равно нужно.
The God is real, unless declared integer.
Re[52]: Эра магии - когда технология становится магией
Здравствуйте, netch80, Вы писали:
N>Человек выступит дополнительным уровнем контроля и оценит по факторам, которые для ИИ просто не входят в пределы понимания. На сейчас именно так.
Человек на это не способен. Максимум, что человек может это запросить помощи от лимбической системы мозга и принять случайное эмоциональное решения.
И сейчас уже не так. Но пока ИИ широко еще внедрять не начали, потому как страх потерять так называемый "контроль", а по сути просто "ощущение контроля".
Кстати, внедрение уже пошло, но в военной области в части убивания человеков.
N>Да. Но контролировать их всё равно нужно.
Ну, муравей контролирует человека. Пока разница еще не столь значима между ИИ (тем, что уже есть) и человеком, но она стремительно нарастает.
Пока человек и ИИ сравнимы.
Re[53]: Эра магии - когда технология становится магией
Здравствуйте, Muxa, Вы писали:
M>Да я и без проверки примерно представляю качество их работы. M>Проценты правильного определения источника сильно разнятся у этих детекторов.
Дело в том что оно вообще не работает — от слова вообще.
Вот текст, написан 17 лет назад на mail.ru
Потому что голубые лучи видимой части спектра сильнее всего рассеиваются нашей атмосферой. А море синее потому, что жёлто-красная составляющая спектра поглощается водой, а оставшиеся (дополнительные) сине-голубые лучи попадают в наш глаз и мы видим это чудо.
https://www.aidetect.com/ — пишет что 1% вероятности что написал человек. Но тогда еще и этих ваших GPT не было.
А этот текст:
Небо кажется голубым из-за явления, называемого рассеянием света. Когда солнечный свет проходит через атмосферу Земли, он сталкивается с молекулами воздуха, пылью и другими мелкими частицами. Свет Солнца состоит из всех цветов спектра, но синий свет имеет более короткую длину волны по сравнению с другими цветами (например, красным).
Из-за этой короткой длины волны синий свет рассеивается в атмосфере значительно сильнее, чем другие цвета. Этот рассеянный синий свет достигает наших глаз со всех направлений, создавая ощущение, что небо голубое.
Когда Солнце находится низко на горизонте (например, на рассвете или закате), свет проходит через более толстый слой атмосферы, и синие и фиолетовые волны рассеиваются сильнее. В итоге мы видим больше красного и оранжевого света, что объясняет цвет закатов.
— пишет 8% вероятности — хотя сгенерен GPT.
То что писал 100% человек еще до GPT — оно считает более искусственным, чем то что писал GPT.
Другие сервисы еще хуже.
Так же есть режим хуманизации — сделать автоматом текст более человечным.
Именно по этому и тревогу бьют.
Re[54]: Эра магии - когда технология становится магией
Здравствуйте, Muxa, Вы писали:
M>Вообще не работает на твоем примере или вообще в принципе не работает?
Оно работает на уровне гороскопов. Вы можете подписаться на сервис гороскопов, даже деньги платить — но гарантии нет. Хотя кто-то говорит что все сбывается, просто может в вашем случае не сработало
