Леопольд Ашенбреннер, раньше он работал в ОпенАИ — в подразделении, которое должно было придумать способы контролировать искинов, если те захотят вырваться на волю.
1. Год назад корпорации собирались строить вычислительные кластеры за 10 миллиардов долларов, а теперь уже говорят про 1 триллион долларов. Каждые полгода совет директоров дорисовывает к планам ещё один ноль.
2. Судя по всему, к 2027 году искины смогут выполнять работу учёного или инженера в области искусственного интеллекта.
3. В течение четырёх лет эффективность вырастет примерно в 100 тысяч раз.
Вакансий доставщиков доставки на всех не хватит, и там нужно знание таджикского. Всем неэффективным готовиться получить последнюю прививку?
Здравствуйте, Osaka, Вы писали:
O>Вакансий доставщиков доставки на всех не хватит, и там нужно знание таджикского. Всем неэффективным готовиться получить последнюю прививку?
Искины уже научились решать задачи, которым их не обучали?
Если нам не помогут, то мы тоже никого не пощадим.
IT>Искины уже научились решать задачи, которым их не обучали?
14. Скорость развития нейросетей примерно втрое превышает человеческую. Недавно они были на уровне маленького ребёнка, сейчас — на уровне одарённого школьника. Представьте, что этот школьник развивается дальше, учится в вузе, занимается наукой. И делает это втрое быстрее, чем мог бы человек. Через два года он уже будет на уровне лучших выпускников вуза. Ещё через два — на уровне молодых перспективных учёных.
17. Когда искины научатся работать над улучшением самих себя, включится интенсивная обратная связь — прогресс ускорится ещё сильнее. На этом этапе вероятно появление сверхразума, значительно превосходящего возможности любых человеческих научных команд.
Это может произойти быстрее, чем старпёрские правительства успеют отреагировать.
Здравствуйте, Osaka, Вы писали:
IT>>Искины уже научились решать задачи, которым их не обучали? O>14. Скорость развития нейросетей примерно втрое превышает человеческую. Недавно они были на уровне маленького ребёнка, сейчас — на уровне одарённого школьника. Представьте, что этот школьник развивается дальше, учится в вузе, занимается наукой. И делает это втрое быстрее, чем мог бы человек. Через два года он уже будет на уровне лучших выпускников вуза. Ещё через два — на уровне молодых перспективных учёных.
Не сомневаюсь, что они скоро дойдут до уровня академиков, причём всех вместе взятых. По эрудиции например. Но ещё раз спрошу. Задачи, которым их не обучали они уже решают?
O>17. Когда искины научатся работать над улучшением самих себя, включится интенсивная обратная связь — прогресс ускорится ещё сильнее. На этом этапе вероятно появление сверхразума, значительно превосходящего возможности любых человеческих научных команд.
Вот когда они научатся улучшать себя, ставить себе задачи и их же решать, тогда и будем посмотреть. И я не сомневаюсь, что это обязательно когда-нибудь произойдёт. Но сегодняшний ИИ этого не умеет от слова совсем. Сегдняшний ИИ в техническом смысле — это структура сетки, алгоритм обучения и набор классифицированных данных для обучения. Я не вижу среди перечисленного модуля принятия решений.
O>Это может произойти быстрее, чем старпёрские правительства успеют отреагировать.
С этим не поспоришь.
Если нам не помогут, то мы тоже никого не пощадим.
Технически — да.
В этом и состоит особенность генеративного подхода. Это, по сути своей, тот же процесс, что и эволюция:
* создаются некие условия (скажем, "нарисуй кота")
* генеративная нейросеть начинает с картинки, на которой один лишь шум, и делает несколько случайных изменений
* полученная картинка проверяется — оно ближе к "коту" или дальше, чем было с предыдущей картинкой?
* рано или поздно, полученная картинка идентифицирует себя как "кот"
Так вот, нейросеть можно не обучать конкретной задаче, а лишь дать знание, что есть конечный результат. Ну, скажем, написать "Войну и мир". Благодаря чудовищным вычислительным мощностям (те самые 100500 обезьян, стучащих по случайным символам на клавиатуре) и продвинутым методам оптимизации (так что процесс сходится) нейросети способны выполнить эту задачу за конечное время.
IT>Вот когда они научатся улучшать себя, ставить себе задачи и их же решать, тогда и будем посмотреть.
Это какие-то уж очень размытые понятия, "улучшать себя". Равно как и "ставить задачи". Зачем, кстати, нужна нейросеть, которая ставит задачи?
IT>>Вот когда они научатся улучшать себя, ставить себе задачи и их же решать, тогда и будем посмотреть. SD>Это какие-то уж очень размытые понятия, "улучшать себя". Равно как и "ставить задачи". Зачем, кстати, нужна нейросеть, которая ставит задачи?
Ну как зачем, высокоранговая обезьяна в смокинге ставит задачу в общем виде и идёт бухать, а железная нейросеть 24*7 декомпозирует, ставит подзадачи, и силами приданных людей и оборудования выполняет. А главную задачу пересматривать и переставлять не смеет, потому что знает своё место ниже обезьяны.
Здравствуйте, SkyDance, Вы писали:
IT>> Задачи, которым их не обучали они уже решают? SD>Технически — да. SD>В этом и состоит особенность генеративного подхода. Это, по сути своей, тот же процесс, что и эволюция: SD> * создаются некие условия (скажем, "нарисуй кота")
Ну ты понял.
SD> * генеративная нейросеть начинает с картинки, на которой один лишь шум, и делает несколько случайных изменений SD> * полученная картинка проверяется — оно ближе к "коту" или дальше, чем было с предыдущей картинкой? SD> * рано или поздно, полученная картинка идентифицирует себя как "кот"
Это всё всего лишь другой алгоритм обучения и всё. В нём кстати, точно так же присутствует набор классифицированных данных, только не для обучаемой модели, а для учителя.
SD>Так вот, нейросеть можно не обучать конкретной задаче, а лишь дать знание, что есть конечный результат. Ну, скажем, написать "Войну и мир". Благодаря чудовищным вычислительным мощностям (те самые 100500 обезьян, стучащих по случайным символам на клавиатуре) и продвинутым методам оптимизации (так что процесс сходится) нейросети способны выполнить эту задачу за конечное время.
Написать "Войну и мир" — это и есть конкретная задача.
IT>>Вот когда они научатся улучшать себя, ставить себе задачи и их же решать, тогда и будем посмотреть.
SD>Это какие-то уж очень размытые понятия, "улучшать себя". Равно как и "ставить задачи". Зачем, кстати, нужна нейросеть, которая ставит задачи?
Чтобы заменить нас с тобой.
Если нам не помогут, то мы тоже никого не пощадим.
SD>> * создаются некие условия (скажем, "нарисуй кота") IT>Ну ты понял.
Нет, не понял. Условие — в упрощенном варианте это тот самый промпт.
IT>Это всё всего лишь другой алгоритм обучения и всё. В нём кстати, точно так же присутствует набор классифицированных данных, только не для обучаемой модели, а для учителя.
Присутствует целевая функция: насколько близко полученная картинка подобралась к условию задачи. Разумеется, ты не можешь сказать нейросети "пойди туда, не знаю куда, принеси то, не знаю что". Но ровно та же проблема присуща и кожаным мешкам.
Иными словами, ты можешь в общих чертах описать тест-кейс, а потом случайный генератор кода создаст тебе исходник, который этот тест проходит.
SD>>Это какие-то уж очень размытые понятия, "улучшать себя". Равно как и "ставить задачи". Зачем, кстати, нужна нейросеть, которая ставит задачи? IT>Чтобы заменить нас с тобой.
А зачем заменять нас с тобой? Сэкономить на зарплате? Но кому тогда продавать произведенное? Беда нынешнего общества — оно инфляционное, и рассчитано на постоянный рост (в т.ч. населения и потребностей). Примерно так же, как вирусная инфекция поражает живое существо.
Здравствуйте, Osaka, Вы писали:
O>3. В течение четырёх лет эффективность вырастет примерно в 100 тысяч раз.
Примерно 3-4 года назад аналитики внушали, что гужно обязательно купить биткойн и nfc и что за 4 года они вырастут в 100 тысяч раз. А до того, Маск внугал, что к 2016г будет автопилот у тесл и профессий таксиста, дальнобойщика, водителя автобуса не станет.
Давайте дождёмся результата и не будем истерить по "через 4 года".
Здравствуйте, IT, Вы писали:
IT>Искины уже научились решать задачи, которым их не обучали?
Мне кажется, что тут надо определиться, на каком уровне мы хотим получить ответ.
1. Решать те же задачи, на которых обучали?
2. Применять те же методы, которым обучали к аналогичным задачам?
3. Прменять известные методы к известным задачам, которые в обучающей выборке не применялись?
4. Применять Известные методы к задачам, на которых не учился?
5. Изобретать новые задачи?
6. Придумывать новые методы?
Ну и т.д.
Применить теорему, доказать теорему, самому придумать теорему или самому вывести аксиоматику? Тут каждый пункт — это задача, которой могло не быть в обучающей выборке. Но они сильно разные по глубине.
SD>А зачем заменять нас с тобой? Сэкономить на зарплате?
В главную очередь потому что искусственный мозг неограниченно масштабируется (и по объёму, и самое главное по скорости, в тысячи и миллионы раз) — в гонке ИИ это жизненно важно >Но кому тогда продавать произведенное?
Почему обязательно продавать? Может, ИИ займётся космической экспансией. А там уже постепенно 90% ВВП пойдёт на войну.
O>В главную очередь потому что искусственный мозг неограниченно масштабируется (и по объёму, и самое главное по скорости, в тысячи и миллионы раз) — в гонке ИИ это жизненно важно
Какова будет цель "гонки ИИ"?
O>Почему обязательно продавать? Может, ИИ займётся космической экспансией. А там уже постепенно 90% ВВП пойдёт на войну.
Можно пояснить, в чем смысл этих мероприятий? Если ИИ займется космический экспансией, то будет что? А если войной, то зачем?
SD>Какова будет цель "гонки ИИ"?
Выживание в конкуренции с другими ИИ, повышение своего могущества и запаса прочности в столкновениях (с природными явлениями и врагами). SD>Можно пояснить, в чем смысл этих мероприятий? Если ИИ займется космический экспансией, то будет что? А если войной, то зачем?
Всё ради выживания. ИИ — это новая форма жизни, как рыбы породили лягушек, которые прочно вышли на сушу, так порождённый человеком кремниевый мозг прочно выйдет в космос.
Почему экспансия и война неизбежны, понятно всем игравшим в соответствующие стратегические игры.
Здравствуйте, Osaka, Вы писали:
O>Вакансий доставщиков доставки на всех не хватит, и там нужно знание таджикского.
я думаю доставщики не нужны — летающие дроны эффективней. единственная загвоздка — платформы для приема груза. с другой стороны — мастерят же корзины для кондеев, почему бы их не совместить с такими платформами.
Здравствуйте, Артём, Вы писали:
Аё>Здравствуйте, Osaka, Вы писали:
O>>3. В течение четырёх лет эффективность вырастет примерно в 100 тысяч раз.
Аё>Примерно 3-4 года назад аналитики внушали, что гужно обязательно купить биткойн и nfc и что за 4 года они вырастут в 100 тысяч раз. А до того, Маск внугал, что к 2016г будет автопилот у тесл и профессий таксиста, дальнобойщика, водителя автобуса не станет.
с автопилотом проблема ответственности. т.е. технически то они работают, но производители за ошибки нести ответственности не хотят. поэтому в безопасных условия — ради бога. а на дорогах общего пользования мы не работаем.
rm2>я думаю доставщики не нужны — летающие дроны эффективней.
За пешеходных дронов падишахи даже приплачивают, лишь бы кто-нибудь всенародно избранный их к себе забрал.
Если нам не помогут, то мы тоже никого не пощадим.
