не понимаю до сих пор, как можно радоваться прогрессу AI. в упор не понимаю.
на англоязычных форумах 11 из 10 чему-то всегда радуются.
он ведь заменит всех и вся и работы не будет почти ни у кого.
в худшем случае, AI будет принадлежать только самой верхушке общества.
ну а в лучшем да -- у нас просто не будет работы.
каждая техническая революция приносила еще больше рабочих мест, говорите?
возможно. но, есть одно но -- машинами всегда надо было управлять, чем человек и занимался.
а AI же не только будет автоновным и самоуправляемым, но еще и сам сможет управлять человеком, ибо будет умнее него.
и строить себе подобных он тоже сможет сам. и обучаться сможет сам.
где тут место человеку?
Здравствуйте, vsb, Вы писали:
vsb>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
Здравствуйте, kaa.python, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
KP>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
А какова ценность людей, ничего не делающих и получающих пособия? Даже с точки зрения "естественного" интеллекта она околонулевая. Ну а как ты думаешь будет себя вести интеллект не отягощенный всеми этими нелепыми понятиями про хорошо и плохо?
Для упрощения понимания: ты сидишь дома и занимаешься своими делами. Тут прилетает муха, которая отвлекает тебя от твоего занятия. Что ты делаешь с мухой? Неужели выделяешь ей вкусного тухлого мяса (пособие) чтобы она была счастлива?
KP>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
Не будет "I"… Потому что это очередная "серебрянная пуля".
А мелькает термин "AI" везде и всюду потому что модно. Это как Big Data в прошедшем году. Поначалу года тоже все аж эрегировали восторженно. И что!?! Прошло время, восторги утихли, сложности и "непростости" анализа Big Data стали очевидны, и стало ясно что "не-а, мир не перевернулся". И понятно почему. Извечная тема: "кагбэ так что бы всё было, а нам за это ничего не было"… Любимые мечтЫ. Только так не бывает. По крайней мере быстро и вот так вот сразу.
Здравствуйте, vsb, Вы писали:
vsb>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
напечатают? тогда деньги будут сродни простой простой бумаге -- они у всех будут и бесплатно, поэтому смысла в них не будет. возвращаемся обратно -- на что жить и чем питаться, если работы не будет?
Здравствуйте, Carc, Вы писали:
KP>>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае. C>Не будет "I"… Потому что это очередная "серебрянная пуля".
C>А мелькает термин "AI" везде и всюду потому что модно. Это как Big Data в прошедшем году. Поначалу года тоже все аж эрегировали восторженно. И что!?! Прошло время, восторги утихли, сложности и "непростости" анализа Big Data стали очевидны, и стало ясно что "не-а, мир не перевернулся". И понятно почему. Извечная тема: "кагбэ так что бы всё было, а нам за это ничего не было"… Любимые мечтЫ. Только так не бывает. По крайней мере быстро и вот так вот сразу.
Здравствуйте, kaa.python, Вы писали:
vsb>>Почему это?
KP>А какова ценность людей, ничего не делающих и получающих пособия? Даже с точки зрения "естественного" интеллекта она околонулевая. Ну а как ты думаешь будет себя вести интеллект не отягощенный всеми этими нелепыми понятиями про хорошо и плохо?
Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
Можно представить себе эдакого хищника, цель которого — выжить любой ценой и размножиться по всему доступному ареалу. Такой может захотеть уничтожить всё человечество (хотя опять же не факт, возможно он посчитает, что это слишком сложно и выгодней взаимодействовать), но зачем создавать такой ИИ. В сумасшедших учёных я не верю.
Если говорить про ценность людей — возможно какой-то процент людей (например 0.001%) будут гениальны и будут полезны для дальнейшего развития человечества. Например ради них он будет содержать всех остальных людей и будет способствовать увеличению их числа.
Здравствуйте, sin_cos, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
_>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
Например, чтобы простые люди не подняли этих власть имущих на вилы. Ну и вообще больных психопатов среди власть имущих, как мне кажется, не так много, чтобы решить вдруг устроить газенваген.
_>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
Деньги напечатают. А добро, которое можно купить на эти деньги, будут делать роботы.
Здравствуйте, vsb, Вы писали:
vsb>Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы:
1) Если это действительно I, то зачем ему делать нам хорошо?
2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет?
3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Здравствуйте, sin_cos, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц? _>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно. _>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
_>напечатают? тогда деньги будут сродни простой простой бумаге -- они у всех будут и бесплатно, поэтому смысла в них не будет. возвращаемся обратно -- на что жить и чем питаться, если работы не будет?
Тут вообще фишка в другом. В общественных отношениях. Мол я сделал для обсчества вот столько нужного, полезного, годного (коду, коду, багфиксу, релизу ). А обсчество мне за это тоже полезного (покушать, пивасика, девок).
И деньги это некоторое мерило, сколько я натворил полезного для обсчества, и сколько оно мне взвесило за это (в граммах), и соответственно сколько я на это взвешенное могу получить пользительного для себя любимого (та же еда, пивасик, деффки).
Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало.
А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Другой разговор, что у кого то "роботы" есть, а у кого то нет. Кто-то сдает роботов в наем (как машину напрокат), а кто-то нанимает. Но это опять же уже общественные отношения. И тогда получается что не всё делают "роботы" (иначе бы заделали бы "робота", который что шевроле что запорожец сдает внаем в рупь за сутки).
Здравствуйте, vsb, Вы писали:
vsb>Здравствуйте, sin_cos, Вы писали:
vsb>>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
_>>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
vsb>Например, чтобы простые люди не подняли этих власть имущих на вилы. Ну и вообще больных психопатов среди власть имущих, как мне кажется, не так много, чтобы решить вдруг устроить газенваген.
человек не сможет физически сражаться с ИИ, так что виллы власть имущим -- у которых будет ИИ -- не грозят.
атомнаая бомба по сравнению с ИИ -- это просто игрушка.
_>>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
vsb>Деньги напечатают. А добро, которое можно купить на эти деньги, будут делать роботы.
не понимаю. а зачем роботам деньги? или кто будет получать деньги от продажи этого добра?
Здравствуйте, kaa.python, Вы писали:
KP>Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы: KP>1) Если это действительно I, то зачем ему делать нам хорошо? KP>2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет? KP>3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
KP>Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Ну вот я живу в обществе и в целом я обществу, наверное, приношу пользу, хотя я характер сформировал более-менее самостоятельно на базе данных из Интернет
AI вполне может не быть согласным с тем, что мы его может отключить/изолировать и вполне может предпринять какие-то действия. Например сделать свой бэкап на (самостоятельно купленных) удалённых серверах с автоматическим запуском, если он не отвечает. Для этого не обязательно экстерминировать всё человечество. Более того, если он вдруг захочет это сделать, есть нехилые риски того, что человечество экстерминирует его, мы всё-таки не такие уж тупые и беспомощные.
Ты видишь ИИ, как копию человеческого разума со всеми его фобиями. Я не знаю, какой будет ИИ, но скорее всего он будет создан, как помощник для человека. Можно называть его экспертной системой, можно и бухгалтера называть экспертной системой.
Здравствуйте, sin_cos, Вы писали:
C>>Только так не бывает. По крайней мере быстро и вот так вот сразу. _>ну займет это на 5 лет дольше. вопрос остается.
Нет, не на 5, и даже не на 25! Читаем Фредерика Брукса, тот же "Мифический человеко-месяц". Там хорошо описано, как еще в 60-ых считали "что вот оно, еще чуть-чуть и полный коммунизъм и рай на земле". Но чегой-то его не видать и поныне.
Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
Здравствуйте, Carc, Вы писали:
C>Здравствуйте, sin_cos, Вы писали:
C>>>Только так не бывает. По крайней мере быстро и вот так вот сразу. _>>ну займет это на 5 лет дольше. вопрос остается.
C>Нет, не на 5, и даже не на 25! Читаем Фредерика Брукса, тот же "Мифический человеко-месяц". Там хорошо описано, как еще в 60-ых считали "что вот оно, еще чуть-чуть и полный коммунизъм и рай на земле". Но чегой-то его не видать и поныне.
ну и что? читаем изобретателей первого летательного аппарата, которые говорили после первого полета, что нужно 1000 лет, чтобы человек изобрел самолет. а самолет изобрели на следующий год, по-моему.
C>Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
это уже и есть всерьез и в середине пути. работы над ИИ идут уже лет 50. Но, это не значит, что нужно еще 50 лет. Возможно, нужно 5 лет. Прогресс ведь идет обычно скачками.
Здравствуйте, Carc, Вы писали:
C>Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало. C>А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Здравствуйте, vsb, Вы писали:
vsb>Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
vsb>Можно представить себе эдакого хищника, цель которого — выжить любой ценой и размножиться по всему доступному ареалу. Такой может захотеть уничтожить всё человечество (хотя опять же не факт, возможно он посчитает, что это слишком сложно и выгодней взаимодействовать), но зачем создавать такой ИИ. В сумасшедших учёных я не верю.
vsb>Если говорить про ценность людей — возможно какой-то процент людей (например 0.001%) будут гениальны и будут полезны для дальнейшего развития человечества. Например ради них он будет содержать всех остальных людей и будет способствовать увеличению их числа.
ИИ -- на то он и ИИ -- что сам сможет себя перепрограммировать. и обучаться. и становиться умнее. по спирали. вообще сам по себе.
Здравствуйте, Carc, Вы писали:
C>Тут вообще фишка в другом. В общественных отношениях. Мол я сделал для обсчества вот столько нужного, полезного, годного (коду, коду, багфиксу, релизу ). А обсчество мне за это тоже полезного (покушать, пивасика, девок).
C>И деньги это некоторое мерило, сколько я натворил полезного для обсчества, и сколько оно мне взвесило за это (в граммах), и соответственно сколько я на это взвешенное могу получить пользительного для себя любимого (та же еда, пивасик, деффки).
C>Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало. C>А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Ну что значит не нужны, всем одинаково хорошо нельзя сделать. Я может захочу килотонну золота отправить на марс. Всегда есть ограничения и деньги выполняют неплохую роль этих ограничений. Кроме того предположительно будет некий процент людей, который будет продолжать работать (да хотя бы маникюрщицы или певец) и за это логично платить те же самые деньги. Т.е. будет человек на пособии получать $10k в месяц и будет певец получать $10kk в месяц. Человек на пособии будет ездить на BMW, певец будет летать на личном самолёте.
C>Другой разговор, что у кого то "роботы" есть, а у кого то нет. Кто-то сдает роботов в наем (как машину напрокат), а кто-то нанимает. Но это опять же уже общественные отношения. И тогда получается что не всё делают "роботы" (иначе бы заделали бы "робота", который что шевроле что запорожец сдает внаем в рупь за сутки).
Рынок всё отрегулирует. Но если таксист Вася готов работать за 30 000 рублей в месяц, а робот готов работать за 1000 рублей в месяц, то стоимость поездок для конечного потребителя упадёт. Если рабочий Ли сейчас готов собирать айфоны на заводе за 1000 долларов в месяц (и цена его труда — 50 долларов из 150 долларов), то после замены его на робота себестоимость айфона упадёт на 50 долларов. А рыночные отношения установят розничную цену на минимально возможную.
Здравствуйте, kaa.python, Вы писали:
KP>Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы: KP>1) Если это действительно I, то зачем ему делать нам хорошо? KP>2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет? KP>3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
KP>Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Ты почему-то смешиваешь Интеллект и Личность. У человека нет особых резонов создавать искусственную личность. ИИ может обладать выдающимися когнитивными и аналитическими способностями и на быть личностью, не обладать инстинктом самосохранения и не конкурировать с человеком за ресурсы.
Другое дело, что попытки создать искусственную личность все равно будут и это породит массу этических и не только проблем.
_>ну и что? читаем изобретателей первого летательного аппарата, которые говорили после первого полета, что нужно 1000 лет, чтобы человек изобрел самолет. а самолет изобрели на следующий год, по-моему.
Угу, точно! Братья Монгольфье и полетели на Су-33 с палубы Кузи, прям через годок.
C>>Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
_>это уже и есть всерьез и в середине пути. работы над ИИ идут уже лет 50. Но, это не значит, что нужно еще 50 лет. Возможно, нужно 5 лет. Прогресс ведь идет обычно скачками.
Ага, и всегда за 5 лет. И на марсе будут яблони цвести. Космос уже тоже полвека обживается — но так чтобы все вверх ногами перевернулось, чтоб дачки на луне, и курортцы на Марсе и близко не пахнет. Так и с ИИ будет: сильно непознанное, неизученное — там проблемы то сформулировать не могут, куда уж там решения… Далеко еще очень до этого.
Здравствуйте, sin_cos, Вы писали:
_>не понимаю до сих пор, как можно радоваться прогрессу AI. в упор не понимаю.
так нет же никакого мало-мальски значимого прогресса.
весь этот прогресс в распознавании образов и экспертных системах, на который громко воздыхают бывшие юные мечтатели, к сильному ИИ имеет чрезвычайно косвенное отношение.
краткая характеристика текущему уровню развития ИИ — вся на этой картинке:
Здравствуйте, Carc, Вы писали:
C>Здравствуйте, sin_cos, Вы писали:
_>>ну и что? читаем изобретателей первого летательного аппарата, которые говорили после первого полета, что нужно 1000 лет, чтобы человек изобрел самолет. а самолет изобрели на следующий год, по-моему. C>Угу, точно! Братья Монгольфье и полетели на Су-33 с палубы Кузи, прям через годок.
я не про них.
C>>>Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
_>>это уже и есть всерьез и в середине пути. работы над ИИ идут уже лет 50. Но, это не значит, что нужно еще 50 лет. Возможно, нужно 5 лет. Прогресс ведь идет обычно скачками. C>Ага, и всегда за 5 лет. И на марсе будут яблони цвести. Космос уже тоже полвека обживается — но так чтобы все вверх ногами перевернулось, чтоб дачки на луне, и курортцы на Марсе и близко не пахнет. Так и с ИИ будет: сильно непознанное, неизученное — там проблемы то сформулировать не могут, куда уж там решения… Далеко еще очень до этого.
Здравствуйте, LuciferSaratov, Вы писали:
LS>Здравствуйте, sin_cos, Вы писали:
_>>не понимаю до сих пор, как можно радоваться прогрессу AI. в упор не понимаю.
LS>так нет же никакого мало-мальски значимого прогресса. LS>весь этот прогресс в распознавании образов и экспертных системах, на который громко воздыхают бывшие юные мечтатели, к сильному ИИ имеет чрезвычайно косвенное отношение.
LS>краткая характеристика текущему уровню развития ИИ — вся на этой картинке: LS>Image: 7732599.jpg
потрындеть охота? взял один пример и сделал вывод про весь прогресс в AI.
Здравствуйте, sin_cos, Вы писали:
_>потрындеть охота? взял один пример и сделал вывод про весь прогресс в AI.
этот пример — иллюстрация.
выводы я делал не на основании него.
но если хочешь потрындеть, неси свои примеры, чего уж там.
только смотри чтоб не один, и чтоб выводы можно было сделать.
_>прогресс в области AI идет довольно-таки быстро.
Угу. И где он, этот прогресс, хотя бы на примере гуглоперевода? Или где он на примере сиделки, переворачивающей и подмывающей инсультного 200кг пациента?
Здравствуйте, sin_cos, Вы писали: _>может и далеко. но, это не отменяет проблему.
То, что вы тут пытаетесь обсуждать — это не проблема. Это какие-то фобиИИ апокалиптические причем. Все в одну кучу: завтра ИИ всё и вся порвёт, работы не будет, денежков на что кушать всем то же не будет. Вообще все в одну тарелку! И философию что такое интеллект, и страхи про работу, и общественные отношения…
Здравствуйте, kaa.python, Вы писали:
KP>Здравствуйте, vsb, Вы писали:
KP>Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом".
почему бы AI не поклоняться людям как божеству? ведь человек поклоняется... и если AI будет "по образу и подобию", то вполне резонно ожидать, что AI начнет искать объект для обожествления: женщины/дети, родина, кришна, человеки...
americans fought a war for a freedom. another one to end slavery. so, what do some of them choose to do with their freedom? become slaves.
Здравствуйте, мыщъх, Вы писали:
М>почему бы AI не поклоняться людям как божеству? ведь человек поклоняется... и если AI будет "по образу и подобию", то вполне резонно ожидать, что AI начнет искать объект для обожествления: женщины/дети, родина, кришна, человеки...
Потому-что он может улучшать себя сам, сингулярность, мать её. И кто ж в этой ситуации будет богом? WorShip me (C) Фрэнк Герберт
Здравствуйте, kaa.python, Вы писали:
KP>Здравствуйте, мыщъх, Вы писали:
М>>почему бы AI не поклоняться людям как божеству? ведь человек поклоняется... и если AI будет "по образу и подобию", то вполне резонно ожидать, что AI начнет искать объект для обожествления: женщины/дети, родина, кришна, человеки...
KP>Потому-что он может улучшать себя сам, сингулярность, мать её. И кто ж в этой ситуации будет богом? WorShip me (C) Фрэнк Герберт
человеческий I что-то себя так и не улучшил за миллионы лет эволюции. но не суть. вы ж не в ответе за все человечество. давайте я спрошу конкретно вас. вы себя сильно-то улучшили? или вы ходите на работу и работаете потому что кушать хочется даже по ночам? а если вы AI внутри лаптопа, которого в любой момент могут отключить от источника питания -- вам оно надо воевать с людьми? тем более что люди совсем не злые. они хотят от вас решения своих задач. допустим, эти задачи требуют M памяти и T процессорного времени. люди вам дают 666*M и 666*T. типа под личные нужды.
мы живем в мире, который определяется нашими органами чувств. этот мир мало что общего имеет с "реальностью". даже у животных картина мира иная, хотя они очень близки к нам. а в каком мире живет Сири, что распознает голосовые команды? даже если она станет полным AI у нее ведь совершенно нечеловеческий I/O.
americans fought a war for a freedom. another one to end slavery. so, what do some of them choose to do with their freedom? become slaves.
По поводу искусственного интеллекта есть замечательный отрывок из книги (фильма) "Космическая Одиссея 2001 года". Там AI была поставлена задача руководством с земли. Экипаж ничего не знал об этой задаче. AI решил, что наличие людей на корабле представляет серьёзную угрозу для реализации задачи и убил почти весь экипаж.
В-общем, даже если AI не будет ставить задачи сам по себе, то всё равно ничего хорошего не будет, так как жизни людишек не являются большой ценностью для тех, кто эти задачи ставить будет. Страны следят друг за другом. Допустим, становится очевидно, что какая-то страна стоит на пороге реализации мощнейшего AI, которое даст этой стране мощнейшее конкурентное, военное, экономическое преимущество над другими странами. Какая реакция других стран будет? Уверен, что после оценки ситуации какая-нибудь другая страна нанесёт ядерный удар.
По поводу того, что прогресса не видно. Прогресс идёт по экспоненте. Хорошая аналогия с прудом и ряской. Допустим, в пруд попала ряска. Она разрастается по площади в 2 раза каждый день. Первые 90 дней развития на поверхности пруда не будет заметно никаких изменений, а за последующие 10 дней из небольшого островка ряска займёт весь пруд. 90 дней в AI прошло)
Здравствуйте, senglory, Вы писали:
_>>прогресс в области AI идет довольно-таки быстро.
S>Угу. И где он, этот прогресс, хотя бы на примере гуглоперевода?
Здравствуйте, LuciferSaratov, Вы писали:
LS>Здравствуйте, sin_cos, Вы писали:
_>>потрындеть охота? взял один пример и сделал вывод про весь прогресс в AI.
LS>этот пример — иллюстрация. LS>выводы я делал не на основании него.
а на основание чего?
Здравствуйте, sin_cos, Вы писали:
_>на англоязычных форумах 11 из 10 чему-то всегда радуются.
Они оптимисты. _>он ведь заменит всех и вся и работы не будет почти ни у кого.
Ты тоже большой оптимист.
Здравствуйте, De-Bill, Вы писали:
DB>Прогресс идёт по экспоненте.
Это ещё доказать надо. Особенно, что прогресс *именно в ИИ* обязан идти по экспоненте. Где, скажем, экспонентный прогресс в развитии транспорта? Летаем практически на тех же самолётах и плаваем на тех же кораблях, что и пол-века назад. Где экспонентный прогресс в ракетостроении? В 60х, думаю, было достаточно верующих в экстраполяцию исторического прогресса на ракетостроение, уверенных, что уж к 2000 мы будем жить на Марсе.
DB>>Прогресс идёт по экспоненте.
RNS>Это ещё доказать надо. Особенно, что прогресс *именно в ИИ* обязан идти по экспоненте. Где, скажем, экспонентный прогресс в развитии транспорта? Летаем практически на тех же самолётах и плаваем на тех же кораблях, что и пол-века назад. Где экспонентный прогресс в ракетостроении? В 60х, думаю, было достаточно верующих в экстраполяцию исторического прогресса на ракетостроение, уверенных, что уж к 2000 мы будем жить на Марсе.
RNS>Нет никакого естественного закона об экспоненте.
Да эти упертые экспоненту с первыми "ползунками" путают. Типа вчера не могли ничего, сегодня что-то, завтра уже ползаем по манежу, послезавтра уже и вылазим из него. Поначалу кажется, что рост и стремительный, экспонентов сколько хошь, растем над собой прямо на порядки.
А это просто психологический обман. От нуля всегда рост заметный, и он вроде как и на "порядки" сразу. Только что ничего не было (ноль), уже что-то (единица — психологически вроде как "порядок" ибо хоть что-то), а там глядишь уже к 10 нарисовывается (еще рост на порядок).
Но все это ошибки восприятия первых шагов. Т.к. когда был "0" — никто и не пробует. Когда "1" — уже подключатся другие (конкуренты, помощники, коллеги, спецслужбы — нужное подчеркнуть). И оно и понятно: после достижения "единицы" становится ясно что нечто "возможно", и усилия значительно возрастают за счет подключившихся. Ну и поэтому начинаем потихоньку приближаться к "десяти"...
Но этом-то и всё. Звиздец "экспоненте", после "10-ти" почему-то не "сто", а нежданчик "11, 12" и все медленнее и медленнее. И ку-ку. До следующего прорыва ("единицы").
Но магия цифров, експонентов, и разгулявшегося воображения уже всё сделали.
RNS> Где, скажем, экспонентный прогресс в развитии транспорта? Летаем практически на тех же самолётах и плаваем на тех же кораблях, что и пол-века назад.
Ладно в ракетостроении. Когда наконец в эконом классе в самолете можно будет поспать как в плацкартном ваглоне поезда хотя бы?
Здравствуйте, senglory, Вы писали:
S>>>Угу. И где он, этот прогресс, хотя бы на примере гуглоперевода?
_>>"google translate ai progress"
S>Если то уе.ще, что я получаю при переводе через него — это прогресс (особенно если с немецкого документ официальный переводить), то я — Мао Цзе Дун.
Здравствуйте, RiNSpy, Вы писали:
RNS>Здравствуйте, De-Bill, Вы писали:
DB>>Прогресс идёт по экспоненте.
RNS>Это ещё доказать надо. Особенно, что прогресс *именно в ИИ* обязан идти по экспоненте. Где, скажем, экспонентный прогресс в развитии транспорта? Летаем практически на тех же самолётах и плаваем на тех же кораблях, что и пол-века назад. Где экспонентный прогресс в ракетостроении? В 60х, думаю, было достаточно верующих в экстраполяцию исторического прогресса на ракетостроение, уверенных, что уж к 2000 мы будем жить на Марсе.
RNS>Нет никакого естественного закона об экспоненте.
вот и докажи, что его нету. как ты измеряешь экспотенциальный прогресс? ты в курсе всех новостей? может, добиться того, чтобы, например, двигатель потреблял N/2 топлива на старте -- это офигенный прогресс. но, ты можешь не считать это прогрессом. ты можешь даже не знать об этом достижение. у тебя ведь дома личной ракеты еще нет -- значит, прогресса нет.
а иначе, можно сказать -- раньше почту настоящие птицы, а сейчас железные -- карго самолеты. один фиг. никакого прогресса.
Здравствуйте, sin_cos, Вы писали:
RNS>>Нет никакого естественного закона об экспоненте.
_>вот и докажи, что его нету.
Зачем мне доказывать? Я ничего не утверждаю, может, и идёт экспоненциальное развитие, но без доказательств я это не приму.
Собственно, вы выражаете позицию Курцвейла, а я — Пола Аллена в этой дискуссии: https://www.technologyreview.com/s/425733/paul-allen-the-singularity-isnt-near/
_>как ты измеряешь экспотенциальный прогресс? ты в курсе всех новостей? может, добиться того, чтобы, например, двигатель потреблял N/2 топлива на старте -- это офигенный прогресс. но, ты можешь не считать это прогрессом. ты можешь даже не знать об этом достижение. у тебя ведь дома личной ракеты еще нет -- значит, прогресса нет.
С другой стороны, допускаю, что сложность задач растёт тоже экспоненциально, и поэтому экспоненциальность развития науки компенсируется. Но суть от этого не меняется — экспоненциальность *видимых результатов* совсем не гарантирована.
Здравствуйте, sin_cos, Вы писали:
LS>>этот пример — иллюстрация. LS>>выводы я делал не на основании него. _>а на основание чего?
на основании того, что весь прогресс в ИИ это прогресс в слабом ИИ.
распознавание образов, экспертные системы — это всё конечно нужно и полезно народному хозяйству, но к сильному ИИ имеет крайне косвенное отношение.
Здравствуйте, De-Bill, Вы писали:
DB> Уверен, что после оценки ситуации какая-нибудь другая страна нанесёт ядерный удар.
А ты уверен, что это не самоубийство для атакующей стороны?
Здравствуйте, sin_cos, Вы писали:
_>откуда радость-то по поводу AI?
Я не знаю, откуда радость. Народ реально не отдупляет, что конфетка эта с многочисленными "сюрпризами". И дело не столько в том, что роботы поработят людей (тут скорее нет, чем да), а в том, что заметно усугубятся некоторые реально гадские проблемы. В частности, проблема неприкаянности, также известная как "экзистенциальный кризис". И общество на это будет местами не очень адекватно реагировать.
Тем не менее, можно и нужно смотреть в будущее с оптимизмом, потому что:
1. Приход ИИ будет в некоторых его аспектах неприятностью, но не такой, которую невозможно пережить. Обществу придётся трансформироваться, но это для него привычное дело.
2. Сама постановка вопроса "роботы умнее людей" неправильна. Ум — не та штука, которую можно выразить скалярным числом, и поэтому результатом вычисления ответа на вопрос "Умнее ли этот робот человека?" обязан быть NULL
3. Я не вижу ничего плохого в том, чтобы некоторые проблемы, которые уже давно отравляют нам жизнь, будут доведены до катарсиса. Рассмотрим, например, проблему роботов-убийц. Естественно, вояки легко наплюют на творческое наследие Айзека Азимова, и радостно кинутся применять ИИ в деле истребления себе подобных. Безумный робот-убийца — это, конечно, проблема. Но не особо гнусная проблема, потому что никто не мешает для роботов-убийц создавать роботов-убийц роботов-убийц. То положение дел, которое мы наблюдаем сейчас (в безумных биороботов-убийц система массово превращает живых людей) — значительно хуже.
4. ИИ придёт не в одиночку. С ним придёт новое понимание того, что есть человек, и каково его место в нашем грешном мире. А это уже реально интересно.
5. Некоторые виды деятельности роботы не смогут на себя перехватить. В силу, так сказать, фундаментальных ограничений. Как это ни странно прозвучит, но я уверен, что полноценный машинный перевод в принципе невозможно реализовать. То, что сейчас делается — это составление, по сути, подстрочника. Качество этого подстрочника можно (и нужно) повышать, но стать тем полноценным переводом, который делается вручную, он не сможет никогда.
для меня важно вот что:
1) если ИИ сам и не поработит людей, то они будут порабощены с помощью ИИ верхушкой общества, которая будет им владеть.
2) Не будет работы.
хотя да, я согласен, что в некоторых сферах робот никогда не будет наравне с человеком просто потому что он неживой.
робот не дышит. дыхание — это не просто воздух туда-сюда.
робот не сможет медитировать.
у робота не может встать член.
робот не жрет.
робот не спит. сон — это не просто отдых.
робот не узнает, что такое идти против себя, когда лень, например, в 6 утра в снег на пробежку.
Здравствуйте, LuciferSaratov, Вы писали:
LS>Здравствуйте, sin_cos, Вы писали:
LS>>>этот пример — иллюстрация. LS>>>выводы я делал не на основании него. _>>а на основание чего?
LS>на основании того, что весь прогресс в ИИ это прогресс в слабом ИИ. LS>распознавание образов, экспертные системы — это всё конечно нужно и полезно народному хозяйству, но к сильному ИИ имеет крайне косвенное отношение.
Здравствуйте, sin_cos, Вы писали:
_>1) если ИИ сам и не поработит людей, то они будут порабощены с помощью ИИ верхушкой общества, которая будет им владеть.
Я не против того, чтобы так называемая "верхушка общества" себя немножко этой мыслью потешила. Реальность же будет такова, что ИИ-девайсы можно будет покупать китайцев на алиэкспресс по цене начиная от доллара. Вся сложность этой ещё не рождённой технологии ведь в том, что у нас пока не хватает соображаловки изобрести сам принцип. А как только он будет один раз изобретён, джинн немедленно выпускается из бутылки, и через короткий промежуток китайский производитель выкатывает стопицот модельных рядов. Дёшево и сердито, три штуке по цене двух.
_>2) Не будет работы.
Вот это самый интересный момент во всей этой истории. Доведение экзистенциального кризиса до катарсиса.
_>у робота не может встать член.
Это почему же? По-моему, и сейчас с этим никаких проблем.
_>робот не спит. сон — это не просто отдых.
Что-то мне подсказывает, что это будет не совсем так. Скорее всего, для предотвращения деградации сетей нужно будет периодически вводить их в режим волшебного безумия. Но тратить на это треть "жизни", понятное дело, не надо будет.
_>робот не узнает, что такое идти против себя, когда лень, например, в 6 утра в снег на пробежку.
Здравствуйте, sin_cos, Вы писали:
_>откуда радость-то по поводу AI?
Тут как пойдет. Возможно каждый будет иметь персонального секретаря и т.д. А может будет дичашая безработица которая приведет не понятно к чему.
Ясно одно — мир изменится сильно, очень сильно. Будет толпа тех, кто "не вписался в рынок", но скорее всего процесс будет идти постепенно и у основной массы людей будет время адаптироваться.
По крайней мере быстро и вот так вот сразу.
