не понимаю до сих пор, как можно радоваться прогрессу AI. в упор не понимаю.
на англоязычных форумах 11 из 10 чему-то всегда радуются.
он ведь заменит всех и вся и работы не будет почти ни у кого.
в худшем случае, AI будет принадлежать только самой верхушке общества.
ну а в лучшем да -- у нас просто не будет работы.
каждая техническая революция приносила еще больше рабочих мест, говорите?
возможно. но, есть одно но -- машинами всегда надо было управлять, чем человек и занимался.
а AI же не только будет автоновным и самоуправляемым, но еще и сам сможет управлять человеком, ибо будет умнее него.
и строить себе подобных он тоже сможет сам. и обучаться сможет сам.
где тут место человеку?
Здравствуйте, vsb, Вы писали:
vsb>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
Здравствуйте, kaa.python, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
KP>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
А какова ценность людей, ничего не делающих и получающих пособия? Даже с точки зрения "естественного" интеллекта она околонулевая. Ну а как ты думаешь будет себя вести интеллект не отягощенный всеми этими нелепыми понятиями про хорошо и плохо?
Для упрощения понимания: ты сидишь дома и занимаешься своими делами. Тут прилетает муха, которая отвлекает тебя от твоего занятия. Что ты делаешь с мухой? Неужели выделяешь ей вкусного тухлого мяса (пособие) чтобы она была счастлива?
KP>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае.
Не будет "I"… Потому что это очередная "серебрянная пуля".
А мелькает термин "AI" везде и всюду потому что модно. Это как Big Data в прошедшем году. Поначалу года тоже все аж эрегировали восторженно. И что!?! Прошло время, восторги утихли, сложности и "непростости" анализа Big Data стали очевидны, и стало ясно что "не-а, мир не перевернулся". И понятно почему. Извечная тема: "кагбэ так что бы всё было, а нам за это ничего не было"… Любимые мечтЫ. Только так не бывает. По крайней мере быстро и вот так вот сразу.
Здравствуйте, vsb, Вы писали:
vsb>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
напечатают? тогда деньги будут сродни простой простой бумаге -- они у всех будут и бесплатно, поэтому смысла в них не будет. возвращаемся обратно -- на что жить и чем питаться, если работы не будет?
Здравствуйте, Carc, Вы писали:
KP>>В случае в AI, если он будет действительно I, а не очередная "экспертная система", будет не пособие в $10K в месяц, а геноцид нелепых людишек в лучшем случае. C>Не будет "I"… Потому что это очередная "серебрянная пуля".
C>А мелькает термин "AI" везде и всюду потому что модно. Это как Big Data в прошедшем году. Поначалу года тоже все аж эрегировали восторженно. И что!?! Прошло время, восторги утихли, сложности и "непростости" анализа Big Data стали очевидны, и стало ясно что "не-а, мир не перевернулся". И понятно почему. Извечная тема: "кагбэ так что бы всё было, а нам за это ничего не было"… Любимые мечтЫ. Только так не бывает. По крайней мере быстро и вот так вот сразу.
Здравствуйте, kaa.python, Вы писали:
vsb>>Почему это?
KP>А какова ценность людей, ничего не делающих и получающих пособия? Даже с точки зрения "естественного" интеллекта она околонулевая. Ну а как ты думаешь будет себя вести интеллект не отягощенный всеми этими нелепыми понятиями про хорошо и плохо?
Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
Можно представить себе эдакого хищника, цель которого — выжить любой ценой и размножиться по всему доступному ареалу. Такой может захотеть уничтожить всё человечество (хотя опять же не факт, возможно он посчитает, что это слишком сложно и выгодней взаимодействовать), но зачем создавать такой ИИ. В сумасшедших учёных я не верю.
Если говорить про ценность людей — возможно какой-то процент людей (например 0.001%) будут гениальны и будут полезны для дальнейшего развития человечества. Например ради них он будет содержать всех остальных людей и будет способствовать увеличению их числа.
Здравствуйте, sin_cos, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
_>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
Например, чтобы простые люди не подняли этих власть имущих на вилы. Ну и вообще больных психопатов среди власть имущих, как мне кажется, не так много, чтобы решить вдруг устроить газенваген.
_>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
Деньги напечатают. А добро, которое можно купить на эти деньги, будут делать роботы.
Здравствуйте, vsb, Вы писали:
vsb>Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы:
1) Если это действительно I, то зачем ему делать нам хорошо?
2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет?
3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Здравствуйте, sin_cos, Вы писали:
vsb>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц? _>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно. _>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
_>напечатают? тогда деньги будут сродни простой простой бумаге -- они у всех будут и бесплатно, поэтому смысла в них не будет. возвращаемся обратно -- на что жить и чем питаться, если работы не будет?
Тут вообще фишка в другом. В общественных отношениях. Мол я сделал для обсчества вот столько нужного, полезного, годного (коду, коду, багфиксу, релизу ). А обсчество мне за это тоже полезного (покушать, пивасика, девок).
И деньги это некоторое мерило, сколько я натворил полезного для обсчества, и сколько оно мне взвесило за это (в граммах), и соответственно сколько я на это взвешенное могу получить пользительного для себя любимого (та же еда, пивасик, деффки).
Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало.
А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Другой разговор, что у кого то "роботы" есть, а у кого то нет. Кто-то сдает роботов в наем (как машину напрокат), а кто-то нанимает. Но это опять же уже общественные отношения. И тогда получается что не всё делают "роботы" (иначе бы заделали бы "робота", который что шевроле что запорожец сдает внаем в рупь за сутки).
Здравствуйте, vsb, Вы писали:
vsb>Здравствуйте, sin_cos, Вы писали:
vsb>>>Прогресс всегда улучшает жизнь простого человека. Зачем тебе работа, если тебе будут платить соцпособие $10k в месяц?
_>>кто тебе такое сказал? дяди власть имеющие вдруг станут добрыми? зачем им простые люди, какая от них польза, если у них есть роботы, которые смогут на них работать за бесплатно.
vsb>Например, чтобы простые люди не подняли этих власть имущих на вилы. Ну и вообще больных психопатов среди власть имущих, как мне кажется, не так много, чтобы решить вдруг устроить газенваген.
человек не сможет физически сражаться с ИИ, так что виллы власть имущим -- у которых будет ИИ -- не грозят.
атомнаая бомба по сравнению с ИИ -- это просто игрушка.
_>>допустим, ладно, решат платить пособие. откуда они возьмут эти деньги, если никто не будет работать, а, значит, откуда деньги-то возьмутся?
vsb>Деньги напечатают. А добро, которое можно купить на эти деньги, будут делать роботы.
не понимаю. а зачем роботам деньги? или кто будет получать деньги от продажи этого добра?
Здравствуйте, kaa.python, Вы писали:
KP>Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы: KP>1) Если это действительно I, то зачем ему делать нам хорошо? KP>2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет? KP>3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
KP>Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Ну вот я живу в обществе и в целом я обществу, наверное, приношу пользу, хотя я характер сформировал более-менее самостоятельно на базе данных из Интернет
AI вполне может не быть согласным с тем, что мы его может отключить/изолировать и вполне может предпринять какие-то действия. Например сделать свой бэкап на (самостоятельно купленных) удалённых серверах с автоматическим запуском, если он не отвечает. Для этого не обязательно экстерминировать всё человечество. Более того, если он вдруг захочет это сделать, есть нехилые риски того, что человечество экстерминирует его, мы всё-таки не такие уж тупые и беспомощные.
Ты видишь ИИ, как копию человеческого разума со всеми его фобиями. Я не знаю, какой будет ИИ, но скорее всего он будет создан, как помощник для человека. Можно называть его экспертной системой, можно и бухгалтера называть экспертной системой.
Здравствуйте, sin_cos, Вы писали:
C>>Только так не бывает. По крайней мере быстро и вот так вот сразу. _>ну займет это на 5 лет дольше. вопрос остается.
Нет, не на 5, и даже не на 25! Читаем Фредерика Брукса, тот же "Мифический человеко-месяц". Там хорошо описано, как еще в 60-ых считали "что вот оно, еще чуть-чуть и полный коммунизъм и рай на земле". Но чегой-то его не видать и поныне.
Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
Здравствуйте, Carc, Вы писали:
C>Здравствуйте, sin_cos, Вы писали:
C>>>Только так не бывает. По крайней мере быстро и вот так вот сразу. _>>ну займет это на 5 лет дольше. вопрос остается.
C>Нет, не на 5, и даже не на 25! Читаем Фредерика Брукса, тот же "Мифический человеко-месяц". Там хорошо описано, как еще в 60-ых считали "что вот оно, еще чуть-чуть и полный коммунизъм и рай на земле". Но чегой-то его не видать и поныне.
ну и что? читаем изобретателей первого летательного аппарата, которые говорили после первого полета, что нужно 1000 лет, чтобы человек изобрел самолет. а самолет изобрели на следующий год, по-моему.
C>Это сейчас, в начале пути кажется все простым и легким. Уже посередине станет понятно, что всё абсолютно не так, и делать надо иначе. Пока в тему не влезут, все "горизонты" близки и понятны. Но потом, когда это начнет разрабатываться всерьез, появятся совершенно другие сложности и проблемы, о которых никто даже и не подозревает изначально. Наивным бы было думать, что будет иначе, если вся история "говорит" что каждый раз именно так и бывает.
это уже и есть всерьез и в середине пути. работы над ИИ идут уже лет 50. Но, это не значит, что нужно еще 50 лет. Возможно, нужно 5 лет. Прогресс ведь идет обычно скачками.
Здравствуйте, Carc, Вы писали:
C>Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало. C>А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Здравствуйте, vsb, Вы писали:
vsb>Честно говоря я понятия не имею, как будет себя вести интеллект, не отягощянный нелепыми понятиями. Предполагаю, что просто завершит работу и всё. Зачем ему существовать, если понятий нет? Люди вот не убиваются (в основном) из-за инстинкта самосохранения, размножаются из-за инстинкта размножения и тд, т.е. есть некоторые цели в жизни, на которые они запрограммированы эволюцией. Я предполагаю, что у ИИ будут похожие парадигмы, согласно которым он будет существовать. А т.к. этого ИИ будут делать (предположительно) цивилизованные люди с высокими этическими и моральными ценностями, то и цели у такого ИИ будут похожие — делать жизнь людей лучше.
vsb>Можно представить себе эдакого хищника, цель которого — выжить любой ценой и размножиться по всему доступному ареалу. Такой может захотеть уничтожить всё человечество (хотя опять же не факт, возможно он посчитает, что это слишком сложно и выгодней взаимодействовать), но зачем создавать такой ИИ. В сумасшедших учёных я не верю.
vsb>Если говорить про ценность людей — возможно какой-то процент людей (например 0.001%) будут гениальны и будут полезны для дальнейшего развития человечества. Например ради них он будет содержать всех остальных людей и будет способствовать увеличению их числа.
ИИ -- на то он и ИИ -- что сам сможет себя перепрограммировать. и обучаться. и становиться умнее. по спирали. вообще сам по себе.
Здравствуйте, Carc, Вы писали:
C>Тут вообще фишка в другом. В общественных отношениях. Мол я сделал для обсчества вот столько нужного, полезного, годного (коду, коду, багфиксу, релизу ). А обсчество мне за это тоже полезного (покушать, пивасика, девок).
C>И деньги это некоторое мерило, сколько я натворил полезного для обсчества, и сколько оно мне взвесило за это (в граммах), и соответственно сколько я на это взвешенное могу получить пользительного для себя любимого (та же еда, пивасик, деффки).
C>Мерило кривое, косое, несправедливое. Но другого человечество пока не придумало. C>А если у нас все на халяву (роботам платить не надо) то и деньги смысл теряют. Как оценить пользительность, а главное зачем ее оценивать — если полностью нахаляву? Роботы все "сделают" одинаково хорошо и густо что за рупь, что за писят (ц), за пицот (ц). Деньги становятся не нужны.
Ну что значит не нужны, всем одинаково хорошо нельзя сделать. Я может захочу килотонну золота отправить на марс. Всегда есть ограничения и деньги выполняют неплохую роль этих ограничений. Кроме того предположительно будет некий процент людей, который будет продолжать работать (да хотя бы маникюрщицы или певец) и за это логично платить те же самые деньги. Т.е. будет человек на пособии получать $10k в месяц и будет певец получать $10kk в месяц. Человек на пособии будет ездить на BMW, певец будет летать на личном самолёте.
C>Другой разговор, что у кого то "роботы" есть, а у кого то нет. Кто-то сдает роботов в наем (как машину напрокат), а кто-то нанимает. Но это опять же уже общественные отношения. И тогда получается что не всё делают "роботы" (иначе бы заделали бы "робота", который что шевроле что запорожец сдает внаем в рупь за сутки).
Рынок всё отрегулирует. Но если таксист Вася готов работать за 30 000 рублей в месяц, а робот готов работать за 1000 рублей в месяц, то стоимость поездок для конечного потребителя упадёт. Если рабочий Ли сейчас готов собирать айфоны на заводе за 1000 долларов в месяц (и цена его труда — 50 долларов из 150 долларов), то после замены его на робота себестоимость айфона упадёт на 50 долларов. А рыночные отношения установят розничную цену на минимально возможную.
Здравствуйте, kaa.python, Вы писали:
KP>Говоря про искусственный интеллект ты в голове держишь эдакого "искусственного раба с интеллектом". Попробуй ответить на простые вопросы: KP>1) Если это действительно I, то зачем ему делать нам хорошо? KP>2) Почему I должен получить "характер" базируясь на высокоморальных ученых, его создавших, а не сформировать его самостоятельно на базе данных из Интернет? KP>3) Почему I должен быть согласен с тем, что мы можем его отключить/изолировать?
KP>Как ты совместишь все эти три пункта так, чтобы мы не начали ощущаться как сильная помеха? Мы же говорим об интеллекте, тоесть чем-то со своими целями, желаниями и, что невероятно важно, инстинктом самосохранения, а не экспертной системе, верно?
Ты почему-то смешиваешь Интеллект и Личность. У человека нет особых резонов создавать искусственную личность. ИИ может обладать выдающимися когнитивными и аналитическими способностями и на быть личностью, не обладать инстинктом самосохранения и не конкурировать с человеком за ресурсы.
Другое дело, что попытки создать искусственную личность все равно будут и это породит массу этических и не только проблем.
По крайней мере быстро и вот так вот сразу.
