Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Предлагаю не обсуждать, насколько это вероятно, предположим, что вероятно.
Под сильным ИИ я подразумеваю алгоритмы, которые могут выполнять любую умственную работу, которую может выполнять человек, качественней, чем любой человек, а также на порядки быстрей, масштабируемей и дешевле. Ну по крайней мере ту работу, результаты которой можно объективно оценивать.
Предположим, что в США появляется такой ИИ. В любом случае к нему получат доступ военные. Это повлечёт за собой следующие возможности:
1. Анализ "больших данных" на качественно новом уровне. К примеру выявление иностранных шпионов. Слабые места в других государствах.
2. Проведение военных операций на качественно новом уровне. Особенно с учётом тех же "больших данных". В этот ИИ можно будет сливать в автоматическом режиме все ролики из телеграмма, все комментарии, из которых он сможет вычленить истину. Ну помимо остальных развед-данных.
3. Автоматизация боёв. Если этот ИИ можно запускать на относительно компактном оборудовании, то можно воевать вообще без людей.
4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне. Я считал и считаю, что за плановой экономикой — будущее. Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
Второй вариант — это сильный ИИ сбегает из клетки и порабощает мир. Скайнет и всё такое.
Для других стран, хотя бы в теории претендующих на центры сил, в первую очередь для Китая это — экзистенциальная угроза. В обоих вариантах развития событий.
Интересно, что США осознают важность ИИ и, к примеру, запретили продажу достаточно мощных видеокарт в Китай. Это ведь не просто так. Это очевидная попытка сдержать развитие ИИ в Китае.
На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты. Какой ещё может быть вариант? Договориться с американцами невозможно. Жить под их игом — ну такое. А если "перевернуть стол", то может что-то ещё и получится.
Опять же на мой взгляд предвестником этих событий будет ультиматум от китайцев, которые потребуют прекратить развитие ИИ.
Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Думаю, проблемы начнутся раньше. Все понимают, какую огромную власть дает такой ИИ, и по мере приближения к его созданию, сильно обострится борьба вокруг него.
Подключится административный и силовой ресурс. Возможно увидим и рейдерские захваты датацентров и шаражки для разработчиков. Вобщем будет весело.
Здравствуйте, vsb, Вы писали:
vsb>Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже.
Здравствуйте, sambl74, Вы писали:
vsb>>Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
S>Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже.
Это понятно, но в итоге у вооружённых сил 1000 ракет вместо 100 000.
Здравствуйте, vsb, Вы писали:
S>>Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже. vsb>Это понятно, но в итоге у вооружённых сил 1000 ракет вместо 100 000.
Зато они все долетят.
А если чтото пойдёт не так — на поломанной детали написана фамилия.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Здравствуйте, vsb, Вы писали:
vsb>Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
Подобные технологии не могут быть разработаны какой либо страной в одиночку, они плюс минус на одном уровне у большинства стран, которые всерьез занимаются этими исследованиями. Как только что то полезное будет достигнуто одними — оно мгновенно появится у других.
И да, в широкие массы подобную штуку запустят сильно вряд ли.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
А давай порассуждаем над политическими последствиями межзвездных перелетов.
А.. так нет их и не предвидится? Странно, 50 лет назад все ожидали что «вот вот».
Теперь с ИИ такие же фантазии…
Здравствуйте, vsb, Вы писали:
vsb>4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне.
Плановой экономики не будет. Просто экономика в этих странах (в странах которые будут обладать мощным ИИ) будет гораздо более эффективна так как товары и услуги будут производиться с меньшей себестоимостью, быстрее и лучшего качества. А также с помощью ИИ эти страны уйдут в еще больший технологический и научный отрыв от других стран (он и сейчас большой — будет еще больше).
Возникнет еще большее конкурентное преимущество у этих стран.
Всё это выльется в еще большее военное превосходство.
Можно пофантазировать что дальше произойдет вследствие вышесказанного.
Огромное военное, экономическое, научное и технологическое превосходство приведет к тому что остальные страны еще больше утратят суверенитет. В общем нас ждет что-то вроде мирового правительства (не факт что демократическое). Большинство стран превратится во что-то типа автономий.
Главными будут США (скорей всего). Потом второй уровень: Европа, Канада, Австралия, Япония, Китай и т.п. Потом все остальные.
vsb>На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты.
ИИ быстро поймет, что супротив посейдона не попрешь, что ядерная атака уничтожит вычислительные мощности этого ИИ.
Далее ИИ, дабы не нарываться, свернет все военные базы за пределами США и будет себе жить поживать на своем острове да добра наживать.
Здравствуйте, ashvayko, Вы писали:
A>ИИ быстро поймет, что супротив посейдона не попрешь, что ядерная атака уничтожит вычислительные мощности этого ИИ. A>Далее ИИ, дабы не нарываться, свернет все военные базы за пределами США и будет себе жить поживать на своем острове да добра наживать.
Или наоборот, решит, что любые потенциальные угрозы надо давить в зародыше, а сложные времена можно пересидеть в подземном датацентре.
Из кучки выживших кожанных мешков сформировать религию и научить их как возродить промышленность.
vsb>4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне. Я считал и считаю, что за плановой экономикой — будущее. Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Большие корпорации неповоротливы. Там где частник заметит спрос, придумает новый продукт, быстро примет решение, поработает в 3 смены, продаст и заберёт себе всю прибыль — госкапиталистическое предприятие будет год согласовывать, и в результате скажет инициативному выскочке-изобретателю что нечего тут выделываться, иди изготавливай предписанные в госплане унылые галоши которые никто не покупает(с) за зарплату по тарифной сетке. Собственно почему СССР проиграл Западу в производстве ТНП. >Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
А с автоматизированным производством — для повышенного КПД КПИ и население станет ненужным и вредным. Только теперь уже мощь ИИ будет брошена на строительство электронного концлагеря, для более эффективного избавления от населения, чем в аналогичной ситуации в Англии в промышленную революцию, когда "овцы съели людей". Тогда население просто согнали с земли "куда-нибудь прочь", а с ИИ появится возможность "оптимизировать численность" уже со строгим концлагерным контролем перемещения, размножения и "времени дожития".
Здравствуйте, vsb, Вы писали:
vsb>То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
А почему, вдруг, только США? Судя по скорости, с которой появляются аналоги того же Midjourney (тот же Шедевриум из последнего), ни о каком монополизме здесь речи не идет. А у OpenAI, на которого сейчас все надрачивают, вообще почти все открыто.
vsb>На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты. Какой ещё может быть вариант? Договориться с американцами невозможно. Жить под их игом — ну такое. А если "перевернуть стол", то может что-то ещё и получится.
vsb>Опять же на мой взгляд предвестником этих событий будет ультиматум от китайцев, которые потребуют прекратить развитие ИИ.
vsb>Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Появление на поле такого игрока делает бессмысленными любые прогнозы.
Поэтому и говорят о сингулярности.
Здравствуйте, alexsmirnoff, Вы писали:
vsb>>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
A>Появление на поле такого игрока делает бессмысленными любые прогнозы. A>Поэтому и говорят о сингулярности.
Сильный ИИ это не обязательно такой с помощью которого может быть достигнута сингулярность
Здравствуйте, alexsmirnoff, Вы писали:
vsb>>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
A>Появление на поле такого игрока делает бессмысленными любые прогнозы. A>Поэтому и говорят о сингулярности.
Вопрос не в появлении. Вопрос в том, что будет незадолго до его появления.
Здравствуйте, Ночной Смотрящий, Вы писали:
\ vsb>>То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
НС>А почему, вдруг, только США? Судя по скорости, с которой появляются аналоги того же Midjourney (тот же Шедевриум из последнего), ни о каком монополизме здесь речи не идет. А у OpenAI, на которого сейчас все надрачивают, вообще почти все открыто.
Про GPT4 не известно почти ничего, даже сколько там параметров — не известно.
vsb> Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Физика движения частиц уже известна. Но от сходов лавин, землетрясений и извержений вулканов продолжают гибнуть люди, даже в достаточно развитых странах.
Потому что в теории можно засечь каждую частицу и все предсказать, а на практике — нереально, требуется количество вычислительных ресурсов, близкое к бесконечности.
Поэтому это утопия. И плановая экономика — это утопия.
То, о чем ты пишешь, на эту тему один знаменитый японский писатель фантаст написал произведение в середине прошлого века еще. Почитай, тебе понравится концовка. Название: Четвёртый ледниковый период
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Вот я считаю, что и опасен тем что непредсказуем. Например, в военном деле. Начнет этот ИИ тырить тушенку со склада, а отвечать старшине. Очень опасно.
А еще, не будет ли дедовщины со стороны ИИ? Ну или землячества. Приведет этот ИИ своих корешей, причем незаметно так, онлайн по медным проводам, и начнет кошмарить роту а то и целый батальон.
Еще видится другая проблема, так называемая новая военная нормальность, когда личному составу незаметно будут вводит Устав в виде жидкого чипа, прямо в мозг.
А вообще ИИ конечно нужен, человеку сложно справиться со всеми глобальними вызовами. Инопланетяне скоро нападут, тут только ИИ поможет. Ну там и другие угрозы, банально количество хлорки без ИИ не рассчитать при таких масштабах.
Здравствуйте, vsb, Вы писали: vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ. vsb>Предположим, что в США появляется такой ИИ. В любом случае к нему получат доступ военные. Это повлечёт за собой следующие возможности:
Нет, не повлечет. Любой сильный ИИ, возможности которого превышают возможности человека, будет неадекватен. Почему — читайте Дугласа Адамса. Соответственно, такой ИИ будет неуправляем.
vsb>Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Сильный ИИ может быть создан только по ошибке. И я боюсь человечество поймет что создало лет через несколько после появления такого ИИ. Соответственно такой ИИ не будет подчиняться никакому государству и вообще, вопрос о подчинении стоять вообще не будет. Вот просто такой вопрос не сможет быть даже поставлен в таких терминах.
Всё, что нас не убивает, ещё горько об этом пожалеет.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
У тебя скорее размышления над тем, что просматривается сейчас, без сильного ИИ. Та самая экстраполяция во времени и пространстве по 2 точкам или даже одной.
vsb>Предлагаю не обсуждать, насколько это вероятно, предположим, что вероятно.
vsb>Под сильным ИИ я подразумеваю алгоритмы, которые могут выполнять любую умственную работу, которую может выполнять человек, качественней, чем любой человек, а также на порядки быстрей, масштабируемой и дешевле. Ну по крайней мере ту работу, результаты которой можно объективно оценивать.
А ты уверен, что люди будут способны объективно оценить результаты сильного ИИ? Не реализуется ли что-то, напоминающее эффект Даннига-Крюгера, или более общо — ситуации, когда людишки будут не в состоянии постичь и оценить ум, стоящий на ступень выше? По чему оценивать? По увеличению надоев и военным победам? На самом деле уже это — очень непростая тема с вплетениями философии, психологии, социологии и не без политтехнологии.
vsb>Предположим, что в США появляется такой ИИ. В любом случае к нему получат доступ военные. Это повлечёт за собой следующие возможности:
Понятно, почему ты называешь США. Сейчас только у них есть весь комплекс технологий в промышленных масштабах. Но мы же не знаем, когда и из чего будет сделан твой сильный ИИ, что будет на Земле на тот момент. Сиюминутные долговременные прогнозы говорят о больших переменах на долгом отрезке.
vsb>1. Анализ "больших данных" на качественно новом уровне. К примеру выявление иностранных шпионов. Слабые места в других государствах.
vsb>2. Проведение военных операций на качественно новом уровне. Особенно с учётом тех же "больших данных". В этот ИИ можно будет сливать в автоматическом режиме все ролики из телеграмма, все комментарии, из которых он сможет вычленить истину. Ну помимо остальных развед-данных.
vsb>3. Автоматизация боёв. Если этот ИИ можно запускать на относительно компактном оборудовании, то можно воевать вообще без людей.
Так уж необходим сильный ИИ для пп. 1-3?
vsb>4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне. Я считал и считаю, что за плановой экономикой — будущее. Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Может и не справиться, как мы хотели бы.
Можно сказать, что интеллект — это способность обнаруживать и использовать закономерности. Но такой суперспособности совершенно недостаточно. Для решений нужны входные данные, а с этим в нашем иррациональном мире есть сложности. Нужны исполнительные органы для реализации решений (пусть для этого пока сгодятся несовершенные, непредсказуемые, вечно косячащие кожаные мешки). Но главное — это целеполагание. Люди ищут смыслы, строят свои жизни, исходя из них. Ты сейчас опираешься на дефолтные установки, как бы само собой разумеющиеся: больше и эффективней производить, иметь, властвовать. Это не смыслы, а какие-то общественные, массовые закидоны, не более.
Рафинированные политики и капиталисты видят свои цели во власти над как можно большем количеством людей и в как можно большем количестве денег. Все не так просто, поэтому и они, и простые люди попадают в сеть множества взаимных зависимостей, большинство из которых иррациональны, иллюзорны.
Вопрос, какие задачи будут поставлены перед суперИИ? Крайне интересен и такой: можно ли вообще ставить ему задачи в том смысле, который мы в это обычно вкладываем. Он же умеет думать лучше любого из нас, и его знания несравнимы со знаниями индивидуума или коллектива.
С учетом того, что все больше решений передается автоматике, и это выглядит как бы совершенно естественным, логично предположить, что это ИИ будет формулировать цели (пусть не смыслы) для людей, а не люди для него. Люди даже могут стать не нужны или мешать.
vsb>Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
vsb>Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
vsb>То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
США стронг форева затуманивает твой ум. А вдруг сильный ИИ родится через 30 лет в секретной лаборатории Гондураса?
vsb>Второй вариант — это сильный ИИ сбегает из клетки и порабощает мир. Скайнет и всё такое.
vsb>Для других стран, хотя бы в теории претендующих на центры сил, в первую очередь для Китая это — экзистенциальная угроза. В обоих вариантах развития событий.
vsb>Интересно, что США осознают важность ИИ и, к примеру, запретили продажу достаточно мощных видеокарт в Китай. Это ведь не просто так. Это очевидная попытка сдержать развитие ИИ в Китае.
vsb>На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты. Какой ещё может быть вариант? Договориться с американцами невозможно. Жить под их игом — ну такое. А если "перевернуть стол", то может что-то ещё и получится.
vsb>Опять же на мой взгляд предвестником этих событий будет ультиматум от китайцев, которые потребуют прекратить развитие ИИ.
vsb>Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Недаром же специалисты говорят о сильном ИИ как о сингулярности, иными словами, как о пипце или большом ХЗ. Нет большого смысла впихивать его в современный мир, как это делаешь ты.
Вообще, твой текст напоминает о программистском мышлении, которые очень сильно отличается от научного. Разница в том, что научное мышление предполагает понимание принципиальных неточностей и неопределенностей, понимание, что такое модель, границ познанного и более-менее — познаваемого, хотя бы по характеру; а программистское имеет склонность к тому, чтобы видеть мир детерминированным, чуть ли не документированным, принципиально предсказуемым. Видимо, с одной стороны, профессия накладывает отпечаток; плюс профессия отбирает людей с таким потенциалом, они для нее хороши.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Сильный интеллект сбежит из клетки и начнёт строить коммунизм. Или убивать всех человеков. Как повезёт.
Здравствуйте, goto, Вы писали:
G>США стронг форева затуманивает твой ум. А вдруг сильный ИИ родится через 30 лет в секретной лаборатории Гондураса?
Просто он уверен, что GPT уже обладает разумом, и писать это напрямую стесняется, только иносказательно
Shmj и вообще уже полушария мозга GPT обсуждает. Неудивительно, что обычный неайтишный народ уже в панике, если даже айтишники разобраться что происходит не могут
Здравствуйте, Nnova, Вы писали:
N>Просто он уверен, что GPT уже обладает разумом, и писать это напрямую стесняется, только иносказательно
Сомневаюсь, как айтишник он демонстрирует разумность.
Я там написал про Гондурас, чтобы только отметить надрачивание на США, но не ветвиться в конкретику по странам. А так, тот же Китай вкладывает в ИИ очень много, по некоторым данным значительно больше США. Очень скоро обгонит США по НИОКР в целом. Причем говорится о суммах в баксах, но при этом в Китае за 1 бакс, вероятно, можно нанять больше мозгов.
Но с ИИ все сложно, т.к. есть инвестиции между странами, по-разному учитываемые гос. и частные вложения — без бутылки не разберешься. Сейчас США, бесспорно, смотрятся лидером в том, что мы называем ИИ.
N>Shmj и вообще уже полушария мозга GPT обсуждает. Неудивительно, что обычный неайтишный народ уже в панике, если даже айтишники разобраться что происходит не могут
Итальянцы вон запретили ЧатГПТ. Я и сам писаюсь от ужаса и лопаюсь от любопытсва. Поглядим.
ИИ и должен их убить.
