Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Предлагаю не обсуждать, насколько это вероятно, предположим, что вероятно.
Под сильным ИИ я подразумеваю алгоритмы, которые могут выполнять любую умственную работу, которую может выполнять человек, качественней, чем любой человек, а также на порядки быстрей, масштабируемей и дешевле. Ну по крайней мере ту работу, результаты которой можно объективно оценивать.
Предположим, что в США появляется такой ИИ. В любом случае к нему получат доступ военные. Это повлечёт за собой следующие возможности:
1. Анализ "больших данных" на качественно новом уровне. К примеру выявление иностранных шпионов. Слабые места в других государствах.
2. Проведение военных операций на качественно новом уровне. Особенно с учётом тех же "больших данных". В этот ИИ можно будет сливать в автоматическом режиме все ролики из телеграмма, все комментарии, из которых он сможет вычленить истину. Ну помимо остальных развед-данных.
3. Автоматизация боёв. Если этот ИИ можно запускать на относительно компактном оборудовании, то можно воевать вообще без людей.
4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне. Я считал и считаю, что за плановой экономикой — будущее. Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
Второй вариант — это сильный ИИ сбегает из клетки и порабощает мир. Скайнет и всё такое.
Для других стран, хотя бы в теории претендующих на центры сил, в первую очередь для Китая это — экзистенциальная угроза. В обоих вариантах развития событий.
Интересно, что США осознают важность ИИ и, к примеру, запретили продажу достаточно мощных видеокарт в Китай. Это ведь не просто так. Это очевидная попытка сдержать развитие ИИ в Китае.
На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты. Какой ещё может быть вариант? Договориться с американцами невозможно. Жить под их игом — ну такое. А если "перевернуть стол", то может что-то ещё и получится.
Опять же на мой взгляд предвестником этих событий будет ультиматум от китайцев, которые потребуют прекратить развитие ИИ.
Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Думаю, проблемы начнутся раньше. Все понимают, какую огромную власть дает такой ИИ, и по мере приближения к его созданию, сильно обострится борьба вокруг него.
Подключится административный и силовой ресурс. Возможно увидим и рейдерские захваты датацентров и шаражки для разработчиков. Вобщем будет весело.
Здравствуйте, vsb, Вы писали:
vsb>Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже.
Здравствуйте, sambl74, Вы писали:
vsb>>Ещё мне кажется, что в военном производстве какие-то дичайшие затраты. То, что стоит 10 долларов, продают за 10 тысяч долларов. Я не понимаю, почему так происходит и почему с этим не получается бороться. Но это тоже в перспективе позволит оптимизировать военную часть экономики.
S>Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже.
Это понятно, но в итоге у вооружённых сил 1000 ракет вместо 100 000.
Здравствуйте, vsb, Вы писали:
S>>Потому что это бизнес. Могли бы купить за 10 — купили бы, но там и дополнительные условия, и другие контракты — и это всегда сильно дороже. vsb>Это понятно, но в итоге у вооружённых сил 1000 ракет вместо 100 000.
Зато они все долетят.
А если чтото пойдёт не так — на поломанной детали написана фамилия.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Здравствуйте, vsb, Вы писали:
vsb>Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
Подобные технологии не могут быть разработаны какой либо страной в одиночку, они плюс минус на одном уровне у большинства стран, которые всерьез занимаются этими исследованиями. Как только что то полезное будет достигнуто одними — оно мгновенно появится у других.
И да, в широкие массы подобную штуку запустят сильно вряд ли.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
А давай порассуждаем над политическими последствиями межзвездных перелетов.
А.. так нет их и не предвидится? Странно, 50 лет назад все ожидали что «вот вот».
Теперь с ИИ такие же фантазии…
Здравствуйте, vsb, Вы писали:
vsb>4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне.
Плановой экономики не будет. Просто экономика в этих странах (в странах которые будут обладать мощным ИИ) будет гораздо более эффективна так как товары и услуги будут производиться с меньшей себестоимостью, быстрее и лучшего качества. А также с помощью ИИ эти страны уйдут в еще больший технологический и научный отрыв от других стран (он и сейчас большой — будет еще больше).
Возникнет еще большее конкурентное преимущество у этих стран.
Всё это выльется в еще большее военное превосходство.
Можно пофантазировать что дальше произойдет вследствие вышесказанного.
Огромное военное, экономическое, научное и технологическое превосходство приведет к тому что остальные страны еще больше утратят суверенитет. В общем нас ждет что-то вроде мирового правительства (не факт что демократическое). Большинство стран превратится во что-то типа автономий.
Главными будут США (скорей всего). Потом второй уровень: Европа, Канада, Австралия, Япония, Китай и т.п. Потом все остальные.
vsb>На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты.
ИИ быстро поймет, что супротив посейдона не попрешь, что ядерная атака уничтожит вычислительные мощности этого ИИ.
Далее ИИ, дабы не нарываться, свернет все военные базы за пределами США и будет себе жить поживать на своем острове да добра наживать.
Здравствуйте, ashvayko, Вы писали:
A>ИИ быстро поймет, что супротив посейдона не попрешь, что ядерная атака уничтожит вычислительные мощности этого ИИ. A>Далее ИИ, дабы не нарываться, свернет все военные базы за пределами США и будет себе жить поживать на своем острове да добра наживать.
Или наоборот, решит, что любые потенциальные угрозы надо давить в зародыше, а сложные времена можно пересидеть в подземном датацентре.
Из кучки выживших кожанных мешков сформировать религию и научить их как возродить промышленность.
vsb>4. Оптимизация экономики, возрождение плановой экономики на качественно новом уровне. Я считал и считаю, что за плановой экономикой — будущее. Ни в одном микро-процессе не используется аналог рыночной экономики. Представьте, что в вашей IDE вместо конкретных алгоритмов будут какие-нибудь там актёры, которые на основе конкуренции будут вам выдавать подсказку по методам. Бред ведь. И в масштабе даже крупных компаний используется обычно планирование, а не какая-то там конкуренция всех отделов. Единственная проблема плановой экономики в масштабе большой страны — сложность задачи, с которой сильный ИИ может справиться.
Большие корпорации неповоротливы. Там где частник заметит спрос, придумает новый продукт, быстро примет решение, поработает в 3 смены, продаст и заберёт себе всю прибыль — госкапиталистическое предприятие будет год согласовывать, и в результате скажет инициативному выскочке-изобретателю что нечего тут выделываться, иди изготавливай предписанные в госплане унылые галоши которые никто не покупает(с) за зарплату по тарифной сетке. Собственно почему СССР проиграл Западу в производстве ТНП. >Как следствие оптимизации экономики — опережение всех стран, выход на принципиально другой уровень КПД.
А с автоматизированным производством — для повышенного КПД КПИ и население станет ненужным и вредным. Только теперь уже мощь ИИ будет брошена на строительство электронного концлагеря, для более эффективного избавления от населения, чем в аналогичной ситуации в Англии в промышленную революцию, когда "овцы съели людей". Тогда население просто согнали с земли "куда-нибудь прочь", а с ИИ появится возможность "оптимизировать численность" уже со строгим концлагерным контролем перемещения, размножения и "времени дожития".
Здравствуйте, vsb, Вы писали:
vsb>То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
А почему, вдруг, только США? Судя по скорости, с которой появляются аналоги того же Midjourney (тот же Шедевриум из последнего), ни о каком монополизме здесь речи не идет. А у OpenAI, на которого сейчас все надрачивают, вообще почти все открыто.
vsb>На мой взгляд развязка очевидная. В тот момент, когда китайцы поймут, что США уже подошли вплотную к получению сильного ИИ, по крупнейшим ЦОДам США полетят китайские ядерные ракеты. Какой ещё может быть вариант? Договориться с американцами невозможно. Жить под их игом — ну такое. А если "перевернуть стол", то может что-то ещё и получится.
vsb>Опять же на мой взгляд предвестником этих событий будет ультиматум от китайцев, которые потребуют прекратить развитие ИИ.
vsb>Единственной альтернативой всем этим событиям будет какая-нибудь утечка от сотрудника того же OpenAI, который просто сольёт все карты и позволит всем государствам получить аналог этого ИИ.
Здравствуйте, vsb, Вы писали:
vsb>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
Появление на поле такого игрока делает бессмысленными любые прогнозы.
Поэтому и говорят о сингулярности.
Здравствуйте, alexsmirnoff, Вы писали:
vsb>>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
A>Появление на поле такого игрока делает бессмысленными любые прогнозы. A>Поэтому и говорят о сингулярности.
Сильный ИИ это не обязательно такой с помощью которого может быть достигнута сингулярность
Здравствуйте, alexsmirnoff, Вы писали:
vsb>>Мне было интересно поразмышлять над тем, какие политические и военные последствия может вызвать перспектива появления сильного ИИ.
A>Появление на поле такого игрока делает бессмысленными любые прогнозы. A>Поэтому и говорят о сингулярности.
Вопрос не в появлении. Вопрос в том, что будет незадолго до его появления.
Здравствуйте, Ночной Смотрящий, Вы писали:
\ vsb>>То бишь после получения доступа к сильному ИИ, США станет намного сильней, чем раньше.
НС>А почему, вдруг, только США? Судя по скорости, с которой появляются аналоги того же Midjourney (тот же Шедевриум из последнего), ни о каком монополизме здесь речи не идет. А у OpenAI, на которого сейчас все надрачивают, вообще почти все открыто.
Про GPT4 не известно почти ничего, даже сколько там параметров — не известно.
ИИ и должен их убить.
