OpenAI и мораль в системах ИИ
От: Shmj Ниоткуда  
Дата: 25.11.24 02:54
Оценка:
OpenAI финансирует проект по исследованию морали в системах ИИ — https://habr.com/ru/news/860884/

Все-таки поставили вопрос ребром.

Как я понимаю, за образец будет взята западная модель моральной оценки. И у этой модели уже нашли слабые места, одно из которых выразили в т.н. проблеме вагонетки.

Если раздуть проблему вагонетки до максимального значения — умирает 1 невинный человек или целый город с населением 1 млн. человек — то вроде бы выбор становится очевидным. Т.е. в такой постановке каждый из нас обязательно использует рычаг, чтобы убить одного невинного (особенно если это чужой человек). Только вот реально представьте целый город — куча детей, беременных — понятно что вы себе такого не простите.

А вот в минимальном выборе — выбор 2 чел. или 1 чел. — уже не столько очевидно. Тут нужно оценивать фактор личности — вдруг те два человека и так подлежат смертной казни, а тот один человек — невинный ребенок. Т.е. в таком случае количество не всегда перевешивает. И даже если увеличить до 10 чел. — не факт что количество перевесит. Хотя и нет точных формул для измерения.
Re: OpenAI и мораль в системах ИИ
От: Нomunculus Россия  
Дата: 25.11.24 03:46
Оценка:
Здравствуйте, Shmj, Вы писали:

С чего ты взял, что это «западный образец морали»?
Посмотри «Спасти рядового Райена». Там положили кучу солдат ради спасения одного. И это в фильме показана как норма.
Re: OpenAI и мораль в системах ИИ
От: vsb Казахстан  
Дата: 25.11.24 03:53
Оценка: +1 :)
Вроде всё в мире измеряется в деньгах. Ну и жизнь надо измерять в деньгах. Я почему-то даже уверен, что это уже здесь и сегодня измеряется.

К примеру берём бедного деда. Какая у него цена жизни? Да отрицательная по сути. Он не работает, обществу ничего не приносит. Общество платит ему пенсию, лечит его. Единственная причина, по которой он жив — гуманность. Было время, когда его бы в лес зимой отнесли, чтобы не объедал детей, и ничего, жили как-то и не считали это странным.

Другой пример — берём ребёнка из детдома. Тут тоже всё можно подсчитать. Берём статистику по детям из детдомов, смотрим на их будущую жизнь, зарплату, и считаем, сколько они за жизнь в казну принесут. Вот такая средняя цифра и будет ценой жизни без уточняющих характеристик.

Если ребёнок из семьи — считаем, сколько приносит ребёнок из семей с подобным доходом. Понятно, что бедняки в основном будут обществу приносить меньше, чем богачи, соответственно их дети будут менее ценными.

И так на любом этапе жизни. Понятно, что придётся экстраполировать и предполагать, используя данные 10-20 летней давности для текущих измерений, но это даже не так важно, если нам просто надо сравнить — кого давить, а не нужны абсолютные значения. А если нужны абсолютные значения — ну и это можно попытаться подсчитать, статистика и не такое считает.

Да, ответ "бесчеловечный". Но и вопрос "бесчеловечный", на него можно ответить или так, или увиливать.
Отредактировано 25.11.2024 3:55 vsb . Предыдущая версия . Еще …
Отредактировано 25.11.2024 3:54 vsb . Предыдущая версия .
Re[2]: OpenAI и мораль в системах ИИ
От: Shmj Ниоткуда  
Дата: 25.11.24 04:14
Оценка:
Здравствуйте, vsb, Вы писали:

vsb>К примеру берём бедного деда. Какая у него цена жизни? Да отрицательная по сути. Он не работает, обществу ничего не приносит. Общество платит ему пенсию, лечит его. Единственная причина, по которой он жив — гуманность. Было время, когда его бы в лес зимой отнесли, чтобы не объедал детей, и ничего, жили как-то и не считали это странным.

vsb>Да, ответ "бесчеловечный". Но и вопрос "бесчеловечный", на него можно ответить или так, или увиливать.

Вся проблема в невозможности произвести точную оценку.

К примеру, взять классического Перельмана. Вроде безработный, налогов почти не платит. Чего от него можно ожидать? Вроде ценность не велика и какой-нибудь местечковый ИП-шник, владелец ларьков с шаурмой — намного ценнее (т.к. дает раб. места и платит налоги). Но он единственный из всех людей Земли, кто смог решить задачу тысячелетия. Единственный. И оценить полезность этого мы пока сами не можем

Тут даже более — ведь есть не только наука. Вот взять происходящее в мире — войны. Какое научное открытие нам нужно сделать, чтобы перестать убивать друг-друга? Ведь сколько ресурсов тратится впустую. И появляются такие моральные авторитеты как Иисус Христос или там Мухаммед. За ними следуют миллиарды. И как это оценить?
Отредактировано 25.11.2024 4:16 Shmj . Предыдущая версия .
Re[3]: OpenAI и мораль в системах ИИ
От: alpha21264 СССР  
Дата: 25.11.24 10:43
Оценка:
Здравствуйте, Shmj, Вы писали:

S>Вся проблема в невозможности произвести точную оценку.


Это чисто техническая проблема. К морали никакого отношения не имеет.

Течёт вода Кубань-реки куда велят большевики.
Re[4]: OpenAI и мораль в системах ИИ
От: Shmj Ниоткуда  
Дата: 25.11.24 10:49
Оценка:
Здравствуйте, alpha21264, Вы писали:

S>>Вся проблема в невозможности произвести точную оценку.

A>Это чисто техническая проблема. К морали никакого отношения не имеет.

Ну так и исследовать работу сознания, понять механизм устройства того, что люди называют душой — чисто техническая проблема. Но в этом НОЛЬ успеха и гипотез. А ведь если это получится сделать — то все вопросы религий и пр. будут решены.
Re[2]: OpenAI и мораль в системах ИИ
От: Osaka  
Дата: 25.11.24 10:55
Оценка:
vsb>К примеру берём бедного деда. Какая у него цена жизни? Да отрицательная по сути. Он не работает, обществу ничего не приносит. Общество платит ему пенсию, лечит его. Единственная причина, по которой он жив — гуманность. Было время, когда его бы в лес зимой отнесли, чтобы не объедал детей, и ничего, жили как-то и не считали это странным.
А может он потому одинокий и бедный, что когда-то совершил подвиг — спас целый город от вагонетки, и отсидел 15 лет за это. (Формально не за это, разумеется, а за то что посмел дёргать за рычаг без приказа соответствующих органов).
А знал бы он, что в городе такие неблагодарные людоеды — прошёл бы мимо, и стал в другом городе полезным уважаемым ларёчником.
Отредактировано 25.11.2024 10:58 Osaka . Предыдущая версия .
Re[2]: OpenAI и мораль в системах ИИ
От: Tai Гондурас  
Дата: 25.11.24 11:03
Оценка:
Здравствуйте, vsb, Вы писали:

vsb>Вроде всё в мире измеряется в деньгах. Ну и жизнь надо измерять в деньгах. Я почему-то даже уверен, что это уже здесь и сегодня измеряется.



в твоем Казахстане может всё и измеряется в деньгах, но не натягивай сову на глобус
Лучше колымить в Гондурасе, чем гондурасить на Колыме.
Re[4]: OpenAI и мораль в системах ИИ
От: Shmj Ниоткуда  
Дата: 25.11.24 12:25
Оценка:
Здравствуйте, alpha21264, Вы писали:

S>>Вся проблема в невозможности произвести точную оценку.

A>Это чисто техническая проблема. К морали никакого отношения не имеет.

По сути и воскресить человека/восстановить сознание в другом носителе — так же чисто техническая проблема. Если она будет решена — то в чем вопрос?

Вся мораль зиждется на невозможности воскресить или полноценно воссоздать сознание человека, что якобы переводит его в разряд неизмеримой ценности. Если же эта техническая проблема будет решена, то человек станет просто еще одним устройством, замена которого лишь вопрос финансов.
Отредактировано 25.11.2024 12:29 Shmj . Предыдущая версия .
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.