Re[10]: Польза от ИИ в разработке полного цикла
От: Nuzhny Россия https://github.com/Nuzhny007
Дата: 24.03.26 07:41
Оценка: +1
Здравствуйте, TailWind, Вы писали:

TW>>>Имя хэндла не имеет значения для алгоритма. Будет выбрано любое

ЕМ>>Что значит "любое"? Случайное?
TW>Ну да. Или наиболее вероятное. Или по смыслу подходящее

Или нет. В общем случае, гарантии нет и практика тому пример:

Согласно зарубежным источникам, у компании Samsung случилась утечка конфиденциальной информации из-за неправильного использования чат-бота ChatGPT. Три недели назад сотрудники южнокорейского технологического гиганта стали применять чат-бот, что привело к непреднамеренному разглашению важных данных.

Виной утечки стало то, что один из сотрудников Samsung внедрил код ChatGPT и попросил ИИ найти решение задачи, не учитывая, что это может привести к передаче информации в базу чат-бота. Другие работники также пытались оптимизировать код таким же способом, что усугубило ситуацию. Третья утечка произошла, когда сотрудник запросил у ИИ разработать протокол встречи.

То есть ChatGPT обучался на пользовательских данных, запомнил их, а потом выдал в исходном виде другим пользователям. И это не единственный подобный инцидент. Никто не исключает того, что "наиболее вероятное" решение окажется не статистически усреднённым, а вполне конкретной копией того, что было в обучающем датасете.
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.