Здравствуйте, Went, Вы писали:

W>Я про то, что подобный эксперимент показывает текущее состояние ЛЛМ-технологии, но оно никак не показывает её будущее. Вот это многие не могут понять.
Проведу немного наивную аналогию: вы хотите дать 15-летнему ребенку задачу на год запилить браузер с блекджеком... Да, он всосал "знания" многих библиотек, но его мозг еще не работает как нужно. Как по мне, уровень развития ЛЛМ определяется в первую очередь развитием архитектур. И если 5 лет назад мы были на уровне "слюни пускать" (простейшие трансформеры), то сейчас стабильно на уровне "13-18 лет" (MoE etc). Какая-нибудь из следующих архитектур толкнет нас в следующий "возраст", уровня 25-30 лет. И тогда поднапрягутся не только лишь все.
Сейчас идет накопление и отсеивание низковисящих архитектур, рекомбинаций. Хотя, уже явно прослеживаются и тренд к специализациям, оптимизациям и поиску расширения в других "плоскостях" (попытки понять преобразование информации в чувственный опыт и т. п.).
Winter is coming... )))

Здравствуйте, Went, Вы писали:

W>Я про то, что подобный эксперимент показывает текущее состояние ЛЛМ-технологии, но оно никак не показывает её будущее. Вот это многие не могут понять.
Проведу немного наивную аналогию: вы хотите дать 15-летнему ребенку задачу на год запилить браузер с блекджеком... Да, он всосал "знания" многих библиотек, но его мозг еще не работает как нужно. Как по мне, уровень развития ЛЛМ определяется в первую очередь развитием архитектур. И если 5 лет назад мы были на уровне "слюни пускать" (простейшие трансформеры), то сейчас стабильно на уровне "13-18 лет" (MoE etc). Какая-нибудь из следующих архитектур толкнет нас в следующий "возраст", уровня 25-30 лет. И тогда поднапрягутся не только лишь все.
Сейчас идет накопление и отсеивание низковисящих архитектур, рекомбинаций. Хотя, уже явно прослеживаются и тренд к специализациям, оптимизациям и поиску расширения в других "плоскостях" (попытки понять преобразование информации в чувственный опыт и т. п.).
Winter is coming...

	p.s. Кстати, в связи с чувственным опытом вспоминается "старый французский анекдот"
	«И увидела жена, что дерево хорошо для пищи... и взяла плодов его и ела; и дала также мужу своему, и он ел» (Быт. 3:6) «И открылись глаза у них обоих, и узнали они, что наги...» (Быт. 3:7). Вот никогда бы не подумал что скачусь до цитирования такого, а вот поди ж ты.