FunSearch discovered new solutions for the cap set problem, a longstanding open problem in mathematics. In addition, to demonstrate the practical usefulness of FunSearch, we used it to discover more effective algorithms for the “bin-packing” problem, which has ubiquitous applications such as making data centers more efficient.
т.н. ИИ — модная тема для пиления бабла, но ни фига не понятно, зачем его тянуть сюда?
с одной стороны у этих языковых моделек отсутствует интуиция и собственно понимание предмета, поэтому они по определению не способны родить некое гениальное открытие, на которое способен человек. Всё, что они могут (хотя бы гипотетически) — делать некие выводы из существующей базы аксиом и ранее выведенных фактов. Но в таком случае нафига козе баян? — всё это обучение моделей и всё такое, когда есть системы с применением языков вроде пролога, изначально построенных на операциях с фактами и правилами вывода утверждений. Которые могут проверить истинность выражения в рамках известной информации, ну или делать выводы из существующих фактов.
Или — почти уверен что должны существовать системы, использующие нечто вроде того алгоритма присвоения уникального номера каждому утверждению в рамках данной формальной системы, использованного Гёделем в теореме о неполноте. Там по идее можно из начального набора аксиом напрямую генерировать все возможные утверждения, их них вытекающие. Зачем для этого городить т.н. ИИ — решительно непонятно...
Здравствуйте, CreatorCray, Вы писали:
CC>Все эту телегу перепечатывают но никто так и не сказал в чём собственно уникальность этих новых solutions. CC>Их другими способами не нашли потому что?..
Ну да. Алгоритм пишет код, тестирует, исправляет и т.д. Вот, получилось решение одной задачи, которое лучше всех на текущий момент.
Также они сейчас генерируют белки, лекарства и туеву хучу других штук. Типа, это лучше, чем полный перебор и быстрее, чем человек в лаборатории.
Здравствуйте, Вумудщзук, Вы писали:
В>т.н. ИИ — модная тема для пиления бабла, но ни фига не понятно, зачем его тянуть сюда?
Сюда — это в математику? Есть мнение (и не только моё), что система аксиом противоречива. Поэтому из них вот прямо всё вывести не получится.
Ещё надо решить, что именно выводить. Может так получиться, что текущие нейросети могут генерировать утверждения, которые намного дольше будет получить логическим выводом и полным перебором. Вот они и занимаются такой генерацией, автоматической проверкой корректности и последующей оптимизацией. Это не панацея, конечно
Здравствуйте, Nuzhny, Вы писали:
N>Также они сейчас генерируют белки, лекарства и туеву хучу других штук. Типа, это лучше, чем полный перебор и быстрее, чем человек в лаборатории.
ИИ научился синтезировать эти лекарства и проводить их апробацию ?
Поиск веществ с заранее заданными свойствами — этой теме много лет. Есть разные алгоритмы. Но после того, как кандидаты отобраны, их надо синтезировать и провести полный цикл их проверки, на безвредность, на эффективность и т.д., на мышах и добровольцах. Никакой ИИ это сделать не может.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>ИИ научился синтезировать эти лекарства и проводить их апробацию ?
Нет, конечно.
PD>Поиск веществ с заранее заданными свойствами — этой теме много лет. Есть разные алгоритмы. Но после того, как кандидаты отобраны, их надо синтезировать и провести полный цикл их проверки, на безвредность, на эффективность и т.д., на мышах и добровольцах. Никакой ИИ это сделать не может.
Не специалист, но из статьи DeepMind понял, что появилось просто больше вариантов и можно выбирать, что синтезировать: чтобы максимальная эффективность с минимальными трудозатратами.
Здравствуйте, Nuzhny, Вы писали:
N>Не специалист, но из статьи DeepMind понял, что появилось просто больше вариантов и можно выбирать, что синтезировать: чтобы максимальная эффективность с минимальными трудозатратами.
Я допускаю, что внедрение сюда нейросетей и т.п. может улучшить алгоритмы поиска. Но все остальное останется как было.
Здравствуйте, Nuzhny, Вы писали:
N>Не специалист, но из статьи DeepMind понял, что появилось просто больше вариантов и можно выбирать, что синтезировать: чтобы максимальная эффективность с минимальными трудозатратами.
Ну т.е. перебор стал не совсем втупую а по весам в обученной сетке, что повысило качество выдачи фильтра потенциально годных
Здравствуйте, CreatorCray, Вы писали:
N>>Не специалист, но из статьи DeepMind понял, что появилось просто больше вариантов и можно выбирать, что синтезировать: чтобы максимальная эффективность с минимальными трудозатратами. CC>Ну т.е. перебор стал не совсем втупую а по весам в обученной сетке, что повысило качество выдачи фильтра потенциально годных
Типа да. Но для алгоритмов же круче — оно само их и проверяет. Так что выдаёт не потенциально, а реально годные.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Поиск веществ с заранее заданными свойствами — этой теме много лет. Есть разные алгоритмы. Но после того, как кандидаты отобраны, их надо синтезировать и провести полный цикл их проверки, на безвредность, на эффективность и т.д., на мышах и добровольцах. Никакой ИИ это сделать не может.
ИИ не заменяет этот процесс, а дополняет. У вас все равно будет условных 10 лет на все стадии, но с ИИ у вас список потенциальных кандидатов будет много короче
Здравствуйте, Pavel Dvorkin, Вы писали:
N>>Не специалист, но из статьи DeepMind понял, что появилось просто больше вариантов и можно выбирать, что синтезировать: чтобы максимальная эффективность с минимальными трудозатратами.
PD>Я допускаю, что внедрение сюда нейросетей и т.п. может улучшить алгоритмы поиска. Но все остальное останется как было.
В том то и дело, что это "все остальное" занимает десятилетия. Потому хороший поиск сэкономит вам кучу времени и ресурсов
Здравствуйте, Pauel, Вы писали:
P>В том то и дело, что это "все остальное" занимает десятилетия. Потому хороший поиск сэкономит вам кучу времени и ресурсов
А не наоборот? Небольшое уменьшение времени поиска ничего не изменит, так как все остальные стадии требуют десятилетий?
Здравствуйте, pagid_, Вы писали:
P>>В том то и дело, что это "все остальное" занимает десятилетия. Потому хороший поиск сэкономит вам кучу времени и ресурсов _>А не наоборот? Небольшое уменьшение времени поиска ничего не изменит, так как все остальные стадии требуют десятилетий?
А еще говрят что у разработчиков с логикой все в порядке
Вот смотрите — есть такой пирог, штоллен. Его готовить около месяца — это не шутка. Вот вы взялись на нг готовить штолен, что бы в своей гостей удивить. Потратили месяц, а никого он не интересует, говорят — невкусный. Месяц впустую.
Самый правильный подход для вас — взять хорошего кондитера, который будет готовить этот штоллен.
Штука в том, что со штоленом можно выкрутиться, а в исследовательских задачах такого кондитера у вас нет — все что можете, делаете силами своего ниокр, рнд итд.
А теперь, если мы применим ИИ, он вам сообщает — вон те полторы сотни вариантов, которые вы хотели прорабатывать ближайшие 50 лет, невалидны перечень проблем прилагается, а брать надо чуть-чуть другую формулу, вот с такими уточнениями,перечень изменений прилагается
В итоге, вы сэкономили 50 лет.
Если непонятно — попробуйте научиться готовить хороший штолен двумя вариантами
1. самостоятельно, методом проб и ошибок
2. наняв хорошего кондитера который поделится с вами опытом и секретами
P.S. По моему, вы прошли мимо вычислительной сложности Грубо говоря, использование ИИ понижает вычислительную сложность всего процесса.
Здравствуйте, Pauel, Вы писали:
P>>>В том то и дело, что это "все остальное" занимает десятилетия. Потому хороший поиск сэкономит вам кучу времени и ресурсов _>>А не наоборот? Небольшое уменьшение времени поиска ничего не изменит, так как все остальные стадии требуют десятилетий?
P> А еще говрят что у разработчиков с логикой все в порядке
P>Вот смотрите — есть такой пирог, штоллен. Его готовить около месяца — это не шутка. Вот вы взялись на нг готовить штолен, что бы в своей гостей удивить. Потратили месяц, а никого он не интересует, говорят — невкусный. Месяц впустую. P>Самый правильный подход для вас — взять хорошего кондитера, который будет готовить этот штоллен. P>Штука в том, что со штоленом можно выкрутиться, а в исследовательских задачах такого кондитера у вас нет — все что можете, делаете силами своего ниокр, рнд итд.
Аналогии штука так себе всегда, но твоя хромает на обе ноги.
1. рецепт штоллена тебе известен заранее и ты просто не имеешь опыта правильно провести его без ошибок.
В медицине ты и сам знаешь, как правильно изготовить и испытать лекарства. Ты не знаешь самой формулы, и ее надо найти и потом испытать.
это как изготовить идеальный штоллен в условиях когда его никто в мире не делал.
2. в твоем варианте предполагается что кондитер либо уже готовил штоллен и потому снова легко сделает. Или что он просто имеет больше тебя опыта в готовке вообще.
Но тут ни то ни то — ИИ точно так же еще не знает рецепта искомого лекарства, а в роли "тебя" тут тоже опытные медики/химики, которые уже много лет занимаются разработкой лекрств и отлично знают нюансы "рецептов".
3. Аналогия никак не раскрывает сложность, что мы ищем неизвестный рецепт, и в целом у нас уже есть несколько десятков хорошо проверенные "в теории" рецептов, но вот испытать их на практике потребует много-много лет. А ни мы, ни приглашенный "кондитер" никогда не делали именно такой вот рецепт. А других рецептов мы и сами уже немало успешно отработали, и сами имеем знания что хорошо, а что плохо.
Надо как-то убедительно показать, что ИИ реально сумеет предусмотреть больше негативных побочных эффектов до начала реальных испытаний, чем команда исследователей, занимающаяся валидацией придуманной формулы. Что позволит не допустить до испытаний неудачные варианты.
Здравствуйте, fmiracle, Вы писали:
F>Аналогии штука так себе всегда, но твоя хромает на обе ноги.
F>1. рецепт штоллена тебе известен заранее и ты просто не имеешь опыта правильно провести его без ошибок. F>В медицине ты и сам знаешь, как правильно изготовить и испытать лекарства. Ты не знаешь самой формулы, и ее надо найти и потом испытать.
Правильно. Испытания каждой формулы длительные, и можно сказать, что почти все варианты не работают. Выстреливает хорошо если 1 из 100.
А раз так, то определяя неработающие варианты вы экономите годы
F>2. в твоем варианте предполагается что кондитер либо уже готовил штоллен и потому снова легко сделает. Или что он просто имеет больше тебя опыта в готовке вообще. F>Но тут ни то ни то — ИИ точно так же еще не знает рецепта искомого лекарства, а в роли "тебя" тут тоже опытные медики/химики, которые уже много лет занимаются разработкой лекрств и отлично знают нюансы "рецептов".
ИИ может отбраковывать те варианты, на проверку которых вы будете тратить годы экспериментов
F>3. Аналогия никак не раскрывает сложность, что мы ищем неизвестный рецепт,
Не так, что бы неизвестный, некоторые свойства решения часто более-менее известны.
Пространство решений слишком велико, что бы его перебрать вручную затрачивая на итерацию по пятилетке
Поэтому вместо перебора наугад, можно использовать генератор решений
F>Надо как-то убедительно показать, что ИИ реально сумеет предусмотреть больше негативных побочных эффектов до начала реальных испытаний, чем команда исследователей, занимающаяся валидацией придуманной формулы. Что позволит не допустить до испытаний неудачные варианты.
В данной беседе мне всего то нужно показать, что дело не в сокращени времени поиска, а в изменении подхода к исследованиям. Имеенно по этой причине ии тянут в научные проекты уже не один десяток лет
Здравствуйте, Pauel, Вы писали:
F>>2. в твоем варианте предполагается что кондитер либо уже готовил штоллен и потому снова легко сделает. Или что он просто имеет больше тебя опыта в готовке вообще. F>>Но тут ни то ни то — ИИ точно так же еще не знает рецепта искомого лекарства, а в роли "тебя" тут тоже опытные медики/химики, которые уже много лет занимаются разработкой лекрств и отлично знают нюансы "рецептов".
P>ИИ может отбраковывать те варианты, на проверку которых вы будете тратить годы экспериментов
Я пока не понимаю, за счет чего он отбракует эти варианты.
Сейчас их тоже отбраковывают — люди, но не студенты с ПТУ, которые наугад как-то тыкают, а эксперты, с научным подходом.
F>>3. Аналогия никак не раскрывает сложность, что мы ищем неизвестный рецепт,
P>Не так, что бы неизвестный, некоторые свойства решения часто более-менее известны. P>Пространство решений слишком велико, что бы его перебрать вручную затрачивая на итерацию по пятилетке P>Поэтому вместо перебора наугад, можно использовать генератор решений
Так не наугад же там пробуют. Есть отработанные методики, и все подряд в экспериментальную фазу не пускают, много отбраковывают при предварительной теоретической валидации.
Ты утверждаешь, что ИИ может существенно улучшить эту теоретическую валидацию. Не просто ускорить ее прохождение, а именно повысить качество и как-то находить то, что люди не найдут в принципе, даже если их будет много и работать будут тщательно. И тем самым уменьшить число проваленных клинических испытаний.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Поиск веществ с заранее заданными свойствами — этой теме много лет. Есть разные алгоритмы. Но после того, как кандидаты отобраны, их надо синтезировать и провести полный цикл их проверки, на безвредность, на эффективность и т.д., на мышах и добровольцах. Никакой ИИ это сделать не может.
Не может, но ИИ способен уменьшить количество молекул-кандидатов с сотен до десятков, а это уже существенная экономия. Кроме этого ИИ можно использовать для улучшения самого процесса синтеза путем файнтюнинга используемых ферментов.
M>Не может, но ИИ способен уменьшить количество молекул-кандидатов с сотен до десятков, а это уже существенная экономия. Кроме этого ИИ можно использовать для улучшения самого процесса синтеза путем файнтюнинга используемых ферментов.
Все это верно, но при чем тут ИИ ? Речь просто идет о поиске веществ с заранее заданными свойствами, и этим занимались еще тогда, когда про ИИ не слышали. Алгоритмы могут улучшаться, но почему это вдруг стало ИИ — не знаю.
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>Все это верно, но при чем тут ИИ ? Речь просто идет о поиске веществ с заранее заданными свойствами, и этим занимались еще тогда, когда про ИИ не слышали. Алгоритмы могут улучшаться, но почему это вдруг стало ИИ — не знаю.
"Заранее заданные свойства" в данной задаче это, например, "нужен белок который хорошо связывается вот с этой штукой и только с ней". Классические алгоритмы такого не умеют и никогда уметь не смогут потому что будет белок свзываться или нет, зависит от структуры белка, причем не только от последовательности аминокислот, но еще и от того как он свернется в пространстве. А сворачиваются белки не только сами по себе, а еще и при помощи других белков, циркулирующих в клетке. Аналогично дело обстоит и с сайтом связывания. И обо всем этом биологи имеют весьма расплывчатое представление. Зачастую, для классических моделей просто не хватает достоверных данных. Зато нейросети с такими задачами справляются прекрасно.
Здравствуйте, Miroff, Вы писали:
M>"Заранее заданные свойства" в данной задаче это, например, "нужен белок который хорошо связывается вот с этой штукой и только с ней". Классические алгоритмы такого не умеют и никогда уметь не смогут потому что будет белок свзываться или нет, зависит от структуры белка, причем не только от последовательности аминокислот, но еще и от того как он свернется в пространстве. А сворачиваются белки не только сами по себе, а еще и при помощи других белков, циркулирующих в клетке. Аналогично дело обстоит и с сайтом связывания. И обо всем этом биологи имеют весьма расплывчатое представление. Зачастую, для классических моделей просто не хватает достоверных данных. Зато нейросети с такими задачами справляются прекрасно.
И как же они справляются, каковы механизмы? И откуда знание, что справляются отлично? Хотя это уже другой вопрос, не столь важный.
Здравствуйте, pagid_, Вы писали:
_>И как же они справляются, каковы механизмы?
Нейросети принимают во внимание большое количество факторов, каждый из которых на результат влияет слабо, но их совокупность влияет на результат. Чем больше нейронов в модели, тем более сложные взаимосвязи она может обнаруживать.
_>И откуда знание, что справляются отлично? Хотя это уже другой вопрос, не столь важный.
Так никто не мешает синтезировать предсказанное вещество и измерить его эффективность в реальности.
...
Для 8 признаков нужно будет перебрать всего лишь 3^1600 троек карт, что на порядки больше, чем количество атомов во Вселенной. Да что там, в игре Го, которая считалась невозможной для игры компьютером на уровне человека, длина числа валидных состояний доски — это число с 171 цифрой. А для нашей карточной игры при 8 признаках количество троек карт измеряется числом с 764 цифрами. Страшно?
Так вот, именно для этой задачи языковая модель от Google и написала код, который...нет, не находит точное значение или формулу (то есть определяет истинную зависимость). Этот код лишь генерирует такие наборы, для которых очень легко проверить, что все правила соблюдены (то есть получен истинный cap set), и размер этого набора для 8 признаков больше, чем у любого другого, найденного человечеством с момента появления математической задачи.
...
Здравствуйте, Miroff, Вы писали:
M>"Заранее заданные свойства" в данной задаче это, например, "нужен белок который хорошо связывается вот с этой штукой и только с ней". Классические алгоритмы такого не умеют и никогда уметь не смогут потому что будет белок свзываться или нет, зависит от структуры белка, причем не только от последовательности аминокислот, но еще и от того как он свернется в пространстве. А сворачиваются белки не только сами по себе, а еще и при помощи других белков, циркулирующих в клетке. Аналогично дело обстоит и с сайтом связывания. И обо всем этом биологи имеют весьма расплывчатое представление. Зачастую, для классических моделей просто не хватает достоверных данных. Зато нейросети с такими задачами справляются прекрасно.
Все верно. Я сам до того, как окончательно уйти в программисты, занимался такими расчетами в химии. Оценка свойств органических веществ и поиск веществ с заранее заданными свойствами.
Точной теории там нет. Точнее, она есть (квантовая химия), но задача слишком сложна и результаты расчета получаются неудовлетворительными. А если речь идет о свойствах в конденсированной фазе (жидкости, твердые), то ее фактически вообще нет.
Поэтому используют т.н. эмпирические и полуэмпирические методы расчета. В них иногда есть следы теории, но, в общем, просто строится некая зависимость результирующей функции от состава молекулы, и по ней потом ищут вещества с нужной результирующей функцией. Для поиска параметров результирующей функции используют имеющиеся экспериментальные данные (реперные точки, так мы их называли). Чем их больше — тем лучше.
Было это давно, и, конечно, никакие нейросети я не использовал. Там была просто множественная линейная регрессия.
Есть и другие методы — классификация, кластеризация и т.д. В общем, возьми любой приличный учебник по machine learning, и там они все описаны. В том числе и основы нейросетей, это один из методов.
Идея хорошая, алгоритмы иногда (не всегда) работают хорошо.
Я только не пойму, зачем все это интеллектом называть, пусть даже искусственным. Ни при чем тут интеллект, это просто методы расчета.
Человеческий интеллект, судя по всему, работает как-то иначе. Я уже приводил этот пример, повторюсь.
Пятилетний ребенок с нормальным развитием всегда отличит на фотографии кошку от собаки. Причем любой породы кошку от любой породы собаки.
Кошки более или менее похожи друг на друга, а собаки не очень. Пудель не очень похож на овчарку, а они оба — на таксу.
А ведь отличит. Практически со 100% надежностью.
Сколько он видел в своей жизни кошек и собак ? Ну десяток, ну два. Сотню — вряд ли. Живых и на картинке. Видео исключим — дети 19 века тоже вполне могли это делать.
И не нужно ему 100500 реперных точек.
А вот дикобраза я живого, кажется, не видел. Когда впервые увидел его на картинке — не помню. Но увидев один раз, запомнил раз и навсегда, как он выглядит, и если мне попадется его фото или увижу его в натуре — не спутаю с ежом.
Вот это и есть интеллект. А как он работает — пока что неясно.
И поэтому название топика от ТС "ИИ сделал открытие в математике" мне кажется совершенно неверным. Я бы написал так : "Разработан (или улучшен) один из методов машинного обучения для ..."
Здравствуйте, Pavel Dvorkin, Вы писали:
PD>И поэтому название топика от ТС "ИИ сделал открытие в математике" мне кажется совершенно неверным. Я бы написал так : "Разработан (или улучшен) один из методов машинного обучения для ..."
А что это меняет принципиально?
Вам же хороший пример даден — упаковка рюкзака. Этого недостаточно?
Вы же начали кривляться и сводить к абсурду "ии синтезирует лекарства"
Здравствуйте, fmiracle, Вы писали:
P>>ИИ может отбраковывать те варианты, на проверку которых вы будете тратить годы экспериментов
F>Я пока не понимаю, за счет чего он отбракует эти варианты.
Извините, я не эксперт химии. Это Дворкину было удобнее свернуть в это направление, что бы все к абсурду свести. В исходной статье был хороший пример — упаковка рюкзака.
А еще говрят что у разработчиков с логикой все в порядке
