Во-первых, ограничимся достаточно узкой областью. Какой-нибудь open source фреймворк.

Что тут вообще может делать интеллект, неважно какой.

1. Освоить имеющийся материал по этому фреймворку
2. Применить эти знания на практике, то есть сделать код с использованием его для конкретной задачи
3. Дать свои рекомендации по внесению изменений в него, не делая эти изменения. Какие-то новые идеи высказать, например, или хотя бы улучшения предложить.
4. Разработать свой код в качестве contibutor и предложить pull request
5. Принять этот pull request (или отвергнуть его)
6. Внести изменения в release и сделать следующую версию.

ЕИ все это может. Разумеется, разные представители ЕИ

Ну ладно, (6) мы пока ИИ не поручим

(1) — (2) ИИ вроде как может.

Может ли он (3) — (5) ? Если сейчас не может — сможет ли ?

Иными словами, сможет он стать разработчиком нового или останется только компилятором существующего ?