Здравствуйте, MaximVK, Вы писали:

MVK>Хм, но если скобки раскроем, то получится N^2

Для K близких к N/2, получим N^3.
А когда просуммируем по всем К получим N^4

MVK>Но вообще, в данном случае у тебя N — это количество символов в одной последовательности.

N-количество символов во всем файле.
В файле может единственная очень длинная последовательность.

MVK>Количество символов в последовательности — это не то, что мы увеличиваем в этой задаче. Условно, я бы считал это за константу.

К — длина искомой последовательность. Я говорю про исходную задачу, когда K неизвестен.
Думаю, что собеседующий предложил рассмотреть константный К только как промежуточный этап решения полной задачи.

MVK>Так как в качестве входного параметра мы имеем количество последовательностей

Что такое "количество последовательностей"? Приведи свои расчеты