Здравствуйте, Kyivman, Вы писали:

K> Имеется Н-угольник, состоящий из 3х или 4х угольников. Задача найти к-во 3х или 4х угольников (в зависимости от условия), причем не только отдельных, а и составных (из 2х и более 3х или 4х-угольников). Т.е. тут две задачи, 1)когда н-угольник состоит из 3х-угольников 2)из 4х угольников.
K>на входе может быть: к-во отрезков, из которых состоит большой н-угольник и/или к-во маленьких 3х или 4х угольников.

1. Собери н-угольник в нужном представлении.
2. Проведи триангуляцию. Если не надо заморачиваться с быстродействием — используй триангуляцию по Делоне, как самую наглядную.
3. Изучай, что вышло в результате.