S>как я понял если продавать видеорекордер надо платить royalty за h264
За сам видеорекордер — нет. А вот за каждую операцию енкодирования либо декодирования — да.

S>у кого нибудь есть опыт как их платить
Посмотреть прайс и немного деталей можно тут https://via-la.com/licensing-programs/avc-h-264/#license-fees. Можно им написать и все разузнать. Я лично этими вопросами не занимался. Слышал, что процесс выглядит примерно так: не то ты сам считаешь кол-во операций енкодирования/кодирования, не то берешь какую-то примерную (может верхнюю) оценку и платишь по ней. ЛУчше написать им в МПЕГ ЛА и все разузнать.