Без детального разбора в вашем коде, вот что нужно учесть:
— фрейм надо аллоцировать (почистить тоже не забыть)
— правильно посчитать sample_count
— полезно делать Дамп и открывать его в Audacity (или другой для работы с сырым видео), чтобы удостовериться, что у тебя верные параметры количества каналов, сэмпл рейта, bits per sample и sample format; ВАЖНО не ошибись в функции записи дампа в файл!!!

Ну и посмотреть примеры от самого FFmpeg, на которые я давал ссылки выше. Их вполне достаточно, чтобы начать енкодить/декодить, муксировать/демуксировать и даже стримить. Вот еще до кучи https://github.com/FFmpeg/FFmpeg/blob/master/doc/examples/mux.c (посмотри функции работы с аудио).

Без детального разбора в вашем коде, вот что нужно учесть:
— фрейм надо аллоцировать (почистить тоже не забыть)
— правильно посчитать sample_count
— полезно делать Дамп и открывать его в Audacity (или другой для работы с сырым аудио), чтобы удостовериться, что у тебя верные параметры количества каналов, сэмпл рейта, bits per sample и sample format; ВАЖНО не ошибись в функции записи дампа в файл!!!

Ну и посмотреть примеры от самого FFmpeg, на которые я давал ссылки выше. Их вполне достаточно, чтобы начать енкодить/декодить, муксировать/демуксировать и даже стримить. Вот еще до кучи https://github.com/FFmpeg/FFmpeg/blob/master/doc/examples/mux.c (посмотри функции работы с аудио).