При расшифровке, если подразумевается, что есть, делается проверка. Если не совпало — как раз NTE_BAD_DATA.
При зашировке 16 байт — как раз добавленный блок.
Как лечить — согласовывать режимы ключа при операциях шифрования и расшифрования. Видимо, KP_MODE/KP_PADDING