разобрался, раньше работало просто, сейчас поменялся обработчик Text_Changed

        private void RichTextControl_TextChanged(object sender, TextChangedEventArgs e)
        {
            var rtb = sender as BindableRichTextBox;

            if (!rtb.IgnoreTextChanged.HasValue || !rtb.IgnoreTextChanged.Value)
            {

                var pos = rtb.CaretPosition;
                using (MemoryStream ms = new MemoryStream())
                {
                    TextRange range = new TextRange(rtb.Document.ContentStart, rtb.Document.ContentEnd);
                    range.Save(ms, DataFormats.Rtf);

                    ms.Position = 0;

                    rtb.IgnoreLoad = true;
                    DataSource = Encoding.UTF8.GetString(ms.ToArray());
                    rtb.IgnoreLoad = false;
                }
                rtb.CaretPosition = pos;
            }


            dataChanged = true;
        }

короче IgnoreTextChanged = true надо было задавать