K>Пробовал через setter в стиле ItemContainer'a, но не получается 
картинки не вижу.
Нужно через Setter свойства ControlTemplate — там использовать Border c CornerRadius = .., а все остальное, как в стандартном ControlTemplate ListBoxItem'a.
А проще всего это все засунуть в ListBox.ItemTemplate, раз уж вы его все равно свой задаете, просто оберните все, что там уже есть в закругленный Border.
Или вам хочется, чтобы SelectedItem тоже был с круглыми краями? Тогда только ControlTemplate в ItemContainerStyle менять.