CreateWindowEx не только создает окно, но и посылает ему сообщения WM_NCCREATE, WM_CREATE (возможно, и не только их). Поэтому, если что-то напортачено в оконной процедуре, то может и повиснуть. В самой FLTK, конечно, вряд ли будут столь грубые глюки, но наверняка она вызывает какой-то пользовательский код для инициализации окна.
