Здравствуйте, alex1nax, Вы писали:
A>Пытаюсь написать обертку sciter-x.dll для Delphi.
Извиняюсь, что не совсем по теме, но код просто кишит потенциальными проблемами из-за юникода, бинарной переносимости машинного кода С++/Delphi, специфики менеджера памяти Pascal, специфики VCL т.д. Это очень тягомотно отлавливать, поэтому имхо гораздо лучше наладить взаимодействие между Sciter и Delphi через COM/ATL.
A>В чем может быть проблема?
Во всем вышеперечисленном

Берите студию, настраивайте ее на отладку проекта в Delphi IDE и ловите.