Здравствуйте, k.o., Вы писали:

KO>Нужно ещё тип поменять на int (BOOL в WinAPI это typedef на int)

Менять не нужно, я бы [return: MarshalAs(UnmanagedType.Bool)] добавил конечно, хотя именно так и происходит по-умолчанию.