Надо начать примерно с книг А. Шеня. Трёхтомник там, введение в основания математики. Я на эту тему давно читал. Мало в чём разобрался, не особо стремлясь, но там по-моему проблема в том, что то ли с такой постановкой вопроса с самой проблемы, то ли с невозможностью решить такую задачу в принципе.