http://en.wikipedia.org/wiki/K-nearest_neighbor_algorithm
Описание проблемы и ссылки "k-nearest neighbor algorithm".

http://www.cs.umd.edu/~mount/ANN/
Один из вариантов решения"Approximate Nearest Neighbor Searching".

Это очень известная задача, разобранная по косточкам. Попробуйте все же воспользоваться инетом.