Здравствуйте, rg45, Вы писали:

R>Требуется, для общего случая, найти координаты пары ближайших точек, лежащих на разных окружностях.
R>Задача имеет прикладное значение (в области collision detection), поэтому вполне приемлемо, если решение будет получено в виде одного или нескольких трансцендентных уравнений одной переменной.

Если бы тебе нужна была не теория, а практический результат, то я бы посоветовал взять библиотеку OpenCASCADE, создать две окружности и дать задачу найти ближайшие точки. Проще всего написать код на C++, тем более к библиотеке прилагаются примеры на подобные темы. Если же нужна теория, то после того как сделаешь это, зайди внутрь кода библиотеки, который вызывал при решении практической задачи и посмотри как там всё устроено. А устроено там всё совсем не просто, если не сказать наоборот. Жизнь потратишь, чтобы это всё изучить.