прикольная задачка. Пока получилось выписать расстояние от точки до окружности. И в принципе понятно теперь как решить итеративно. Типа бинарным поиском нужно точки по участкам второй окружности, где функция расстояния будет вести себя выпукло.