Здравствуйте, Wasilij, Вы писали:
W>Кто-нибудь может подсказать решение вот такой задачи или где можно почитать...
Делал такое на курсовой

. Монеты на столе распознавала. Правда, сыровато получилось, но довести до ума можно, наверное. Если интересно — могу заслать.
Кроме того, по этому делу есть куча статей. Метод, которым я пользовался, называется преобразование Хока (Hough transform). Выделяет окружности (линии) на изображении. Статьи можно даже в сети найти.