OO>Мне тоже нужно в автоматическом режиме. Вообще смысл — размещать фотографии при печати. Т.е. "красивость" обусловлена желанием, чтобы все фотографии были видны (ну т.е. чтобы не было крайнего случая когда есть фотка 2x2 пикселя и есть фотка 1000x1000 пикселей).
OO>За сайт спасибо

Т.е. это вы спрашивали про раскладку с масштабированием картинок?
Если это вам нужно масштабировать фотографии и гармонично раскладывать их, то Вы сейчас совершенно не в той "понятийной области" находитесь. Вам совсем, совсем не нужны алгоритмы подобного сорта.
Это совсем не то.

У вас задача совсем иная, она связана с человеческим восприятием (вы это называете "красотой"). Это восприятие должно быть максимально гармоничным.
Как сделать восприятие гармоничным? Почитайте про так называемое понятие "композиции" у художников (композиция третями, композиция диагоналей). Почитайте про золотое сечение.

Вам нужно сделать несколько заранее определенных шаблонов композиций и в них человек может помещать мышкой фотографии.
Фотографии он может обрезать и масштабировать.

Это и будет решение искомой задачи.
А эти машинные алгоритмы оптимального раскроя никакого отношения к гармоничности и красоте восприятия не имеют.