один из вариантов 1. Открываем в фотошопе картинку.
2. Выбираем инструмент "прямоугольник со скругленными углами" (на скрине: 1, 2), настраиваем радиус скругления (4), выбираем "контур" (3).
Собсна рисуем этот контур, нужного размера.
3. Нажимаем правой кнопкой мыши на контур и выбираем "образовать выделенную область", настраиваем параметры по желанию.
4. Выделенную часть картинки копируем на новый слой (сочетание клавиш ctrl+J), предыдущий слой можно удалить.