1. Откройте любое изображение в фотошоп, например фотографию машины.
2. Теперь выберете инструмент «Прямоугольное выделение» и выделите изображение, только не полностью, а так, чтобы со всех сторон оставалось немного места. 
3. Теперь идите в меню «Выделение» — «Модификация» — «Сгладить». Вам откроется небольшое окошко, где вам надо будет ввести радиус сглаживания. Ну тут всё зависит от размера исходного изображения. Для данного изображения я решил поставить 20 пикселей. Но чем больше картинка — тем желательно и больше ставить радиус. Тут экспериментируйте. В случае чего вы всегда можете отменить последнее действие и попробовать другое число. 
4. Углы на выделении закруглились. Но как понимаете это еще не все. Эту область нужно вырезать. Для этого идите в меню «Редактирование» и выберете пункт «Вырезать» или воспользуйтесь комбинацией клавиш CTRL+X. После этой манипуляции  исчезнет содержимое внутри выделенной области. 
5. Теперь необходимо создать новый документ. Не надо выставлять никаких параметров ширины и высоты, так как после того, как мы вырезали изображение, эти параметры автоматически подстраиваются под параметры вырезанного объекта. Т.е. просто нажимаете ОК.
6. Последний штрих. Теперь надо вставить наш вырезанный объект. Для этого идите в меню «Редактирование» и выберете пункт «Вставить», либо нажмите комбинацию клавиш «CTRL+V». Вот и всё. Как видите, теперь мы получили изображение с закругленными краями. Вам останется только сохранить это изображение.

Этот способ похож на предыдущий, но всё же сильно отличается. Проделывать всё будем с тем же самым изображением.

1. Выделите всю область целиком. Для этого воспользуйтесь либо инструментом «Прямоугольное выделение», либо нажмите комбинацию клавиш CTRL+A. 
2. Теперь выберете «Выделение» — «Модификация» — «Граница». Вылезет небольшое окошко, где выбрать размер границы= 15 пикселей.
3. Выделение стало двойным. Это нормально. Следующим шагом нужно сделать то же самое, что и в первом способе, а именно выбрать «Выделение» — «Модификация» — «Сгладить». Поставьте  радиус закругления= 30.
4. Нажмите CTRL+X и у вас будет вырезана область вокруг  изображения и благодаря этому  основное изображение станет с закругленными углами. Правда тут останется фон вокруг картинки. Но он не будет заметен (если он белый конечно). Если уж совсем напрягает, то можете кадрировать изображение и ли что-нибудь другое, чтобы сделать убрать лишний фон.

С помощью создания фигуры

Третий способ уже кардинально отличается от двух предыдущих.

1. Для дальнейших действий понадобится одна фигура. Идите в панель инструментов и  выберете инструмент «Прямоугольник с закругленными краями» из группы инструментов «Фигуры».
2. Воспользуйтесь этим инструментом также, как и прямоугольным выделением, т.е. зажмите левую кнопку мыши в левом верхнем углу, а затем тяните всё это дело в правый нижний угол. Таким образом этот прямоугольник с закругленными краями должен закрыть нашу основную картинку.
3. Фигура создалась на новом слое. Это-то нам и нужно. Вот только последовательность их нас не устраивает. Нужно поставить слой с картинкой поверх слоя с прямоугольником. Для этого зажмите левую кнопку мыши на слое с изображением и переместите его на одну позицию выше. Но перед этим нажмите на замочек, чтобы разблокировать слой. Тогда слой с машиной встанет поверх фигуры. 
4. Выделите слой с изображением и  нажмите на нем правой кнопкой мыши, после чего выберите «Создать обтравочную маску».