Как всегда в Фотошопе задачу можно решить несколькими способами, попробуем рассмотреть самый распространённый вариант.
Изображения получились несколько схематичными, но из объяснения понятен общий принцип работы.
Загружаем изображение на рабочее поле редактора.
Дублируем его дважды и подкладываем фон, в примере белый.
Среди автофигур для рисования на панели инструментов выбираем прямоугольник со скруглёнными краями и выбираем подходящий радиус скругления в пикселях, сравнивая его с линейкой на поле. Значение заносим с клавиатуры в соответствующее окно. В примере 400 пикселей.
Раздвигаем фигуру мышкой с левой нажатой кнопкой, начиная с левого верх него угла до нижнего правого, как только фигура принимает нужную форму и размер кнопку можно отпустить, фигура примет цвет фона.
Выбираем на панели инструмент "Волшебная Палочка" кликаем по белому полю, появляется граница выделения.
Теперь верхний слой с которым мы работали можно удалить. Останется выделение и три слоя (как в примере).
Обращаем выделение, делаем его из внутреннего внешним.
Обрезаем лишнюю часть кадра ("редактировать", "обрезать") Углы исчезают, становится виден белый фон.
Теперь у нас на рабочем поле картинка со скруглёнными краями. Задача решена.
Исходный слой (с замком) остался нетронутым на всякий случай. При сохранении выбираем новое имя, что бы не затереть исходник, проверяем, если всё в порядке, Фотошоп можно выключать.
Если снова сделать выделение "Волшебной Палочкой", изменить настройки выделения и обрезать, можно получить такой мягкий размытый край.