Можно задавать скругление в процентах:
<div id="elem"></div>
#elem { width: 200px; height: 200px; border: 1px solid red; border-radius: 10%; }
Результат выполнения кода: