Я в таком случае создаю окружность раз в 5-10 больше, а потом "сжимаю" *масштабированием и вращением*
Проблема известна и для её решения рекомендуют пользоваться скриптом NMaps Tweaks. Но наверное хорошо бы, чтобы это исправили во встроенном инструменте. Нужно увеличить плотность проставления точек в небольших окружностях.
Проблема не в масштабе, а в диаметре, т.е. в размере создаваемой окружности.