Cria o documento com o tamanho q você quer, e aí faz uma linha com o tamanho e cor q você deseja. Aí ativa a Grade (Grid, Ctrl+") pra poder apagar certinho as partes onde você vai fazer o pontilhado. Vai nas preferencias e bota a grade com um tamanho q você ache com pra apagar a linha pra deixa-la tracejada.
Depois é só ver qual o tamanho q você quer pros pontilhado e ir apagando partes da reta. Contando pelos quadradinhos da grade.
Pronto, terá sua reta. Pra fazer o circulo tracejado, va em Filter>Distort>Polar Coordinates>Rectangular to Polar e terá seu circulo. Mas deixa a reta numa camada separada antes de aplicar.
outra maneira
faça uma seleção qualquer, pode ser um reta mesmo, escolhe um brush q tenha ponta quadrada, va em paths make work with patchs depois do lado clico na opção stroke path with brush e pronto! toda a borda da seleção ficou pontilhada, porem dependendo do brush você erá q mexer no seu espaçamento...