A questão é como armazenar os graus ? antes de formatá-los, é preciso digitá-los

suponha que vc digite 45°30' ... o excel vai tratar como se fora texto e sendo tratado como texto vc não vai poder realizar operações matemáticas com ele.

por exemplo 45°30' + 0°30'  = 46°00' .... mas tente fazer isso diretamente no excel e vc só vai conseguir #VALOR

Outra forma seria colocar usando horas, assim
45:30 e depois formatar para ficar com  ° e '   

O truque aí é colocar um formato personalizado para graus, assim

[h]°mm'ss''

aqui temos dois plics ' e não um ploc " 

(plic é chamado de "apóstrofo" pelos académicos e ploc é chamado de "aspas")

bom, agora vc pode fazer operações aritméticas com graus como se foram horas.  O truque é digitar os graus, minutos e segundos separados por : 

Mas tem que prestar atenção pois estamos usando um truque. Para calcular o seno de um ängulo escrito em graus ... normalmente faríamos assim 
=seno(célula que contém o ängulo)

Para fazer operações nesse formato vc tem que se lembrar que as funções trigonométricas usam como argumento o angulo em radianos e nao em graus. Outra coisa que vc tem que se lembrar é que estamos forçando a barra. Isso aí são horas e não graus. Acontece que para transformar de "horas" em graus vc multiplica esse número por 24.

assim 90:00:00, que vc digita, aparece formatado como 90°00'00'' e na verdade o excel armazena como 3,75 :)
=3,75*24 = 90

Isso acontece porque o excel armazena horas como fração de dias. Se multiplicarmos por 24 teremos o número de horas, que para nós será graus.

Agora vamos converter de graus para radianos.

Como todos nós aqui nos lembramos 
360 graus = 2 * PI() radianos

Então
1 grau = 2 * pi() / 360 

1 grau = 0,017453 radianos

portanto, é só multiplicar a medida em graus por 0,017453 para ter radianos

Fonte:http://www.expertaccess.com.br/forumnew/forum_posts.asp?TID=14581&OB=DESC