Ambas preguntas significan lo mismo, sin embargo "¿Cómo se llama?" se da en una situación formal, por ejemplo, cuando hablas con alguien mayor o una autoridad. El "¿Cómo te llamas?" se da en una relación de confianza: amigos, primos o cercanos.

Como se llama is 3d person singular meaning the formal way asking what is your name while como te llamas is the familiar 2d person asking exactly the same question. Actually it means in both cases what do you call yourself?