"Dem" ist Dativ (Wemfall).
You can ask: "Wem habe ich das Buch gegeben?" (to whom)
The answer would be "Ich habe es dem Lehrer gegeben."
"Der" ist Nominativ (Werfall).
You ask "Wer/Was ist das?" (who)
The answer is "Das ist der Lehrer."
The other cases are Genitiv (Wes/Wessenfall: Wessen/whose? - des Lehrers) and Akkusativ (Wenfall: Wen/who? - den Lehrer)