Yes, you use "än" for "than"! And normally you add, like you did -are to an adjective.
Snäll - snällare
Ful - fulare
BUT there are quite a lot of exception, among them:
Gammal - äldre
Ung - yngre
Liten - mindre
Stor - större
Bra - bättre
Dålig - sämre
So your sentence would be:
Min pappa är 2 år äldre än min mamma (är).