Правильно - он учится в твоём классе. "Твоём" является определением к слову класс, поэтому должно быть с ним согласовано. "Классе" - единственное число, мужской род, предложный падеж, поэтому и слово "твой" ставим в предложный падеж мужского рода - твоём классе.