'mein neuer Wagen' is correct, and it is Nominativ.
'mein', as 'ein', does not show the gender, so the gender must be shown on the adjective: deR Wagen - neueR.
In this case it is not comparative.
Compare: dieser Wagen ist neu, der andere ist neuer (comparative)
das ist ein neuer Wagen - das ist ein neuerer (comparative) Wagen
That means if the adjective is before the noun it must show the gender, after the noun it doesn't.