Quería aportar con esto: A pesar de que muchas palabras en castellano terminan en la vocal A que caracteriza al genero Femenino no siempre es asi como en Problema que es genero Masculino y la concordancia entonces es: 1) Estaba pensando en un problema de ...... ó 2) Estaba pensando en el problema......

hola! la forma correcta de decir es: estaba pensando EN un problema( porque la palabra problema es de genero masculino) o tambien lo puede decir esta pensando sobre un problema de matematicas!

La frase "estaba pensando EN UN problema de matemáticas cuando sonó el teléfono" es correcta. Cuando "pensar" significa "reflexionar", "examinar" o "echar de menos", puede construirse con "estar + gerundio" y normalmente lleva la partícula "en", como dijo Irene. Ejemplo: Estoy pensando en mi novia. En algunos casos se utiliza sin "en". Ejemplo: Estaba pensando a qué hora coger el tren. Cuando "pensar" significa "opinar" o "creer", habitualmente no se utiliza "estar + gerundio". En este caso, normalmente lleva la partícula "que". Ejemplo: Él piensa que el fútbol es aburrido.

Hola! Hola, yo diría: Estaba pensando EN un problema de matemáticas cuando sonó el teléfono

Yo diría, en tu caso: "Estaba pensando un problema de matemáticas, cuando sonó el teléfono" El sentido es: "Estaba reflexionando sobre un problema de matemáticas..."