You can say "pensé que estabas esperando" in positive, if you say it in negative, you can say "no pensé que estuvieras esperando". I do not have an answer to you as to why it has to be this way, I will have to look for it. But if you say it in positive, you have to use the imperfective past, if you say it in negative, you have to use subjunctive. Other examples: pensé que querías venir / no pensé que quisieras venir. Dije que ella estaba preparada / no dije que ella estuviera preparada. I hope this helps you. And... sorry for not being able to provide the grammar rule applying here.

Lo correcto es "pensé que estabas esperando", ya que la otra forma verbal, "estuvieras" es del subjuntivo, indicando algo desiderativo o condicional.

Pense que estabas esperando suena mejor. No se si en alguna situacion "pense que estuvieras esperando" estaria bien, aunque no lo creo pero a lo mejor.

pensé que estabas esperando.