почему "Моему восхищению не было предела"?
Почему там "восхищение" в дательном падеже? Или это не дательный падеж?

Question

Answer

Это такое выражение. Здесь дательный падеж. 
Не было предела чему? Восторгу, радости, счастью, восхищению, разочарованию, горю и т.д.

Answer

Great question!
It’s one of the functions of the Darive Case. Possessor of quantity/ measure. The same when you say  Мне мало. Ему достаточно. Нам нет цены. In your example it’s inanimate noun that is the 
“possessor” and the predicate is the Genitive of measure. 
If you know English, in English you would use preposition ‘for’ -there’s no limit for...” The closest interference structure here would be “для моего восхищения нет предела», but since you are asking this question you are probably familiar with the difference between “ для меня мало», and “ «мне мало».

Answer

Хочется "Не было предела в моем восхищении"? Так не говорят.
Мое восхищение ==> беспредельное.