Это такое выражение. Здесь дательный падеж. Не было предела чему? Восторгу, радости, счастью, восхищению, разочарованию, горю и т.д.

Great question! It’s one of the functions of the Darive Case. Possessor of quantity/ measure. The same when you say Мне мало. Ему достаточно. Нам нет цены. In your example it’s inanimate noun that is the “possessor” and the predicate is the Genitive of measure. If you know English, in English you would use preposition ‘for’ -there’s no limit for...” The closest interference structure here would be “для моего восхищения нет предела», but since you are asking this question you are probably familiar with the difference between “ для меня мало», and “ «мне мало».

Хочется "Не было предела в моем восхищении"? Так не говорят. Мое восхищение ==> беспредельное.