Les deux sont justes, mais "dans la bibliothèque" est je pense plus précis que "à".
Leur utilisation va dépendre du contexte:
- si tu es au téléphone avec quelqu'un qui ne sait pas du tout où tu es, il vaut mieux dire "à la bibliothèque"
- si tu es au téléphone avec un ami de ton université à qui tu as donné rendez-vous "à la bibliothèque", tu peux maintenant lui préciser que tu es "dans la bibliothèque" (= à l’intérieur de)
Cette règle s'applique avec un peu tout: (à la/dans la) maison, (au/dans le) musée, (au/dans le) starbucks, etc..