Para operaciones financieras, en comunicación cotidiana, un préstamo y un crédito son sinónimos. Puedes ir al banco y solicitar un préstamo o un crédito.
En términos formales, el uso va a depender de cada jurisdicción, es decir, de la ley aplicable y las definiciones que ahí se introducen y de las costumbres de cada sitio.
En el caso del préstamo, el término se puede extender para otros temas, no solo de dinero, donde algo se entrega y donde casi siempre hay que hacer la devolución de la cosa. Hay préstamos de libros o de términos lingüísticos.
El crédito, que viene de la palabra creer, se aplica también a otras cosas. Las compras o ventas a crédito, donde se recibe o entrega algo que será pagado al vencimiento del plazo, o en cuotas. Las empresas y países tienen calificaciones crediticias.
En otros casos, se distinguen ambos términos. Por ejemplo, algunas tarjetas de crédito permiten solicitar préstamos en efectivo.
Espero que esta explicación sea digna de crédito.