Há uma pequena diferença sim.
Quando você diz: "Eu sei o lugar" é como se dissesse "Eu sei que lugar é esse", você sabe que o lugar existe mas não necessariamente o conhece ou esteve lá.
Já se disser "Eu conheço o lugar" o mais provável é que você já tenha estado no lugar.