You are right. the two words mean "already" and can be used interchangeably.
Sometimes, we use the two words together to stress the tone as in the below example (3).
ex) I already knew that you would be dumped by her.
(1) 난 너가 그 여자한테 차일 줄 이미 알고 있었다.
(2) 난 너가 그 여자한테 차일 줄 벌써 알고 있었다.
(3) 난 너가 그 여자한테 차일 줄 이미 벌써 알고 있었다.