Мы говорим "на самом деле" когда хотим доказать что-то обратное, что-то опровергнуть. Пример: " - Мария красиво спела. - На самом деле, это не она пела, это была её сестра" мы говорим "В самом деле", когда признаем что-то , соглашаемся(возможно мы не верили в это раньше) Пример: " Да, ты прав, она в самом деле оказалась прекрасной актрисой."

"на самом деле"- предполагает опровержение заблуждения, иллюзии, обмана. На пример, (нам кажется, что Земля плоская, на самом деле это не так!) "в самом деле"- это, как правило, вводные слова к доказательству или приглашение подумать вместе. На пример,(в самом деле, вспомни, нам рассказывали в школе, что Земля круглая).

Разницы почти нет. Четкую разницу вижу только в том, что "в самом деле" можно использовать в вопросе без дополнения. - В самом деле?! - спрашиваете Вы. Вопрос-удивление когда к примеру Вам сообщают, что Ваш брат съел слона за раз))) и как правило в ответе будет использоваться "на самом деле" - На самом деле он не смог. Хвостик остался.

В самом деле - употребляется когда мы подтверждаем; признаем; удивляемся (и спрашиваем) что сказанное(упомянутое) до этого справедливо и действительно. На самом деле – фактически, в действительности(in reality), особенно когда подразумеваем противопоставление, а также когда мы не согласны с каким-то требованием или действием: Да что вы на самом деле!