Группу 3 раза вызавали на бис , или группа 3 раза выходила ( возвращалась ) на бис . Спел на три биса - it is weird to say that Сompare Russian Бис from Latin bis ( twice )

"На бис" is used in the meaning of "again". It may happen once, twice or several times (i.e., три раза). You can say спеть на бис, выступить на бис, сыграть на бис, исполнить песню на бис. Passive voice is also possible as it was mentioned above.

Также можно сказать: "Группа выходила на бис трижды" / "Группа спела на бис трижды"

Лучше сказать, что "Группу вызывали на бис 3 раза" или "Группа спела на бис 3 раза"

бис - это междометие, для примера есть слово "ура" это тоже междометие, мы не говорим прокричать три ура, мы скажем - прокричать трижды ура или прокричать ура три раза. (дважды/трижды - т.е. сделать что-либо два или три раза подряд, с другими числами не употребляется, иногда можно встретить "одинажды" но только в литературном варианте, в разговорной речи обычно не используют)