Do you say "I'm not" in any situation? I will if it translates literally as "私（わたし）ではありません"（watashi dewa arimasen)

状況によって違います。 普通は「私じゃない」 もっと丁寧したら「私ではありません」