始め・・・start
しごと始め the start of work/the work beginning
歩<ある>き始め the start of walking/the walk beginning
初め・・・first
初め分<わ>からなかった。 I did not understand at first.
初めの子<こ> the first child
There are sentences that both of them are used.
始め/初めが肝心<かんじん>だ。 The beginning is important.
ジョンさんを始め/初めとして優秀<ゆうしゅう>な学生<がくせい>がたくさんいる。There are a lot of excellent students including John.