IE(IE9)の場合、form中にカーソルがあると、カーソルあるところと共に
そのformに属するsubmitボタンが強調される。
  ・カーソルのあるところ                          →外太枠＆内点線枠
  ・カーソルのあるところが属するformのsubmitボタン→外太枠
また、これ(submitボタン)が複数あった場合は、最初のボタンが強調される。

きっと、submitする時はここを押してねっていう
アピールかなんだろうけどなんか余計な感じだ。

CSSとかで回避する方法は今のところわからないが、
submitボタンを、buttonボタンにして、
JavaScript側でsubmit()することで回避することはできる。
＃但し、この場合、送信されていたsubmitボタンのラベル名が
  (buttonボタンのラベル名としては)送信されなくなるので注意。
  別途hidden属性かなんかで代替する必要あり

submitボタンだろうが、buttonボタンだろうが、JavaScriptで制御するから
どっちでもいい、なんて適当に配置していると、
IEの場合にボロが出る(不自然な位置の第一submitボタンが強調される)という
結構危険な問題だ(初期設計時に心得ておいた方がよい)。