IE8では、DOCTYPE宣言のないサイトはQuirksモード(互換モード)で表示されます。試しに、DOCTYPE宣言のないWebページを表示して、以下のコードを実行すると"5"という値がアラートされます。
javascript:alert(document.documentMode);
Quirksモード(互換モード)で表示されるケース
・Webページ中にDOCTYPE宣言が存在しない。
・HTML3.0以下の文書型を用いている。
・HTML4.0 TransitionalまたはFramesetのDOCTYPE宣言にURLを含まない。
IE8のレンダリングモードについてまとめてみる - 猫にWeb