中途半端な知識で申し訳ないですが、
仮想８６モードを終了する為に 無効オペコード( #UD)を発生するだけなら
0F0B オペコード(UD2 命令) または0FB9H オペコードを使用するのが確実ではないでしょうか？

真面目な仮想８６モニタを作成するならOSが提供する16Bitsコード内で実現できるので
ごみも出ないし、発生箇所が特定できるので確実と思えるんですが…。