備忘録：VMWare Playerを使用してドライバのカーネルモードデバッグ

自分に対する備忘録です。

VMWare Player上のゲストOSをデバッグターゲット（通称「生け贄」）とすることで、（物理的な）PC１台でカーネルモードデバッグができることが分かりました。これは便利です。

1. VMWarePlayerを起動して、「仮想マシン設定」を開く。
2. ハードウェアの「シリアルポート」の設定を次のようにする。
   名前付きパイプを使用するをチェックして、"\\.\pipe\com_1"と入力。
   「この端末はサーバです」「接続先は仮想マシンです」を選んでおく。
3. ホスト側OSでWinDbgを起動する。カーネルモードデバッグを起動して、pipeにチェック、パイプ名は上と同じものを入れる。reconnectにもチェックする。

基本的には、以上の設定で動きました。

しかし、上の２のところでシリアルポート自体がデバイス一覧に表示されていませんでした。そこで、次のようにしました。

仮想マシンの設定ファイル*.vmxをテキストエディタで開いて、下の方にあるserial0.presentという項目を探します。これが”ＦＡＬＳＥ”になっていれば、"TRUE"に変更します。

ついでに、serial0.fileType = "pipe"とserial0.fileName = "\\.\pipe\com_1"というエントリも足しておきます。