2014年1月16日木曜日

備忘録:VMWare Playerを使用してドライバのカーネルモードデバッグ

自分に対する備忘録です。

VMWare Player上のゲストOSをデバッグターゲット(通称「生け贄」)とすることで、(物理的な)PC1台でカーネルモードデバッグができることが分かりました。これは便利です。


  1. VMWarePlayerを起動して、「仮想マシン設定」を開く。
  2. ハードウェアの「シリアルポート」の設定を次のようにする。
    名前付きパイプを使用するをチェックして、"\\.\pipe\com_1"と入力。
    この端末はサーバです」「接続先は仮想マシンです」を選んでおく。
  3. ホスト側OSでWinDbgを起動する。カーネルモードデバッグを起動して、pipeにチェック、パイプ名は上と同じものを入れる。reconnectにもチェックする。
基本的には、以上の設定で動きました。

しかし、上の2のところでシリアルポート自体がデバイス一覧に表示されていませんでした。そこで、次のようにしました。

仮想マシンの設定ファイル*.vmxをテキストエディタで開いて、下の方にあるserial0.presentという項目を探します。これが”FALSE”になっていれば、"TRUE"に変更します。
ついでに、serial0.fileType = "pipe"serial0.fileName = "\\.\pipe\com_1"というエントリも足しておきます。

0 件のコメント:

コメントを投稿