借助VMware实现单机使用WinDbg.docVIP

调试器中，SoftICE可以说是鼎鼎大名。而 Microsoft 的调试器 WinDbg 则有很多 SoftICE 不具备的非常有用的功能。对于从事 Windows 系统研究和驱动开发的人来说，WinDbg 实在是件上好的兵器，值得推荐。不过要想使用它并不是件容易的事，它需要有两台计算机，一台调试，一台被调试。这个条件对于大多数人来说是非常苛刻的。 今天我们介绍借助VMware实现单机使用WinDbg进行调试的方法。 VMware Support 中说，自 版本之后的 WinDbg 都支持了通过 pipe 来进行调试，不过微软对此并没有任何说明。所以，在VMware中虚拟被调试的系统，然后通过VMware虚拟一个com端口。使用这个虚拟的端口，就可以用 WinDbg 进行调试了。 具体步骤如下： 1 设置 VMware 的虚拟com 1.1 运行 VMware ，点击 Edit virtual machine settings 1.2 点击 Add... 来运行 VMware 的 Hardware Wizard 1.3 选择 Serial Port，点 下一步 1.4 选择 Output to named pipe,点 下一步 1.5 第一框里保持默认的 \\.\pipe\com_1 第二框里选This end is the server. 第三框里选The other end is an application. 选中 Connect at power on 然后点击 Advanced 1.6 选中 Yield CPU on poll（VMware Support 中提到了这一点），然后点完成。 1.7 这样就完成了虚拟com的设置。 1.8 重新启动一下。 2 设置 VMware 虚拟出来的 guest os 现在 power on 虚拟出来的 guest os 2.1 设置boot.ini 在c:\下，可以找到boot.ini，可以用记事本打开它。我们需要在 guest os 的启动项上加些参数，才能够使用WinDbg调试它。我们可以在现有的行后面直接加参数，不过强烈推荐复制一个新行，在新行的后面加参数。这样在调试启动有问题的时候，我们可以方便的换回原来的启动方式。下面就是我改好的boot.ini。 其中 multi(0)disk(0)rdisk(0)partition(1)\WINNT=Microsoft Windows 2000 Professional /fastdetect 是原来的行。  multi(0)disk(0)rdisk(0)partition(1)\WINNT=Microsoft Windows 2000 Professional - debug /fastdetect /debug /debugport=com1 /baudrate=115200 是我新加的将来用于 WinDbg 调试的行。 ------------------------------------------------------------------------------------------ [boot loader] timeout=10 default=multi(0)disk(0)rdisk(0)partition(1)\WINNT [operating systems] multi(0)disk(0)rdisk(0)partition(1)\WINNT=Microsoft Windows 2000 Professional /fastdetect multi(0)disk(0)rdisk(0)partition(1)\WINNT=Microsoft Windows 2000 Professional - debug /fastdetect /debug /debugport=com1 /baudrate=115200 ------------------------------------------------------------------------------------------- 这里还要注意的是,timeout不要为0，否则直接启动默认的项。新行后面加上了参数 /debug /debugport=com1 /baudrate=115200 ，可以看到 debugport=com1 ，baudrate=115200 。参数的具体作用，可以参考 WinDbg 的帮助文件。 2.2 设置com1端口的速度 在 guest os 的设备管理器中把com1端口的速度也就是每秒位