rtf 数组溢出漏洞挖掘技术研究research on rtf array overflow .pdf

第 38 卷第 5 期 通 信 学 报 Vol.38 No.5 2017 年 5 月 Journal on Communications May 2017 doi:10.11959/j.issn.1000-436x.2017104 RTF 数组溢出漏洞挖掘技术研究 乐德广 1,2,3 ，龚声蓉 1 ，吴少刚 3 ，徐锋 3 ，刘文生 4 (1. 常熟理工学院计算机科学与工程学院，江苏 常熟 215500 ；2. 苏州大学计算机科学与技术学院，江苏 苏州 215006 ； 3. 中科梦兰电子科技有限公司，江苏 常熟 215500 ；4. 泉州市公安局公共信息网络安全监察支队，福建 泉州 362000) 摘 要：在虚函数执行中，由于错误操作 C++对象的虚函数表而引起数组溢出漏洞。通过攻击虚函数造成系统崩 溃，甚至导致攻击者可直接控制程序执行，严重威胁用户安全。为尽早发现并修复此类安全漏洞，对该安全漏 的挖掘技术进行深入研究，结合 MS Word 解析 RTF 文件和虚函数调用之间的联系，发现 MS Word 在解析异常的 RTF 文件时存在数组溢出漏洞，并进一步提出基于文件结构解析的 Fuzzing 测试方法来挖掘 RTF 数组溢出漏洞。 在此基础上，设计了 RTF 数组溢出漏洞挖掘工具（RAVD ，RTF array vulnerability detector ）。通过 RAVD 对 RTF 文件进行测试，能够正确挖掘出数组溢出漏洞。实际的模糊测试表明，设计的工具相比传统的漏洞挖掘工具具有 更高的挖掘效率。 关键词：RTF 文件；漏洞挖掘；Fuzzing 测试；数组溢出 中图分类号：TP393 文献标识码：A Research on RTF array overflow vulnerability detection 1,2,3 1 3 3 4 LE De-guang , GONG Sheng-rong , WU Shao-gang , XU Feng , LIU Wen-sheng (1. School of Computer Science Engineering, Changshu Institute of Technology, Changshu 215500, China; 2. School of Computer Science and Technology, Soochow University, Suzhou 215006, China; 3. Lemote Electronic Technology Co., Ltd., Changshu 215500, China; 4. Public Information Network Safety Supervision Division, Quanzhou Municipal Public Security Bureau, Quanzhou, 362000, China) Abstract: When the virtual function was executed, it could cause array overflow vulnerability due to error operation of the virtual function table