近年来,随着恶意软件成为当前网络空间安全面临的主要威胁。基于灰度图像的恶意软件检测模型由于无需反汇编且能利用PE文件所转灰度图像的图像纹理获取较高的检测准确率被广泛应用,但恶意软件检测与反检测的对抗博弈是一场永无止境的斗争,为提升该检测模型在面对保留PE文件可用性和功能性的对抗攻击时的鲁棒性以促使其在恶意软件领域的有效应用,本文围绕能够干扰该方法准确检测的对抗样本以及能对相应对抗样本进行防御的新可视化方法展开研究。首先,本文深入分析了现阶段国内外研究人员对基于灰度图像的恶意软件检测模型的对抗攻击研究。针对目前大多对抗攻击研究存在的不受限扰动致使的对抗样本可用性和功能性无法保留问题、为保留可用性和功能限制扰动空间为PE文件尾部致使的易被文件头信息检测问题,提出了一种可保留可用性和功能性的字节码攻击方法（Byte-code Attack Remained Availability and Functionality,BARAF）,该方法所生成对抗样本可保留PE文件可用性和功能性且难被文件头信息检测;其次,为提升基于灰度图像的恶意软件检测模型在面对BARAF时的鲁棒性,本文利用能增强攻击前后灰度图像相似度的区段信息提出一种可降低BARAF干扰的新可视化方法（Colored Label boxes,Co Lab）,并基于该可视化方法训练了一种鲁棒检测模型（Malware detection using Co Lab image,VGG16 and Support vector machine,Mal CVS）;最后,在公开数据集上分别对攻击方法与防御模型进行了实验测试。攻击实验结果表明BARAF所生成对抗性样本最高能使基于灰度图像的恶意软件检测模型的检测准确率降低31.58%,大幅影响该模型检测判断且其所生成对抗样本难以被文件头信息检测。而防御实验结果表明最佳参数组合下的Mal CVS在面对BARAF时最高仅降低4.06%的检测准确率,其比基于灰度图像的恶意软件检测模型更鲁棒。