操作系统是计算机中最基本和最为重要的系统软件,它管理着各种软硬件资源,指挥并控制着整个计算机系统的工作,所以保证操作系统的正确、安全、可用是保证整个计算机系统安全可靠的基础。系统调用作为操作系统提供给用户空间访问内核空间的唯一接口,也就成为了内核测试的主要切入点。近些年来,系统调用随着操作系统的快速发展,在数量、种类和代码复杂度方面都发生了极大的改变,给测试工作带来了很大压力,因此对系统调用进行自主可控的测试验证具有重要的现实意义和应用价值。本文详细分析了Linux的传统系统调用机制和快速系统调用机制,在此基础上结合内核源码对Linux操作系统的自主访问控制和强制访问控制机制展开论述并设计出相关测试用例。在分析源码期间发现不同的机器架构实现的系统调用数目和对应的系统调用号会有所差别,所以本文又对ARM架构下和x86架构下实现的系统调用进行了分类和比较,总结出对应架构下缺省的系统调用,为设计自动化测试框架打下基础。在对系统调用进行测试时,由于部分系统调用的可选参数繁多,如果将参数盲目组合,可能会令函数只调用一些错误处理代码,不能执行到深层的核心功能代码,并造成大量的测试用例冗余。所以,本文通过分析内核源码,针对系统调用参数组合进行了优化处理,减少了测试用例数量。此外,鉴于系统调用和内核函数之间存在的多对一的关系,所以本文还对所测试的系统调用及测试用例进行了归并和约减处理。本文基于Vmware Workstation虚拟机和Linux 5.6.14内核版本设计并实现了系统调用自动化测试程序。该程序主要由测试环境自动配置、测试用例自动执行、测试结果记录和测试结果分析等功能模块组成。然后,把所设计的测试用例通过RealEvo-IDE工具移植到类Linux的国产操作系统SylixOS上,并对SylixOS中的文件操作和任务通信函数进行了功能测试,通过详细分析和认真检查测试结果,发现了两种不同级别的系统漏洞。与LTP系统调用测试程序相比,本文研究实现的系统调用测试自动化程序具有测试用例设计更完备、测试选择灵活性更强等优点。同时,系统原型功能有待进一步完善,以便覆盖所有系统调用及所有参数组合的测试。