冯·诺伊曼是计算机科学哲学的主要奠基人之一。为了实现莱布尼茨把人的理性还原为计算的梦想，冯·诺伊曼在图灵通用计算机的数学模型基础上，提出了一种理论计算机模型，即以生物系统为参照系的自动机理论。　　冯·诺伊曼的自动机理论具有毕达哥拉斯主义和柏拉图主义渊源，是毕达哥拉斯主义数学自然观的产物。冯·诺伊曼开始对自动机理论的研究始于他对电子计算机的研究，早期的计算机的逻辑设计是他的自动机理论的第一步，后来又进一步提出了自动机的理论总体构想与模型，并对自动机的逻辑理论做了探讨。冯·诺伊曼的自动机理论是数学的、逻辑的理论。他常常把他的自动机理论说成是“自动机的逻辑理论”，而不只是谈“自动机理论”。他的理论体现了毕达哥拉斯主义的数学助发现原则、逻辑简单性、抽象性原则以及对数学精神的执着追求。　　冯·诺伊曼自动机理论是生物目的性自动机理论中最有代表性的理论之一。现代目的论哲学——控制论和系统论的建立，对冯·诺伊曼的自动机理论产生了深刻影响。目的性概念通过系统与环境的反馈相互作用机制得到科学说明，并对技术系统与生命系统普遍适用，这为生物目的性自动机理论诞生奠定了科学的基础。冯·诺伊曼在对生物信息过程的探究中，通过对自然自动机与人工自动机相似性与差异性的比较研究，把生物目的性实现的机制应用于人工自动机。“冯·诺伊曼计算机”，一个为储存信息与控制系统特别设计的机器，是控制程序模拟人的目的性行为最有力的表现形式。冯·诺伊曼自增殖自动机理论提出并解决了“什么样的逻辑组织足以使一个自动机控制自己并自增殖”的问题，他构建的动力自动机系统体现了亚里士多德“程序目的论”思想，他发展的元胞系统是现代目的论思想算法的实现。　　冯·诺伊曼的计算机理论是毕达哥拉斯主义和亚里士多德以来的目的论传统的有机结合，是数学、逻辑与生物学的有机结合。　　冯·诺伊曼的自动机理论贯穿着对“复杂性”问题的研究。他对复杂自动机，尤其是人的神经系统，未来的巨型计算机系统十分感兴趣，他想要建立复杂系统的逻辑组织理论，并相信这样的理论是建造大型计算机的最本质的前提。冯·诺伊曼关注的自动机的两个问题，可靠性和自增殖都与复杂性有关，他比较了自然自动机与人工自动机的可靠性和复杂性，并把复杂性与热力学、信息论进行类比。他提出了度量复杂性的——“逻辑深度”概念，倡导了复杂性分析法——数值方法，并用“自下而上”的方法构建了元胞自动机。元胞自动机是简单规则导致复杂性“涌现”的范例。　　冯·诺伊曼自动机理论对后世影响深远，其计算机理论催生了当代计算主义形成与发展，为研究复杂性提供了技术手段。而元胞自动机，从计算的角度理解生命，它成为了当代计算主义的根隐喻，并为复杂系统动力学提供了研究案例，为人工生命研究提供了建构方法，为人工生命研究提供了研究路径。