大数据已经是与人们生活息息相关的科学技术,并且随着互联网以及物联网的普及发展,大数据将会给现代社会带来更大的商业价值。在大数据时代,由于处理的数据量庞大以及数据处理算法的改进,仅使用CPU对海量数据进行分析会导致效率低下。因此人们开始构建新的计算架构来提升大数据处理的性能。人们首先将GPU应用于大数据处理中。GPU虽然没有CPU复杂的控制逻辑,但是其具有CPU不能比拟的数量众多的计算资源,并且GPU的结构类型非常统一,适合于对大量数据进行并行计算。随后,FPGA开始进入人们的视线。FPGA同样具有丰富的计算资源,并且具有低功耗,高吞吐量等优点。多块FPGA组成的集群将具有类似GPU的图像处理能力,而功耗更低。在这样的背景下,本文使用了FPGA和GPU两种不同类型的芯片,将它们与CPU组成了CPU-FPGA和CPU-GPU两种计算平台。为了应对当今大数据的计算挑战,我们在CPU-FPGA计算平台中运行大数据计算中的浮点数矩阵乘法运算,在CPU-GPU计算平台中运行大数据分析中的最常用的机器学习算法。在CPU-FPGA计算平台中,本文解决了CPU与多块zeaboard开发板通信的问题,ARM与FPGA通信的问题,并使用Verilog硬件描述语言设计并实现了浮点数矩阵乘法系统。整个计算平台可以实现:CPU将待计算的浮点数矩阵通过以太网分别发送至多块FPGA,FPGA计算完毕后将计算结果发送回CPU。在CPU-GPU计算平台中,本文针对机器学习中的神经网络和卷积神经网络算法提出了并行训练的方法。根据提出的并行训练方法,本文使用异构编程语言OpenCL在CPU-GPU计算平台中运行。这两种算法都是用于手写数字的识别。我们将神经网络和卷积神经网络的并行训练结果分别与它们的串行训练结果相比较,结果表明本文在CPU-GPU计算平台中运行的这两种机器学习算法均能在性能几乎没有损失的情况下,既减小了它们的训练时间,同时提升了能量效率。