现代无线通信系统中,用户对信息传输速率和传输质量的需求日益提高,紧缺的频谱资源与复杂的传输环境逐渐成为发展的主要限制。在这种情况下,动态频谱分配和利用技术与MIMO技术、协作通信技术相结合的通信系统引起人们的广泛关注。动态频谱接入技术解决了频谱利用率低下的问题,而MIMO和协作通信技术能有效改善系统性能、提高系统容量。进一步地,认知无线电(Cognitive Radio, CR)被认为是实现动态频谱分配和利用的关键技术。因此,在CR和MIMO.协作通信技术相结合的通信场景下,如何分配无线资源以实现最佳频谱效率值得研究。与此同时,当共享蜂窝网络授权频谱资源时,Device-to-Device (D2D)通信相比于CR显得更有优势。而在D2D通信中,D2D终端用户往往采用电池供电,这使得能量效率显得尤为重要。因此,当D2D共享蜂窝网络频谱时,如何分配无线资源以实现最佳能量效率同样值得研究。首先,论文介绍了凸优化理论、粒子群优化算法及频效／能效优化准则。本文先对凸优化理论基础作了简介,包括凸优化理论中的基本概念、对偶理论、KKT优化条件、强对偶性质以及求解非凸优化问题的一个重要条件：时间共享条件。紧接着介绍了粒子群优化算法,包括基本原理、流程实现、不同模型及参数选择以及改进算法等。然后介绍了带宽功率乘积准则概念,并指出了其价值及与传统注水准则的区别。最后介绍了电池预期数据量准则概念,给出了其定义及相应的应用。其次,在认知无线电和MIMO技术相结合的场景下,基于带宽功率乘积准则,论文研究了最佳的无线资源分配方案,包括MIMO收发机结构、信道分配、发送功率等,实现系统的最优频谱效率。具体地讲,首先研究了单对认知用户通信时的资源优化问题,继而拓展到多对认知用户通信时的场景。在核心的资源分配问题中,本文提出了联合功率和信道交互迭代算法。其创新性的想法是将综合优化问题分解成功率优化子问题和信道分配子问题,且子问题之间能够交替迭代求得最优解。仿真结果表明本文所提出的优化算法相比于粒子群优化算法能够在极大降低计算复杂度的情况下实现较好的性能；而相比于传统的注水算法,本文所提出的频谱共享框架能够进一步提升系统的频谱效率。再次,在认知无线电和协同通信技术相结合的场景下,基于带宽功率乘积优化准则,论文研究了最佳的无线资源分配方案,包括Relay配对、Relay协议选择、信道分配、发送功率等,实现系统的最优频谱效率。具体地讲,首先研究了单对认知用户通信时的资源优化相关问题,且在中继端考虑了信道配对过程。本文提出了贪婪联合资源优化算法,该算法核心思想为：对于给定的信道资源集,利用拉格朗日对偶算法以及匈牙利算法求解出最优信道配对组合和最佳功率分配；紧接着,利用贪婪聚类算法获得最佳的信道资源集。然后研究了多对认知用户多中继节点场景下的资源优化问题,且中继端不再考虑信道配对过程。本文提出了联合最佳中继配对和贪婪资源分配算法,该算法核心思想为：基于统计期望角度,利用匈牙利算法,通过求解等价的最大化加权二分图匹配问题来确定最佳的中继选择组合；紧接着,利用贪婪聚类算法设计最佳资源分配框架以最小化系统带宽功率乘积。仿真结果表明本文所提出的优化算法相比于粒子群优化算法能够在极大降低计算复杂度的情况下实现较好的性能；而相比于传统的注水算法,本文所提出的频谱共享框架能够进一步提升系统的频谱效率。最后,在D2D共享蜂窝网络频谱场景下,基于电池预期数据量优化准则,本文研究了最佳的资源分配方案,在保证主用户链路的通信质量下,实现D2D链路的最佳能量效率。具体地讲,首先研究了单对D2D通信用户场景下的资源优化问题。本文提出了最佳能效算法,该算法的核心思想是先利用分式规划算法将原资源优化问题转化为一个非线性规划问题,然后利用联合迭代优化算法来求解该非线性规划问题。然后研究了多对D2D通信用户场景下的资源优化问题。本文提出了贪婪最佳能效算法,该算法的核心思想是利用贪婪聚类算法将每一条未被占用的主用户链路依次有序地加入到相应的D2D链路中,直到总体D2D链路电池预期数据量不再增加为止。仿真结果表明本文所提出的优化算法既考虑了通信速率也衡量了相应的功耗代价,在两者之间取得了较好的折中,能够实现较好的能量效率。