近些年随着深度学习的快速发展,各种目标检测相关算法喷涌而出,带动了目标检测在军事、安全、交通等领域的广泛应用。目标检测的关键任务是针对待检测目标的定位和分类。目前应用于人脸识别的目标检测算法的检测精度可以达到99%以上,但是在一些复杂场景和小目标物体的检测精度却不尽如人意。因此对基于深度学习的多目标检测与分类算法的研究,尤其针对一些复杂场景下目标检测相关算法的研究仍具有十分重要的现实意义。目标定位与分类作为目标检测的基本任务,一阶段目标检测算法可将二者当作一个回归问题加以解决,二阶段目标检测算法在一阶段目标检测算法的基础上增加了筛选候选框的过程,在检测精度方面与一阶段目标检测算法相比较高,但是检测速度比较慢,模型稍复杂。本文采用目标检测通用评价指标作为算法优劣的评判标准,对一阶段二阶段目标检测算法在检测复杂场景中的小目标的检测效果进行分析,并开发设计一种针对此种情况的目标检测器。本文的主要研究工作如下:（1）目前学术界暂无合适的包含复杂场景的目标检测数据集,同时响应国家垃圾分类的号召,制作了包含47个类别45910多张图片的生活垃圾数据集TrashSet。基于TrashSet进行复杂场景下目标检测算法的研究与设计。（2）将不同类型的主干特征提取网络与通用目标检测器相融合,并设计消融实验分析比较不同的主干特征提取网络在复杂场景下对小目标的检测效果,探究差异背后的原因和逻辑。（3）将在深度学习领域表现出色的注意力机制添加到主干特征提取网络中,设计消融实验探究通道和空间两个维度的注意力机制在目标检测器中的性能差异,探究注意力机制在目标检测算法中产生效果的深层次原因。（4）解决了一阶段目标检测算法中存在的正负样本不均衡产生的影响损失函数收敛的问题,对目标检测器的损失函数进行修改。Focal Loss函数在BCELoss函数的基础上,添加了类别平衡因子和样本难易区分因子,可以有效解决一阶段目标检测算法中存在的问题。本文将损失函数中的BCELoss函数采用Focal Loss进行替代,设计实验验证此种变换的实验效果。为了验证复杂场景下上述相关目标检测算法改进的有效性,本文基于TrashSet数据集设计了完善的消融实验进行验证。对消融实验结果进行分析,证明了本文设计的目标检测器及进行的算法改进在复杂场景下依然具有很好的检测效果,可以得出本文进行的基于深度学习的多目标检测与分类的算法研究具有一定的学术价值与应用意义。