基于深度迁移学习的宽带频谱感知方法.pdf

1、(19)国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 202310554517.4(22)申请日 2023.05.17(71)申请人 南京航空航天大学地址 210016 江苏省南京市秦淮区御道街29号(72)发明人 董培浩贾继斌简玮航(74)专利代理机构 南京钟山专利代理有限公司 32252专利代理师 戴朝荣(51)Int.Cl.H04B 17/382(2015.01)H04B 17/391(2015.01)G06N 3/0464(2023.01)G06N 3/048(2023.01)G06N 3/084(2023.01)G06N 3/096(202

2、3.01)(54)发明名称一种基于深度迁移学习的宽带频谱感知方法(57)摘要本发明公开了一种基于深度迁移学习的宽带频谱感知方法，包括：通过宽频谱信号检测系统模型接收宽带频谱信号，并对接收的宽带频谱信号进行预处理；构建深度学习网络，将预处理的宽带频谱信号输入深度学习网络中进行训练，直至达到设定的迭代轮次，完成对深度学习网络的训练；冻结训练好的深度学习网络中的部分全连接层或卷积层，得到迁移学习网络；重新获取预处理的宽带频谱信号，输入迁移学习网络中迭代训练至指定轮次，完成对迁移学习网络的训练；再次重新获取预处理的宽带频谱信号，输入训练好的迁移学习网络中，预测宽带频谱信号的频谱占用情况。本发明利用迁移

3、学习网络强大的学习能力，显著提高频谱检测的实时性和准确性。权利要求书3页 说明书8页 附图5页CN 116614190 A2023.08.18CN 116614190 A1.一种基于深度迁移学习的宽带频谱感知方法，其特征在于，具体包括以下步骤：步骤1、通过宽频谱信号检测系统模型接收宽带频谱信号，并对接收的宽带频谱信号进行预处理；步骤2、构建深度学习网络，将预处理的宽带频谱信号输入深度学习网络中进行训练，直至达到设定的迭代轮次，完成对深度学习网络的训练；步骤3、冻结训练好的深度学习网络中的部分全连接层或卷积层，得到迁移学习网络；步骤4、通过步骤1的方法重新获取预处理的宽带频谱信号，输入迁移学习网

4、络中迭代训练至指定轮次，完成对迁移学习网络的训练；步骤5、再次通过步骤1的方法重新获取预处理的宽带频谱信号，输入训练好的迁移学习网络中，预测宽带频谱信号的频谱占用情况。2.根据权利要求1所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，步骤1包括如下子步骤：步骤1.1、宽频谱信号检测系统模型中接收的每个宽带频谱信号具有M个大小相同非重叠窄带，通信用户的接收信号占用整个宽带频谱；在宽频谱信号检测系统模型中的任何一个次用户接收到的宽带频谱信号表示为：其中，xm(t)表示第m个频段主用户发送的信号，h表示信道增益，w(t)表示加性高斯白噪声，H0表示频段内主用户信号不存在，授权频段没有被占用

5、；H1表示频段内主用户信号存在，授权频段被占用；步骤1.2、在采样时间T内，以fs采样频率对每一个接收的宽带频谱信号进行欠奈奎斯特采样，得到时域离散信号yn，对每个时域离散信号yn进行N点的离散傅里叶变换处理，得到yn的频域离散信号yk：其中，n表示时域离散信号yn的第n个时域离散点，j表示虚数单位，k表示得到的频域离散信号yk的第k个频域离散点；步骤1.3、将频域离散信号yk的实部和虚部合并成一个向量作为深度学习网络的输入Re(y0),.,Re(yN1),Im(y0),.,Im(yN1)，其中，Re()表示实部值，Im()表示虚部值；采用0/1编码方式来表示每个宽带频谱信号中M个窄带的占用情

6、况，作为深度学习网络输入的真实标签zz1,z2,.,zM，其中，0表示频段内主用户信号不存在，授权频段没有被占用的情形；1表示频段内主用户信号存在，授权频段被占用的情形。3.根据权利要求1所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，所述深度学习网络为FCNet，由4层神经元个数分别为512、256、128、20的全连接层依次连接组成，且前三层全连接层的激活函数为relu函数，最后一层全连接层的激活函数为sigmoid函数；所述FCNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为8，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损

7、失函数为二元交叉权利要求书1/3 页2CN 116614190 A2熵损失函数；将训练好的FCNet冻结前两层全连接层，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损失函数为二元交叉熵损失函数。4.根据权利要求1所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，所述深度学习网络为CNNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层的激活函数为relu函数，第二个全连接层的激活

8、函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropout并添加批归一化BN层，在第三个批归一化BN层后再添加展平层；所述CNNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。5.根据权利要求4所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，将训练好的CNNet冻结第一个一维卷积层、第一个批归一化BN层、第二个一维卷积层和第二个批归一化BN层，得到迁移学习网络；所述迁移学习网络

9、训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。6.根据权利要求4所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，将训练好的CNNet冻结两层全连接层，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。7.根据

10、权利要求1所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，所述深度学习网络为ResNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层的激活函数为relu函数，第二个全连接层的激活函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropout并添加批归一化BN层，在第三个批归一化BN层后再添加展平层；将预处理的宽带频谱信号与第一个批归一化BN层的输出相加作为第二个一维卷积层的输入；将第二个一维卷积层的输入与第二个批归一化BN层的输出相加作为第三个一维卷积层的输入；所述ResNet训练过

11、程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。8.根据权利要求7所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，将训练好的ResNet冻结第一个一维卷积层、第一个批归一化BN层、第二个一维卷积层、第二个批归一化BN层以及两个相加操作，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰

12、减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。权利要求书2/3 页3CN 116614190 A39.根据权利要求7所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，将训练好的ResNet冻结两层全连接层，得到迁移学习网络，所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。10.根据权利要求39任一项所述的一种基于深度迁移学习的宽带频谱感知方法，其特征在于，所

13、述二元交叉熵损失函数其中，U表示训练集的样本数量，u表示训练集的样本索引，zu表示第u个样本的真实标签，表示第u个样本的预测值。权利要求书3/3 页4CN 116614190 A4一种基于深度迁移学习的宽带频谱感知方法技术领域0001本发明属于无线通信技术领域，具体来说，涉及一种基于深度迁移学习的宽带频谱感知方法。背景技术0002随着无线通信技术的迅猛发展，未来无线网络将使用极宽的频谱资源，这就要求频谱感知的范围将进一步扩大，如果采用奈奎斯特速率采样将导致过高的硬件成本和功耗，大量的采样数据也给后续数据存储和处理带来了不便。针对该问题，研究人员提出了基于次奈奎斯特速率的采样方式，利用信号在感知

14、频段内的稀疏性，通过压缩感知的方法进行解决。然而，基于压缩感知的方法依赖于稀疏的先验模型，在信噪比较低时性能下降严重，同时较高的运算复杂度将增加感知所需的时间，因而不适用于动态复杂电磁环境的频谱感知。随着人工智能的兴起，其在无线网络中的应用已取得了初步成效并蕴含巨大潜力，深度神经网络(Deep Neural Network,DNN)能够从原始频谱数据发掘深层特征，无需依赖精确的数学模型，同时能够充分利用并灵活整合空、时、频、用户、网络等多域高维信息，实现数据驱动的准确高效频谱感知。此外，DNN可通过基于图模型的训练和运算方式实现在大规模图形处理单元(Graphic Processing Uni

15、t,GPU)上的高度并行运算，极大缩短运行时间，降低感知时延，可适用于动态复杂电磁环境的频谱感知。0003目前，DNN已经广泛应用于多类无线通信与信息处理问题中，在性能、复杂度、资源开销等方面显著优于传统算法。然而，由于DNN的网络结构和超参数设置缺乏理论支撑，网络权重数量巨大，通常难以把控并定量分析其在未知场景或任务上的泛化能力，致使其性能不够稳定，而重新训练又难以收集到足够多的标注样本，并且会占用大量的时间资源，因而无法有效适用于实时任务，该问题在电磁频谱环境瞬息万变的无线网络中尤为突出。深度迁移学习技术能够从特定场景或任务中得到一些有用的知识或经验，然后再将这些知识或经验应用于新的目标场

16、景或任务，做到举一反三的效果。该技术的实现是通过在一个已经训练好的神经网络的基础上，采用权重微调或权重冻结的方式，在小数据量样本上重新进行训练完成的，避免了网络权重数量大和标注样本数量不足，重新训练困难的问题。因此，利用深度迁移学习技术进行宽带频谱感知，经过基于少量数据的重新训练，能够发掘无线信号的内在结构性，在动态复杂电磁环境下实现准确高效频谱感知。发明内容0004针对现有技术中存在的问题，本发明提供了一种基于深度迁移学习的宽带频谱感知方法，该方法能够利用迁移学习网络强大的学习能力，经过少量离线数据的训练，发掘无线信号的内在结构性，减少频谱检测的人为干扰因素，显著提高频谱检测的实时性和准确性

17、，即使电磁环境发生很大改变，通过迁移学习快速提升自适应能力，也能实现频谱的准确检测。0005为实现上述技术目的，本发明采用的技术方案是：一种基于深度迁移学习的宽带说明书1/8 页5CN 116614190 A5频谱感知方法，具体包括以下步骤：0006步骤1、通过宽频谱信号检测系统模型接收宽带频谱信号，并对接收的宽带频谱信号进行预处理；0007步骤2、构建深度学习网络，将预处理的宽带频谱信号输入深度学习网络中进行训练，直至达到设定的迭代轮次，完成对深度学习网络的训练；0008步骤3、冻结训练好的深度学习网络中的部分全连接层或卷积层，得到迁移学习网络；0009步骤4、通过步骤1的方法重新获取预处理

18、的宽带频谱信号，输入迁移学习网络中迭代训练至指定轮次，完成对迁移学习网络的训练；0010步骤5、再次通过步骤1的方法重新获取预处理的宽带频谱信号，输入训练好的迁移学习网络中，预测宽带频谱信号的频谱占用情况。0011进一步地，步骤1包括如下子步骤：0012步骤1.1、宽频谱信号检测系统模型中接收的每个宽带频谱信号具有M个大小相同非重叠窄带，通信用户的接收信号占用整个宽带频谱；在宽频谱信号检测系统模型中的任何一个次用户接收到的宽带频谱信号表示为：00130014其中，xm(t)表示第m个频段主用户发送的信号，h表示信道增益，w(t)表示加性高斯白噪声，H0表示频段内主用户信号不存在，授权频段没有被

19、占用；H1表示频段内主用户信号存在，授权频段被占用；0015步骤1.2、在采样时间T内，以fs采样频率对每一个接收的宽带频谱信号进行欠奈奎斯特采样，得到时域离散信号yn，对每个时域离散信号yn进行N点的离散傅里叶变换处理，得到yn的频域离散信号yk：00160017其中，n表示时域离散信号yn的第n个时域离散点，j表示虚数单位，k表示得到的频域离散信号yk的第k个频域离散点；0018步骤1.3、将频域离散信号yk的实部和虚部合并成一个向量作为深度学习网络的输入Re(y0),.,Re(yN1),Im(y0),.,Im(yN1)，其中，Re()表示实部值，Im()表示虚部值；采用0/1编码方式来表

20、示每个宽带频谱信号中M个窄带的占用情况，作为深度学习网络输入的真实标签zz1,z2,.,zM，其中，0表示频段内主用户信号不存在，授权频段没有被占用的情形；1表示频段内主用户信号存在，授权频段被占用的情形。0019进一步地，所述深度学习网络为FCNet，由4层神经元个数分别为512、256、128、20的全连接层依次连接组成，且前三层全连接层的激活函数为relu函数，最后一层全连接层的激活函数为sigmoid函数；0020所述FCNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为8，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损失函数为二元交

21、叉熵损失函数；说明书2/8 页6CN 116614190 A60021将训练好的FCNet冻结前两层全连接层，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损失函数为二元交叉熵损失函数。0022进一步地，所述深度学习网络为CNNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层的激活函数为relu函数，第二个全连接层的激活函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropo

22、ut并添加批归一化BN层，在第三个批归一化BN层后再添加展平层；0023所述CNNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0024进一步地，将训练好的CNNet冻结第一个一维卷积层、第一个批归一化BN层、第二个一维卷积层和第二个批归一化BN层，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一

23、阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0025进一步地，将训练好的CNNet冻结两层全连接层，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0026进一步地，所述深度学习网络为ResNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层

24、的激活函数为relu函数，第二个全连接层的激活函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropout并添加批归一化BN层，在第三个批归一化BN层后再添加展平层；将预处理的宽带频谱信号与第一个批归一化BN层的输出相加作为第二个一维卷积层的输入；将第二个一维卷积层的输入与第二个批归一化BN层的输出相加作为第三个一维卷积层的输入；0027所述ResNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损

25、失函数。0028进一步地，将训练好的ResNet冻结第一个一维卷积层、第一个批归一化BN层、第二个一维卷积层、第二个批归一化BN层以及两个相加操作，得到迁移学习网络；所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0029进一步地，将训练好的ResNet冻结两层全连接层，得到迁移学习网络，所述迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adam

26、ax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。说明书3/8 页7CN 116614190 A70030进一步地，其特征在于，所述二元交叉熵损失函数：00310032其中，U表示训练集的样本数量，u表示训练集的样本索引，zu表示第u个样本的真实标签，表示第u个样本的预测值。0033与现有技术相比，本发明具有以下有益效果：0034(1)本发明基于深度迁移学习的宽带频谱感知方法通过迁移学习网络对少量离线数据进行重新训练，避免因网络权重数量大和样本数量不足而重新训练困难的问题，同时利用迁移学习网络对输入信号数据的特征进行提取和抽象

27、，通过层层计算和优化，学习频谱特征之间的相关性，推断周围环境中的无线信号的类型和强度，更好发掘无线信号的内在结构性，从而实现高精度的宽带频谱感知；0035(2)在以往传统的学习方法中，频谱特征往往是通过具有经验的专家来提取的，而本发明基于深度迁移学习的宽带频谱感知方法的特征提取是通过神经网络端到端自动提取的，不仅要求更低，不需要专家的参与，而且减少频谱检测的人为干扰因素，显著提高频谱检测的实时性和准确性；0036(3)相比于已有方法易受到复杂多变的电磁环境的影响，本发明基于深度迁移学习的宽带频谱感知方法由于采用深度迁移学习技术，即使电磁环境发生很大改变，深度神经网络通过迁移学习依然能够快速提升

28、预测能力，实现频谱的准确检测。附图说明0037图1是本发明基于深度迁移学习的宽带频谱感知方法的流程图；0038图2是本发明中深度学习网络的结构图；0039图3本发明中迁移学习网络的结构图；0040图4是本发明基于深度迁移学习的宽带频谱感知方法预测准确率随信噪比变化曲线图；0041图5是本发明中FCNet迁移学习网络预测准确率随信噪比变化曲线图；0042图6是本发明中CNNet迁移学习网络预测准确率随信噪比变化曲线图；0043图7是本中ResNet迁移学习网络预测准确率随信噪比变化曲线图。具体实施方式0044下面结合附图对本发明的技术方案作进一步地解释说明。0045如图1为本发明基于深度迁移学习

29、的宽带频谱感知方法的流程图，该宽带频谱感知方法具体包括如下步骤：0046步骤1、通过宽频谱信号检测系统模型接收宽带频谱信号，并对接收的宽带频谱信号进行预处理，具有如下优点：1)有效提取信号频域特征：通过离散傅里叶变换，可以将宽带频谱信号从时域转换到频域，使得神经网络能够直接感知到信号的频谱特征，如信号的频率分布、频域形状等，这些特征对于实现频谱感知非常重要；2)减少数据维度：宽带频谱信号的时域采样率很高，因此需要处理大量的数据，这增加了神经网络的计算复杂度和训说明书4/8 页8CN 116614190 A8练时间，通过将信号变换到频域，可以将信号的维度降低到几个频率点，从而降低了数据量，使得神

30、经网络的训练和处理变得更加高效；3)增强鲁棒性：频域信号对于噪声和干扰具有较好的鲁棒性，因为噪声和干扰通常只会对几个频率点造成影响，而不会对整个频域信号造成很大影响。因此，将宽带频谱信号变换到频域可以增强神经网络对于噪声和干扰的鲁棒性，提高对于复杂环境下信号的处理准确度。0047具体包括如下子步骤：0048步骤1.1、宽频谱信号检测系统模型中接收的每个宽带频谱信号具有M个大小相同非重叠窄带，通信用户的接收信号占用整个宽带频谱；在宽频谱信号检测系统模型中的任何一个次用户接收到的宽带频谱信号表示为：00490050其中，xm(t)表示第m个频段主用户发送的信号，h表示信道增益，w(t)表示加性高斯

31、白噪声，H0表示频段内主用户信号不存在，授权频段没有被占用；H1表示频段内主用户信号存在，授权频段被占用；0051步骤1.2、在采样时间T内，以fs采样频率对每一个接收的宽带频谱信号进行欠奈奎斯特采样，得到时域离散信号yn，对每个时域离散信号yn进行N点的离散傅里叶变换处理，得到yn的频域离散信号yk：00520053其中，n表示时域离散信号yn的第n个时域离散点，j表示虚数单位，k表示得到的频域离散信号yk的第k个频域离散点；0054步骤1.3、将频域离散信号yk的实部和虚部合并成一个向量作为深度学习网络的输入Re(y0),.,Re(yN1),Im(y0),.,Im(yN1)，其中，Re()

32、表示实部值，Im()表示虚部值；采用0/1编码方式来表示每个宽带频谱信号中M个窄带的占用情况，作为深度学习网络输入的真实标签zz1,z2,.,zM，其中，0表示频段内主用户信号不存在，授权频段没有被占用的情形；1表示频段内主用户信号存在，授权频段被占用的情形。0055步骤2、构建深度学习网络，将预处理的宽带频谱信号输入深度学习网络中进行训练，直至达到设定的迭代轮次，完成对深度学习网络的训练；0056步骤3、冻结训练好的深度学习网络中的部分全连接层或卷积层，得到迁移学习网络；0057步骤4、通过步骤1的方法重新获取预处理的宽带频谱信号，输入迁移学习网络中迭代训练至指定轮次，完成对迁移学习网络的训

33、练；0058步骤5、再次通过步骤1的方法重新获取预处理的宽带频谱信号，输入训练好的迁移学习网络中，预测宽带频谱信号的频谱占用情况，频谱占用情况的输出结果为01之间的预测概率，通过设置决策边界 以实现对输出结果的分类：0059说明书5/8 页9CN 116614190 A90060其中，表示预测第m个子频段的占用与否的标签值。0061本发明基于深度迁移学习的宽带频谱感知方法充分利用迁移学习网络强大的学习能力，经过少量离线数据的训练，能够发掘无线信号的内在结构性，避免了网络权重数量大和标注样本数量不足，重新训练困难的问题，同时减少频谱检测的人为干扰因素，显著提高频谱检测的实时性和准确性；此外，即使

34、电磁环境发生很大改变，深度神经网络通过迁移学习快速提升自适应能力，实现频谱感知的准确检测。0062如图2，若深度学习网络为FCNet，由4层神经元个数分别为512、256、128、20的全连接层依次连接组成，且前三层全连接层的激活函数为relu函数，最后一层全连接层的激活函数为sigmoid函数；FCNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为8，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损失函数为二元交叉熵损失函数；0063如图3，将训练好的FCNet冻结前两层全连接层，得到迁移学习网络；该迁移学习网络训练的超参数的学习率设置为0.

35、002，迭代轮次和批尺寸均设置为1，选择SGD随机梯度下降算法，将SGD算法中的动量项设置为0.9，损失函数为二元交叉熵损失函数。0064如图2，若深度学习网络为CNNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层的激活函数为relu函数，第二个全连接层的激活函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropout并添加批归一化BN层，在第三个批归一化BN层后再添加展平层；0065CNNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择A

36、damax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0066如图3，在本发明的一个技术方案中，将训练好的CNNet冻结第一个一维卷积层、第一个批归一化BN层、第二个一维卷积层和第二个批归一化BN层，得到迁移学习网络；该迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0067如图3，在本发明的另一个技术方案中，将训练好的C

37、NNet冻结两层全连接层，得到迁移学习网络；该迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0068如图2，若深度学习网络为ResNet，由三层卷积核数目均为16、卷积核大小均为3、步长均为1的一维卷积层和神经元数目分别为128和20的全连接层依次连接组成；第一个全连接层的激活函数为relu函数，第二个全连接层的激活函数为sigmoid函数，并在每个一维卷积层后设置0.2的Dropout并添加批归一化BN层，

38、在第三个批归一化BN层后再添加展平层；将预处理的宽带频谱信号与第一个批归一化BN层的输出相加作为第二个一维卷积层的输入；将第二个一维卷积层的输入与第二个批归一化BN层的输出相加作为第三个一维卷积层的输入；0069ResNet训练过程中的超参数的学习率设置为0.002，迭代轮次设置为10，批尺寸设置为128，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，说明书6/8 页10CN 116614190 A10二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0070如图3，在本发明的一个技术方案中，将训练好的ResNet冻结第一个一维卷积层

39、、第一个批归一化BN层、第二个一维卷积层、第二个批归一化BN层以及两个相加操作，得到迁移学习网络；该迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0071如图3，在本发明的另一个技术方案中，将训练好的ResNet冻结两层全连接层，得到迁移学习网络，该迁移学习网络训练的超参数的学习率设置为0.002，迭代轮次和批尺寸均设置为1，优化器选择Adamax算法，将Adamax算法中的一阶矩估计的指数衰减率设置为0.9

40、，二阶矩估计的指数衰减率设置为0.999，损失函数为二元交叉熵损失函数。0072本发明中二元交叉熵损失函数0073其中，U表示训练集的样本数量，u表示训练集的样本索引，zu表示第u个样本的真实标签，表示第u个样本的预测值。0074实施例10075在带宽频谱感知方法中，有四种情况：情况一预测占用实际也为占用(TP，True Positive)，情况二预测占用实际为未占用(FP，False Positive)，情况三预测未占用实际为占用(FN，False Negative)，情况四预测未占用实际也为未占用(TN，True Negative)，其中，TP和TN是预测正确的情况，FP和FN是预测错误的

41、情况，在仿真试验中用以下公式来衡量预测准确度：00760077设置仿真场景参数：宽频谱信号检测系统模型的频带范围f020Hz，窄带个数M20，主用户信号占用的频带个数m5，采样时间T10,10s，采样频率fs10Hz，信号的信噪比SNR为0dB、2.5dB、5dB、10dB、15dB、20dB、30dB和无噪声，生成的20个频带随机占用5个频带即“20占5”数据集中训练集样本数量Itrain15000，测试集样本数量Itest500，决策边界 0.5。0078如图4为基于深度迁移学习的宽带频谱感知方法预测准确率随信噪比变化曲线图，从图4中可以看出，这三种网络均达到了较高的预测准确率，特别是在无

42、噪声的情况下，预测的准确率几乎达到了99，但由于含有卷积层和不含卷积层网络特性的不同，FCNet的预测准确度明显低于CNNet和ResNet，CNNet和ResNet的预测准确度差别极小，ResNet随信噪比变化的波动略小，可见在卷积层上添加残差结构并没有过于明显的影响，只是极小地减小了神经网络预测结果数据的波动。0079实施例20080设置仿真场景参数：宽频谱信号检测系统模型的频带范围f020Hz，窄带个数M20，主用户信号占用的频带个数m8，采样时间T10,10s，采样频率fs10Hz，信号的信噪比SNR为0dB、2.5dB、5dB、10dB、15dB、20dB、30dB和无噪声，生成的2

43、0个频带随机占用8个频带即“20占8”数据集中训练集样本数量Jtrain15000，测试集样本数量Jtest500，决说明书7/8 页11CN 116614190 A11策边界 0.5。0081迁移学习网络在预训练好的深度学习网络的基础上，使用“20占8”数据集中300个样本大小的训练集训练部分网络参数，训练完成之后在500个样本大小的测试集上预测分类结果。本仿真试验的结果是五次独立重复试验的结果去除最大值、最小值后三个数的平均值。0082图5给出了FCNet网络预测准确率随信噪比变化曲线图，从图5中可以看出，FCNet经过简单的迁移训练之后，在新环境下预测准确率明显提升，由此可以看出在小样本

44、数据集条件下本发明所提方法依旧能够取得较好的性能。0083图6给出了CNNet网络预测准确率随信噪比变化曲线图，从图6中可以看出，CNNet经过简单的迁移训练之后，在新环境下预测准确率明显提升；此外，冻结后两层的迁移学习方案优于冻结前四层的迁移方案。0084图7给出了ResNet网络预测准确率随信噪比变化曲线图，从图7中可以看出，ResNet经过简单的迁移训练之后，在新环境下预测准确率明显提升；此外，冻结后两层的迁移学习方案优于冻结前四层的迁移方案。0085本发明基于深度迁移学习的宽带频谱感知方法运用深度迁移学习技术进行频谱检测可行且具有巨大潜力，尤其是体现在，本发明在电磁环境发生很大改变的情

45、况下，深度神经网络通过迁移学习快速提升自适应能力，实现频谱的准确检测。0086以上仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，应视为本发明的保护范围。说明书8/8 页12CN 116614190 A12图1图2说明书附图1/5 页13CN 116614190 A13图3图4说明书附图2/5 页14CN 116614190 A14图5说明书附图3/5 页15CN 116614190 A15图6说明书附图4/5 页16CN 116614190 A16图7说明书附图5/5 页17CN 116614190 A17