不平衡数据集是指数据集上不同类别样本数量呈现显著差异的数据集, 其中样本数量占比极低的类别称为少数类, 占比极高的类别称为多数类^[17].不平衡数据集在医疗诊断、故障检测、欺诈识别等实际应用场景中广泛存在^[18].

传统机器学习算法在不平衡数据集上容易出现多数类偏向问题, 即算法为了追求整体准确率而优先拟合多数类样本, 导致少数类样本识别率极低.常用传统处理方法包括数据层面的过采样、欠采样, 算法层面的类别权重调整、损失函数改进等, 但存在合成样本失真、有效信息丢失、泛化能力不足等局限, 难以应对高维、复杂分布的不平衡数据场景^[19].

特征选择根据特征子集与学习器的耦合方式, 可分为过滤式、包裹式、嵌入式三大主流范式^[20], 3类方法各有适用场景与核心局限.

过滤式方法独立于后续学习器, 仅基于数据统计特性筛选特征, 计算效率较高, 但未考虑特征与学习器的适配性, 难以捕捉高阶特征交互.Kono-nenko^[21]提出ReliefF, 通过类别边缘差衡量特征区分度, 是过滤法的基准方法.Peng等^[22]提出mRMR(Minimal-Redundancy-Maximal-Relevance Criterion), 基于互信息平衡特征相关性与冗余性, 广泛应用于高维生物数据场景.后续研究进一步拓展模糊互信息、核化互信息等非线性度量方式, 提升对复杂分布数据的适配能力^[23].该类方法在不平衡场景中容易保留多数类相关特征、忽略少数类判别信息.

包裹式方法将特定学习器的性能作为特征子集的评价准则, 特征选择与学习器深度适配, 精度较高但计算复杂度较大^[24].Guyon等^[25]提出SVM-RFE, 通过支持向量机权重反向迭代, 剔除不重要特征, 是包裹式方法的经典标杆.进化算法因其全局搜索能力, 成为包裹式方法特征选择的重要分支, 二进制粒子群优化、二进制灰狼优化等算法被广泛应用于高维特征搜索^[26].但是, 传统包裹式方法多针对平衡数据设计, 在不平衡场景中容易出现多数类偏向, 且单目标优化难以兼顾精度与稀疏性的冲突.

嵌入式方法将特征选择过程嵌入模型训练流程, 在模型学习的同时完成特征筛选, 兼顾过滤式方法的效率与包裹式方法的精度.Tibshirani^[27]提出Lasso, 通过L1稀疏约束自动实现特征选择.深度学习兴起后, 基于自动编码器、结构化稀疏正则的嵌入式特征选择方法成为研究热点之一, 可通过网络权重直接输出特征重要性, 捕捉非线性特征关联^[28].现有嵌入式方法在不平衡数据上容易受多数类样本主导, 难以同时实现多目标全局优化^[29].

深度学习通过构建多层神经网络模型, 从数据中自动学习层级化特征表示, 具有强大的复杂数据拟合能力和特征提取能力, 已成为处理高维、非线性数据的核心技术之一^[30].在不平衡数据处理中, 常用的深度学习算法包括卷积神经网络、长短期记忆网络、深度信念网络(Deep Belief Network, DBN)等, 其核心优势在于能捕捉数据深层语义特征, 降低对人工特征工程的依赖.

然而, 深度学习算法在不平衡数据集上的应用仍面临诸多挑战:1)训练易受多数类样本主导, 导致决策边界向少数类偏移; 2)超参数, 如学习率、隐藏层神经元数量、dropout比例等设置依赖经验, 传统网格搜索、随机搜索效率低下且容易陷入局部最优; 3)特征空间冗余可能加剧算法对多数类特征的偏向性, 影响少数类特征的有效学习^[31].这些问题为深度学习与进化算法的融合提供明确的研究方向.

深度学习与进化算法的融合通过优势互补可解决单一算法的局限, 已成为不平衡数据处理领域的研究热点之一.Liu等^[32]提出HCPSO(Hybrid Classi-fication Approach Based on Particle Swarm Optimiza-tion), 将特征选择、重采样和缺失值插补策略编码为粒子的三个部分, 通过PSO同时优化这些参数, 实现进化算法对深度学习预处理过程的优化效果.与此同时, Amri等^[33]提出融合遗传算法与Bootstrap采样的DBN, 通过遗传算法优化DBN的网络结构和训练参数, 结合Bootstrap采样平衡数据分布, 实验表明该融合模型在不平衡数据集上的分类性能显著优于传统DBN, 可有效缓解少数类样本识别率较低的问题.Nasim等^[34]进一步提出DE-PNN(Differen-tial Evolution-Based Feature Optimization with Probabi-listic Neural Network), 在不平衡心律失常数据集上, 利用差分进化算法并以马修斯相关系数为适应度函数优化模型, 大幅提升少数类心律失常的识别能力.Wu等^[35]系统梳理大语言模型与进化算法的融合路径, 提出进化算法可通过全局搜索优化深度学习模型的超参数、架构和训练策略, 而深度学习的特征提取能力可提升进化算法的搜索效率, 为复杂不平衡数据处理提供新的融合框架.

尽管现有深度学习与进化算法的融合方法研究在不平衡数据处理领域取得一定进展, 但仍存在如下核心缺陷.1)融合模式多为串行拼接, 即先通过进化算法优化深度学习模型的超参数或结构, 再利用深度学习算法进行特征提取, 未实现两者在特征选择流程中的深度协同, 无法动态调整进化算法搜索方向.2)多数方法仅针对单任务单目标场景设计, 未考虑多任务间的知识迁移与多目标冲突的协同优化, 在高维复杂场景中泛化能力不足.3)缺乏对不平衡数据特性的针对性设计, 多数融合方法直接沿用平衡数据下的优化策略, 导致少数类关键特征被淹没, 难以有效捕捉少数类相关的高阶特征关联^[36].

本阶段核心目标是缓解数据类别不平衡问题, 利用类别标签计算特征与标签的互信息, 筛选与类别相关性较高的特征.同时基于统计特性快速剔除无关冗余特征, 完成初步降维, 为后续环节减负.

首先, 设计动态优化的SMOTE自适应采样策略, 根据数据分布动态调整采样强度.然后, 通过方差阈值、互信息阈值等统计指标, 剔除离散程较低、与标签相关性弱的特征, 实现初步特征筛选.

传统SMOTE采用固定采样率, 容易导致过度采样或采样不足.本阶段设计动态采样率机制, 根据少数类与多数类的样本比例及当前分类性能动态调整采样强度.设少数类样本数为n_min, 多数类样本数为n_maj, 初始不平衡率

IR= nmajnmin,

动态采样率

$ \begin{array}{l} S R= \\ \min \left(I R-1, \max \left(0.5, \frac{I R-1}{1+\exp \left(-\left(F 1_{\text {base }}-0.5\right)\right)}\right)\right), \end{array}$ (1)

其中, F1_base表示初始逻辑回归分类器在原始不平衡数据集上的加权F1分数, 用于量化数据集的分类难度, 分类难度越高, 采样强度越大.相应动态合成样本的整数个数:

round(SR)= ⌊SR」, SR-⌊SR」< 0.5「SR⌉, SR-⌊SR」≥0.5

其中, 「· ⌉表示向下取整, ⌊· 」表示向上取整, 将实数值SR转换为非负整数, 用于控制单一样本的合成样本数量.

基于动态采样率, 在少数类样本的k近邻空间内合成新样本:

x_syn=x_i+δ (x_nn-x_i), (2)

其中, x_i表示少数类样本, x_nn表示其k近邻中随机选取的少数类样本, δ (· )表示[0, 1]区间内的均匀随机数.通过动态采样, 既缓解类别不平衡问题, 又避免过度采样带来的过拟合风险.

完成数据平衡后, 通过双重统计指标快速剔除无关冗余特征.首先采用方差阈值剔除离散程度过低的特征.计算每个特征的样本方差, 剔除方差低于阈值θ _σ 的特征, 方差

σi2= 1N-1∑n=1N(x_ni-μ _i)², (3)

其中, x_ni表示第n个样本的第i个特征取值, μ _i表示特征均值, N表示样本总数.保留满足 σi2≥ θ _σ 条件的特征, 初步过滤无区分度的冗余特征.再通过互信息阈值剔除与标签相关性较弱的特征.计算剩余特征与类别标签的互信息, 量化特征与标签的非线性相关性.互信息计算公式如下:

$M I_{i}=\sum_{v \in f_{i}} \sum_{y \in Y} p(v, y) \log _{2}\left(\frac{p(v, y)}{p(v) p(y)}\right), $ (4)

其中, f_i表示第i个特征, Y表示类别标签集合, p(v, y)表示联合概率分布, p(v)、 p(y)表示边缘概率分布, v表示特征f_i的取值, y表示类别标签取值.保留满足MI_i≥ θ _MI条件的特征, 完成初步降维.

第1阶段完整执行过程如算法1所示.

算法1 自适应采样与初步特征筛选

输入 原始数据集X∈ R^{N× d}, 近邻数k, 方差阈值θ _σ , 互信息阈值θ _MI

输出 平衡降维数据集SData, 初步筛选特征集F₁

统计少数类样本数n_min、多数类样本数n_maj;

训练初始分类器, 计算基准加权F1分数F1_base;

使用式(1)计算动态采样率SR;

初始化合成样本集S_syn← Ø :

for 每个少数类样本x_i do

寻找x_i的k近邻少数类样本;

for s∈ 1, 2, …, round(SR) do

随机选取近邻样本x_nn;

使用式(2)合成样本x_syn;

S_syn← S_syn∪ x_syn;

end for

end for

构建平衡数据集Data_bal← (X, Y)∪ (S_syn, Y_min);

初始化初步筛选特征集F₁← Ø ;

for i∈ 1, 2, …, d do

使用式(3)计算第i个特征的方差 σi2;

if σi2≥ θ _σ then

使用式(4)计算第i个特征的互信息MI_i;

if MI_i≥ θ _MIthen

F₁← F₁∪ 第i个特征;

end if

end if

end for

基于F₁筛选平衡数据集, 得到SData;

return SData, F₁

本阶段承接第1阶段的平衡降维数据集, 深度网络以类别标签为监督信号, 通过交叉熵损失学习特征与类别间的非线性映射, 提取特征重要性.同时基于网络输出的特征重要性权重完成二次特征精炼, 进一步提升后续寻优效率.本阶段构建包含输入层、隐藏层、输出层的多层感知机, 用于特征交互学习.设第1阶段筛选后的特征维度为d₁, 网络结构如下:输入层维度为d₁, 用于接收初步筛选后的特征; 隐藏层包含L层全连接层, 每层神经元个数为h_l(l=1, 2, …, L), 通过非线性激活函数捕捉特征间的高阶关联; 输出层维度为类别数G, 用于输出分类概率.

激活后的输出为:

a^(l)=ReLU(z^(l))=max(0, z^(l)),

其中,

z^(l)=W^(l)· a^(l-1)+b^(l),

表示线性变换结果, a⁽⁰⁾表示输入特征, W^(l)、b^(l)分别表示第l层的权重矩阵与偏置向量, ReLU(· )表示修正线性单元激活函数.

网络训练采用交叉熵损失函数, 并结合L2正则化防止过拟合.损失函数表示如下:

Loss=- 1N∑n=1N∑g=1Gy_ngln ŷng+λ ∑l=1L‖ W^(l)‖ F2, (5)

其中, y_ng表示第n个样本的真实标签, ŷng表示网络输出的预测概率, λ 表示正则化系数, ‖ · ‖ _F表示Frobenius范数.

在网络训练收敛后, 通过输入层与第1层隐藏层的权重矩阵计算特征重要性, 量化每个特征对网络输出的贡献度.设输入层到第1层隐藏层的权重矩阵W⁽¹⁾∈ Rh1×d1, 则第i个特征的重要性权重w_i为该特征对应权重向量的L1范数, 即

$w_{i}=\left\|\boldsymbol{W}^{(1)}[:, i]\right\|_{1}=\sum_{j=1}^{h_{1}}\left|W_{j i}^{(1)}\right| .$ (6)

权重越大, 说明该特征对网络捕捉高阶关联的贡献度越高.基于特征重要性权重, 保留权重排名前d₂的特征, 完成二次特征精炼, 进一步缩小后续优化的搜索空间.

第2阶段完整执行步骤如算法2所示.

算法2 高阶特征交互学习与增强

输入 平衡降维数据集SData,

初步筛选特征集F₁, 隐藏层数L,

各层神经元数h₁, h₂, …, h_L, 正则化系数λ ,

最大训练轮数MaxEpoch, 保留特征数d₂

输出 二次精炼特征集F₂, 特征重要性权重W

获取初步筛选后的特征维度d₁← len(F₁);

初始化多层神经网络参数

θ ← (W⁽¹⁾, …, W^(L), b⁽¹⁾, …, b^(L));

for epoch∈ 1, 2, …, MaxEpoch do

使用式(5)计算交叉熵损失函数Loss;

反向传播更新网络参数θ ;

end for

初始化特征重要性权重W← 0d1;

for i∈ 1, 2, …, d₁ do

使用式(6)计算第i个特征的重要性权重w_i;

W⁽ⁱ⁾← w_i;

end for

对W⁽ⁱ⁾按降序排序, 取前d₂个特征构建F₂;

return F₂, W

本阶段引入多任务进化框架, 提升特征选择的泛化性与收敛效率.将不同数据子采样与特征子空间下的特征选择任务定义为多个相关子任务, 利用任务间的特征知识迁移与任务共性加速寻优, 并通过任务差异提升特征子集的泛化能力.同时以分类精度、特征稀疏性为优化目标, 通过任务间知识迁移提升特征适配性, 结合GWO的全局搜索能力与NSGA-II的非支配排序机制, 求解得到帕累托最优特征子集.

本阶段同时优化如下2个目标.1)分类精度最大化.基于当前特征子集训练分类器, 以分类准确率Acc(x)为目标, 其中x表示二进制特征选择向量, x_i=1表示选中第i个特征.2)特征稀疏性最大化.以选中特征数量最少化为目标, 转化为稀疏性指标:

Spar(x)=1- NsfNall,

其中, N_sf表示选中特征数, N_all表示二次精炼后的特征总数d₂.

将GWO的位置更新策略与NSGA-II的非支配排序、拥挤度机制结合, 实现多目标优化下的高效搜索.首先进行二进制GWO位置更新, 从灰狼种群的帕累托前沿中筛选3个非支配最优个体, 分别记为α 、 β 、δ , 作为算法头狼, 由该3类个体引导种群位置更新, 更新后的位置矢量如下:

X(t+1)= X1+X2+X33, (7)

其中,

X₁=X_α -A₁· D_α ,
X2₌Xβ _-A2_· Dβ ,
X3=_Xδ -_A3· _Dδ _,

分别表示受3类头狼引导产生的候选位置, A₁、A₂、A₃分别表示GWO收敛系数向量,

D_α =|C₁· X_α -X(t)|,
Dβ ₌|C2_· Xβ _-X(t)|,
Dδ =_|C3· _Xδ -_X(t)|,

分别表示当前个体与3类头狼的距离矢量, t表示当前迭代次数, X_α 、X_β 、X_δ 分别表示帕累托前沿中3类最优头狼的位置矢量, X(t)表示第t代灰狼个体当前位置矢量, C₁、C₂、C₃分别表示GWO摆动系数向量.

通过S型函数将连续位置映射为二进制编码, 第t+1次迭代中选中的第i个特征为:

x_i(t+1)= 1, rand()≤11+e-Xi(t+1)0, 其它

其中, rand()表示[0, 1]区间内的均匀随机数, 通过上式由连续的位置向量获得二进制特征选择向量.

然后, 计算NSGA-II非支配排序与拥挤度.每次位置更新后, 采用非支配排序将种群划分为不同帕累托层级, 定义如下:若解x_a在所有目标上均不劣于x_b, 且至少在一个目标上优于x_b, 则x_a支配x_b.在同一帕累托层级内, 通过拥挤度评估解的分布多样性, 拥挤度公式如下:

$\operatorname{Crowd}\left(\boldsymbol{x}_{i}\right)=\sum_{m=1}^{2}\left(\frac{f_{m}\left(\boldsymbol{x}_{i+1}\right)-f_{m}\left(\boldsymbol{x}_{i-1}\right)}{f_{m}^{\max }-f_{m}^{\min }}\right) .$ (8)

其中:x_i表示当前帕累托层内第i个个体解, x_i+1、x_i-1分别表示该帕累托层内按第m个目标排序后的后序、前序相邻个体, f mmax、 f mmin分别表示第m个目标的最大值与最小值; f_m(· )表示第m个目标函数.m=1时使用分类准确率计算拥挤度, f₁=Acc; m=2时使用特征稀疏度计算拥挤度, f₂=Spar.

选择时优先选取帕累托层级较高的个体, 同一层级内优先选取拥挤度较大的个体, 保证解集的收敛性与多样性.

为了提升多任务优化效率, 设计基于前序任务帕累托解的知识迁移机制.设已完成t-1个任务, 将前序任务的帕累托最优解集合记为PS_{1∶ t-1}, 统计每个特征在PS_{1∶ t-1}中的入选频次:

$\operatorname{TaskFSC}(j)=\sum_{k=1}^{t-1} \sum_{\boldsymbol{x} \in P S_{k}} x_{j}, $ (9)

其中, PS_k表示第k个任务的帕累托最优解集, x_j表示特征选择向量中第j个特征的取值.

基于入选频次计算当前任务种群初始化的特征概率:

$P_{\mathrm{init}}(j)=\frac{\operatorname{TaskFSC}(j)+\epsilon}{\sum_{m=1}^{d_{2}}(\operatorname{TaskFSC}(m)+\epsilon)}, $ (10)

其中, ϵ表示平滑系数, d₂表示二次精炼后得到的候选特征总数量.

基于该概率初始化当前任务的灰狼种群, 实现跨任务的知识迁移, 加速收敛.

第3阶段完整执行步骤如算法3所示.

算法3 多任务多目标特征优化

输入 二次精炼特征集F₂, 特征重要性权重W, 任务数量T, 灰狼种群规模N_w, 最大迭代次数MaxIter₃, 平滑系数ϵ

输出 帕累托最优特征子集集合PS

获取精炼后特征维度d₂← len(F₂);

初始化全局帕累托解集PS_global← Ø ;

for t∈ 1, 2, …, T do

if t=1 then

随机初始化灰狼种群X_t;

else

使用式(9)计算特征入选频次TaskFSC;

使用式(10)计算初始化概率P_init;

基于P_init初始化灰狼种群X_t;

end if

for iter∈ 1, 2, …, MaxIter₃ do

更新收敛因子a, 计算系数向量A_i、C_i(i=1, 2, 3);

for n∈ 1, 2, …, N_w do

按式(7)更新灰狼个体位置;

end for

计算所有个体的目标值Acc(x)与Spar(x);

执行非支配排序, 按式(8)计算拥挤度;

基于排序与拥挤度选择下一代种群;

更新头狼个体α 、 β 、 δ 位置;

end for

提取当前任务的帕累托最优解集PS_t;

合并PS_global与PS_t, 重新执行非支配排序并更新PS_global;

end for

PS← PS_global;

return PS

DLME由自适应采样初筛、深度特征二次精炼、多任务多目标优化三阶段串行构成, 整体时间复杂度由第3阶段主导.第1阶段时间复杂度为O(n_min· k· d+n· d), 将原始特征维度d精简至d₁.第2阶段依托多层全连接网络训练, 时间复杂度为O(MaxEpoch· n· P), 进一步将特征维度压缩为d₂, 且d₂≪d₁≪d, 其中P表示多层全连接网络总的待训练参数数量.第3阶段为多任务多目标灰狼与NSGA-II优化模块, 是全方法最耗时部分, 时间复杂度为O(T· MaxIter₃· (N_w· n· d₂+ Nw2)).由于前两阶段运算量级远低于第3阶段, 可作为低阶项忽略, 因此整体时间复杂度为

O(T· MaxIter₃· (N_w· n· d₂+ Nw2)).

实验的硬件平台采用Intel Core i9-13900K处理器与NVIDIA RTX 4090图形处理器, 搭载64 GB运行内存与2 TB固态硬盘.软件环境基于Windows 11操作系统搭建, 以Python 3.9为核心编程框架, 深度学习模型训练依托PyTorch 2.1.0实现, 数据处理使用NumPy 1.26.0与Pandas 2.1.1工具库, 可视化分析借助Matplotlib 3.8.0与Seaborn 0.12.2完成, 进化算法相关运算通过DEAP 1.3.3工具包开展.

实验采用3类具有代表性的不平衡数据集验证DLME的有效性, 覆盖不同不平衡程度、不同特征维度及不同应用场景.公共不平衡数据集选取vowel0、periodchanger、waterquality、kddcup、kddcup-guess_passwd_vs_satan、cleveland-0_vs_4、SMK_CAN_187, 涵盖医疗诊断、网络安全、环境监测、工业检测等多个领域.这些数据集的不平衡率IR范围为1.5~120, 特征维度范围为8~4 096, 样本数量范围为100~100 000, 全面覆盖低、中、高及极端不平衡场景, 以及低维、中维、高维特征空间.该数据集作为特征选择领域的基准数据集, 广泛应用于大量相关研究中, 能保证实验结果的可比性和可复现性.HCUP医疗数据集来源于美国医疗保健研究与质量局的医疗成本与利用项目, 包含1× 10⁵条住院患者的临床记录, 共42个特征, 涵盖患者基本信息、诊断代码、治疗方案、住院时长等维度.其中少数类为罕见并发症样本, 不平衡率约为35, 属于中高度不平衡场景.该数据集是典型的高维不平衡数据集, 且少数类往往具有更高的临床价值, 能有效验证DLME在医疗领域的实际应用价值.FlightAware航空数据集来源于全球最大的航班追踪平台FlightAware, 包含5× 10⁴条美国国内航班的运行记录, 共35个特征, 涵盖天气状况、机场信息、航班时刻、飞机型号等维度.其中少数类为严重延误的航班样本, 不平衡率约为28, 属于中度不平衡场景.航空延误预测对实时性和特征精简性要求极高, 该数据集能验证DLME在高维不平衡数据下的特征压缩能力和实时处理性能.

DLME的深度学习模块采用3层全连接网络, 激活函数为ReLU, 学习率为0.001, 训练轮数为100.在多目标优化模块中, 设置NSGA-II种群规模为100, 交叉概率为0.8, 变异概率为0.05.针对多任务执行设置任务数T=10, 知识迁移权重为0.7.自适应采样模块的动态采样比例范围为[0.5, 2.0], 耐心参数为50.

结合多目标优化、特征选择任务与不平衡数据的核心特性, 本文采用如下评估指标.1)分类性能指标.包含准确率、召回率、F1值与精确率, 用于量化模型的整体分类效果与少数类识别能力.2)多目标优化指标.选取超体积(Hypervolume, HV)、反向世代距离(Inverted Generational Distance, IGD)及帕累托解数量, 用于评估多目标寻优过程的收敛性与解集分布的多样性.3)特征选择效率.通过所选特征数量和特征压缩比例进行衡量, 直观反映方法的特征降维与冗余剔除能力.4)计算效率.以算法整体运行时间作为核心评估依据, 体现方法的实际工程应用可行性.

对比方法选取具有代表性的主流特征选择方法, 覆盖过滤式、包裹式、嵌入式三大经典范式与进化类方法, 具体包括:1)作为性能基线的RAW^[37]; 2)过滤式代表方法mRMR^[22]; 3)包裹式代表方法SVM-RFE^[25]; 4)嵌入式代表方法CAE(Concrete AutoEncoder)^[38]; 5)单目标进化特征选择方法bGWO(Binary Grey Wolf Optimizer)^[39]、I-GWO(Im-proved Grey Wolf Optimizer)^[40]; 6)多任务进化特征选择算法MF-CSO^[41]、MTPSO^[42].

各方法在公共数据集上的分类准确率对比如表1所示.由表可见, DLME在测试集上均取得最优性能.从数据特性来看, 方法的性能增益与数据集的不平衡率、特征维度呈正相关:在低维、低不平衡场景中优势相对有限, 在kddcup、SMK_CAN_187等高维、极端不平衡数据集上准确率提升幅度较大.这也表明DLME适用于高维、类别高度不平衡的特征选择问题, 可有效缓解此类场景中的多数类偏向与特征冗余问题.

表1

Table 1

表1(Table 1)

表1 各方法在公共数据集上的分类准确率对比 Table 1 Classification accuracy comparison of different methods on public datasets % 方法 vowel0 cleveland-0_vs_4 waterquality periodchanger kddcup SMK_CAN_187 RAW 85.32 76.45 79.68 72.34 75.89 69.21 mRMR 87.04 78.91 82.15 75.68 79.27 73.42 SVM-RFE 87.62 79.56 82.89 76.82 80.53 75.18 CAE-FS 88.79 81.07 84.21 79.03 83.12 78.64 bGWO 89.68 82.13 85.34 80.57 84.72 81.26 I-GWO 90.74 84.29 87.52 83.46 87.31 85.62 MF-CSO 91.38 85.72 88.64 85.13 89.27 88.34 MTPSO 91.97 87.04 89.83 86.75 89.87 88.65 DLME 93.26 90.58 92.15 88.85 91.34 90.23

表1 各方法在公共数据集上的分类准确率对比 Table 1 Classification accuracy comparison of different methods on public datasets %

各方法在HCUP医疗数据集和FlightAware交通数据集上的性能对比如表2所示.这两类数据集是医疗、交通领域典型的高维不平衡基准数据集, 具备极强的场景代表性.由表可见, 在HCUP数据集上, DLME的准确率达到94.12%, 相比MTPSO提升5.38%, F1分数突破93%, 可有效识别罕见并发症样本.在FlightAware数据集上, DLME在处理航班延误预测时, 精确率达到93.76%, 相比bGWO提升11.81%, 同时特征压缩比达到89.2%, 为实时延误预测提供轻量化特征支持.

表2

Table 2

表2(Table 2)

表2 各方法在HCUP、FlightAware数据集上的性能对比 Table 2 Performance comparison of different methods on HCUP and FlightAware datasets 数据集 方法 准确率/% F1值/% 召回率/% 精确率/% 所选特征数 特征压缩比/% HCUP RAW 76.28 72.15 69.83 75.32 42 0 PSO 83.56 80.27 78.45 82.63 28 33.3 MTPSO 88.74 86.93 85.12 89.27 16 61.9 DLME 94.12 93.28 92.76 94.03 9 78.6 FlightAware RAW 74.53 70.89 68.47 73.92 35 0 bGWO 81.95 78.65 76.32 81.95 22 37.1 MF-CSO 86.42 83.71 81.56 86.38 15 57.1 DLME 92.68 91.54 90.37 93.76 4 89.2

表2 各方法在HCUP、FlightAware数据集上的性能对比 Table 2 Performance comparison of different methods on HCUP and FlightAware datasets

NSGA-II、ReliefF、bGWO、MTPSO、DLME的时间复杂度对比如表3所示.由表可看出, DLME的理论时间复杂度略高于单目标进化算法, 但得益于两阶段特征筛选将特征维度从原始的d维降至d₂维且平均压缩比达88.3%, 大幅减少后续多目标优化的搜索空间, 因此实际运行时间显著低于传统多目标进化算法和多任务进化算法.

表3

Table 3

表3(Table 3)

表3 不同特征选择方法的时间复杂度对比 Table 3 Time complexity comparison of different feature selection algorithms 方法 时间复杂度 ReliefF O(n· d2) bGWO O(MaxIter· Nw· n· d) NSGA-II O(MaxIter· Nw2· n· d) MTPSO O(T· MaxIter· Nw· n· d) DLME O(T· MaxIter3· (Nw· n· d2+ Nw2))

表3 不同特征选择方法的时间复杂度对比 Table 3 Time complexity comparison of different feature selection algorithms

DLME与MTPSO、MF-CSO在中等不平衡HCUP医疗数据集和高度不平衡FlightAware交通数据集上的帕累托前沿对比如图2所示.由图可见, DLME的帕累托前沿明显优于对比方法.具体表现为:DLME前沿更靠近高准确率与少特征数的理想区域, 在相同特征数下, 相比对比方法, 准确率提升3%~8%; DLME生成的帕累托解数量更多, 能为不同计算资源约束的应用场景提供更丰富的选择.同时, DLME前沿整体分布更均匀, 有效避免局部最优解聚集的问题, 充分体现该模型的均衡性.

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 各方法在2个数据集上的帕累托前沿对比图Fig.2 Pareto fronts comparison of different methods on 2 datasets

HV、IGD指标量化多目标优化性能, HV值越大表示帕累托前沿覆盖范围越广, IGD值越小表示前沿与理想解越接近.PSO、MF-CSO、MTPSO、DLME在公共数据集上的HV、IGD值对比如表4所示.

表4

Table 4

表4(Table 4)

表4 各方法在公共数据集上的多目标优化性能对比 Table 4 Comparison of multi-objective optimization performance among different methods on public dataset 数据集 方法 HV IGD vowel0 PSO 0.683 0.215 MF-CSO 0.745 0.172 MTPSO 0.798 0.136 DLME 0.912 0.078 periodchanger PSO 0.567 0.289 MF-CSO 0.642 0.241 MTPSO 0.724 0.176 DLME 0.896 0.083 waterquality PSO 0.625 0.238 MF-CSO 0.698 0.195 MTPSO 0.763 0.152 DLME 0.874 0.091

表4 各方法在公共数据集上的多目标优化性能对比 Table 4 Comparison of multi-objective optimization performance among different methods on public dataset

由表4可见, DLME在所有数据集上的HV值均最高, IGD值均最低.在periodchanger数据集上:HV值达到0.896, 相比MTPSO提升23.7%; IGD值仅为0.083, 相比MF-CSO降低41.6%.由此验证多目标框架与GWO、NSGA-II融合的有效性.

为了验证DLME的收敛性能, 选取HCUP、FlightAware数据集, 以迭代过程中多目标优化核心指标种群的最优HV值为观测对象, 绘制收敛曲线, 并与MTPSO、MF-CSO对比, 结果如图3所示.由图可见, DLME的最终收敛的HV值高于对比方法, 多目标寻优性能优势明显.依托多任务知识迁移与深度学习特征精炼, DLME前期收敛速度较快, 约40代时HV值便已超过对比方法的最终收敛水平.迭代至大约80代以后, DLME的HV值趋于平稳, 无明显震荡与性能退化, 收敛稳定性良好, 不存在早熟收敛或发散问题.

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 各方法HV值随迭代次数变化曲线Fig.3 Curves of HV for each method as a function of the number of iterations

DLME在FlightAware数据集上的特征重要性对比如表5所示.由表可见, DLME识别出天气指数、机场吞吐量及航线拥堵系数为核心关键特征, 这与航空领域专业结果一致, 由此验证方法特征选择的合理性.

表5

Table 5

表5(Table 5)

表5 DLME在FlightAware数据集上的特征重要性对比 Table 5 Feature importance comparison of DLME on FlightAware dataset % 特征名称 权重占比 特征类别 天气指数 28.3 机场吞吐量 22.7 核心特征 航线拥堵系数 19.5 航班机型 8.6 起飞延误累积值 7.2 重要特征 空管调度优先级 6.9 其他辅助特征 6.8 剩余特征

表5 DLME在FlightAware数据集上的特征重要性对比 Table 5 Feature importance comparison of DLME on FlightAware dataset %

自适应采样前后, kddcup-guess_passwd_vs_satan数据集上的t-SNE(t-Distributed Stochastic Neighbor Embedding)可视化结果如图4所示.

图4

Fig.4

	Figure Option ViewDownloadNew Window
	图4 采样前后t-SNE分布对比图Fig.4 Comparison of t-SNE distribution before and after sampling

由图4可见, 采样前少数类样本分散且与多数类重叠, 采样后少数类样本聚类更紧密, 类别边界清晰, 表明自适应采样与SMOTE的融合可有效缓解数据不平衡问题, 为后续深度学习提供高质量数据基础.

针对FlightAware数据集的实时性需求, DLME与PSO、bGWO、MF-CSO、MTPSO的能效与延误关系热力图如图5所示.能效为准确率除以运行时间, 单位为%/s; 延误为预测延误时间, 单位为ms.由图可见, DLME在能效达到0.87 %/s的同时, 预测延误时间仅为12.3 ms.相比MTPSO, DLME的能效提升40.3%、预测延误时间降低56.8%, 满足实时交通预测场景中的性能要求.

图5

Fig.5

	Figure Option ViewDownloadNew Window
	图5 各方法在FlightAware数据集上的能效-延误关系热力图Fig.5 Heatmap of energy efficiency-delay relationship of different methods on FlightAware dataset

为了验证DLME各核心模块的功能贡献, 设计如下4组消融变体.1)DLME-A.移除自适应采样模块、采用固定比例SMOTE.2)DLME-B.移除深度学习模块、仅保留传统特征交互捕捉机制.3)DLME-C.移除多任务框架.4)DLME-D.移除多目标优化模块.相应消融实验结果如表6所示.

表6

Table 6

表6(Table 6)

表6 各变体消融实验结果 Table 6 Ablation experiment results of different variants % 变体 准确率 F1值 召回率 精确率 特征压缩比 DLME 92.37 91.89 91.56 92.43 88.3 DLME-A 88.14 87.65 86.92 88.71 85.6 DLME-B 89.20 88.72 88.39 89.26 86.1 DLME-C 89.52 89.03 88.67 89.68 84.9 DLME-D 90.21 89.74 89.35 90.47 82.7

表6 各变体消融实验结果 Table 6 Ablation experiment results of different variants %

由表6可见, DLME在所有指标上均取得最优值.自适应采样模块贡献最大, 由此验证动态采样与特征选择协同的重要性; 深度学习模块使F1值提升3.17%, 体现其高阶特征交互捕捉能力; 多任务与多目标框架使准确率分别提升2.85%和2.16%, 表明多任务知识迁移与多目标权衡的作用.

PSO、bGWO、MF-CSO、MTPSO在不同规模数据集上的运行时间对比如表7所示.由表可见:PSO、bGWO为单目标搜索算法, 无需执行非支配排序、拥挤度计算等多目标操作, 时间复杂度较低; 两类算法未引入深度学习特征提取模块, 省略网络训练开销, 且均为单任务模式, 无多任务知识迁移的额外计算.DLME由于引入深度学习模块, 运行时间略长于传统方法, 但通过多任务并行优化, 运行时间仍控制在合理范围:在高维数据集SMK_CAN_187上, DLME运行时间为628.3 s, 相比MF-CSO降低76.8%.在大规模FlightAware数据集上, DLME运行时间仅为387.5 s, 满足实际应用的效率需求.

表7

Table 7

表7(Table 7)

表7 各方法在不同数据集上的运行时间对比 Table 7 Comparison of running time among 5 methods on different datasets s 数据集 规模类型 PSO bGWO MTPSO MF-CSO DLME cleveland-0_vs_4 小规模 0.19 0.16 1.34 353.21 62.87 vehicle0 中等规模 0.32 0.39 12.60 157.76 168.35 waterquality 大规模 3.18 2.45 741.16 28206.42 1896.42 SMK_CAN_187 高维数据集 7.05 9.01 862.22 2710.41 628.30 FlightAware 大规模高维 12.47 9.83 326.58 1892.74 387.50

表7 各方法在不同数据集上的运行时间对比 Table 7 Comparison of running time among 5 methods on different datasets s

定义任务数T=4, 6, …, 16, 其对DLME性能的影响如图6所示.由图可见, 当T=10时, DLME在多数数据集上达到最优性能.当T< 8时, 知识迁移不充分, 准确率较低.当T> 12时, 任务间干扰增强, 准确率略有下降.由此验证DLME的最优任务数设置的合理性, 可平衡知识共享与任务干扰.

图6

Fig.6

	Figure Option ViewDownloadNew Window
	图6 T对DLME性能的影响Fig.6 Effect of T on DLME performance

上述实验表明, DLME依托自适应采样-深度学习-多任务多目标优化的三阶段协同框架, 在不平衡特征选择任务中实现显著的性能增益.在公共数据集、HCUP医疗数据集、FlightAware航空数据集上, 准确率、F1值等核心分类指标均显著优于各对比方法, 尤其在极端不平衡与高维数据场景中优势更突出.在多目标优化上, HV值平均提升23.7%, IGD值平均降低41.6%, 且生成的帕累托前沿覆盖范围更广、分布更均匀, 可为不同资源约束场景提供灵活的方案选择.在运行效率与泛化性方面, DLME借助多任务并行优化机制, 相比MF-CSO等方法, 一方面运行时间大幅降低, 另一方面在医疗、交通、神经科学等跨领域场景中均能保持稳定的性能表现, 泛化能力突出.

DLME的性能优势源于四大创新的协同作用:自适应采样与SMOTE动态融合以缓解数据不平衡的问题; 深度学习模块捕捉高阶特征交互; 多任务框架实现知识迁移; 多目标优化平衡准确率与特征稀疏性, 解决传统方法协同性不足、特征交互捕捉不充分等问题.