影像组学实战体系 · 第 5 卷 / 共 6 卷
从高维表型到可解释的临床风险评分
本卷导读
讨论特征降维、正则化、Rad-score 构建、机器学习模型选择、数据划分、过拟合控制与性能评价,重点说明如何在训练集内完成全部筛选步骤以避免数据泄漏。
知识结构
- 高维特征筛选与降维
- Rad-score 的构建与解释
- 过拟合、欠拟合与模型选择
- 特征可视化与结果表达
高维特征筛选与降维
特征筛选的目标不是保留最多变量,而是保留在外部数据上仍然稳定的信号。过滤法、包裹法与嵌入法各有适用条件。
奥卡姆剃刀原则,如无必要勿增实体。根据需要,在特征数目和效果之间做一个大约的折中。
当多种特征选择策略(如 LASSO、mRMR、递归特征消除 RFE、弹性网络 ElasticNet)在验证集上取得相近的判别效能(如 AUC 差异无统计学显著性,DeLong 检验 p > 0.05)但保留的特征维度不同时,应严格遵循奥卡姆剃刀原则(Occam's Razor)与统计简约性(Parsimony)准则:优先选择特征数量更少、物理与临床生物学意义更明确、且跨中心/跨勾画者 ICC 稳定性更高的特征子集,以降低模型方差并提升在独立外部队列中的泛化鲁棒性。
影像组学研究中,选择合适的特征数量对于不同的机器学习模型是至关重要的。然而,并没有一个固定的特征数量适用于所有情况。特征数量的选择取决于多种因素,包括研究目标、数据集大小、特征相关性以及所使用的机器学习模型等。
数据集大小:在选择特征数量时,需要考虑数据集的大小。如果数据集较小,选择较少的特征可能有利于避免过拟合现象。相反,如果数据集较大,可以尝试使用更多的特征。
特征相关性:在进行特征选择时,需要考虑特征之间的相关性。具有高度相关性的特征可能会导致多重共线性问题,影响模型的稳定性和预测能力。通过特征选择方法(如递归特征消除、基于信息增益的方法等)可以减少特征之间的冗余和相关性,从而选择具有较强预测能力的关键特征。
机器学习模型:不同的机器学习模型对特征数量的要求和容忍度不同。例如,线性回归和支持向量机等模型对特征数量敏感,因此在这些模型中使用较少的特征可能更合适。相反,集成模型(如随机森林和梯度提升树)和深度学习模型(如卷积神经网络)可以处理大量特征,但需要注意过拟合问题。
经验法则:虽然没有固定的特征数量适用于所有情况,但可以根据经验法则进行一定程度的参考。例如,有一个常用的经验法则称为"10倍法则",即训练集中的样本数量应至少是特征数量的10倍。这可以作为特征数量选择的初步指导。
在影像组学研究中,特征数量和样本量的关系对于不同的机器学习模型是非常重要的。以下是一些常用机器学习模型在特征数量和样本量方面的一般指南:
线性回归(包括逻辑回归):线性回归模型对特征数量敏感,通常需要较少的特征。一个常见的经验法则是样本量至少应为特征数量的10倍。然而,这个经验法则可能在某些情况下过于保守。在实践中,根据具体问题和数据集,可以适当增加特征数量。
支持向量机(SVM):支持向量机对特征数量和样本量的关系也相对敏感。和线性回归类似,SVM通常在特征数量较少的情况下表现较好。但在高维特征空间,核技巧(如径向基核函数)可以提高SVM的性能。尽管如此,保持一个合理的特征数量和样本量比例仍然是很重要的。
随机森林:随机森林作为一种集成学习方法,可以处理大量特征。由于它的特征选择和组合机制,随机森林在特征数量较多的情况下仍然能够获得较好的性能。然而,在实际应用中,为了避免过拟合,仍需要在特征数量和样本量之间保持一个合理的平衡。
梯度提升树(如XGBoost、LightGBM):梯度提升树也可以处理大量特征,并具有很好的泛化能力。尽管它们可以处理较多的特征,但在实际应用中,仍然需要注意特征数量和样本量之间的关系。根据问题和数据集的复杂性,适当调整特征数量以获得最佳性能。
神经网络(如卷积神经网络、循环神经网络):深度学习模型可以处理大量特征,并在复杂任务上取得显著成果。然而,由于其参数数量众多,深度学习模型需要大量的样本来避免过拟合。当特征数量增加时,通常需要更多的样本来保持模型的性能。
影像组学特征筛选主要目的是从大量特征中挑选出对分类、预测或分析任务最有贡献的特征。这有助于降低计算复杂度、提高模型性能并减少过拟合。
方差分析(Variance Analysis):基于特征的方差进行筛选,删除方差较小的特征。方差较小的特征在样本间的差异较小,对分类和预测任务的贡献可能较低。
相关性分析(Correlation Analysis):计算特征之间的相关性,删除高度相关的特征。高度相关的特征可能提供相似的信息,保留一个即可减少冗余。
卡方检验(Chi-squared Test):用于分类问题的特征筛选,计算特征与类别之间的卡方统计量,选择与类别关系最紧密的特征。
互信息(Mutual Information):衡量特征与目标变量之间的信息共享程度,选择与目标变量关系较强的特征。
递归特征消除(Recursive Feature Elimination,RFE):使用模型(如支持向量机、随机森林等)进行特征排序,递归移除较弱的特征,直到达到预定的特征数量。
LASSO回归(Least Absolute Shrinkage and Selection Operator):通过加入L1正则化项的线性回归方法,能够实现特征选择和系数估计。LASSO倾向于产生稀疏解,将不重要特征的系数压缩为零。
主成分分析(Principal Component Analysis,PCA):一种无监督降维方法,通过将原始特征转换到新的正交坐标系,提取主成分。PCA能够减少特征间的相关性,但可能导致原始特征失去解释性。
最小冗余最大相关(Minimum Redundancy Maximum Relevance,mRMR):旨在选择与目标变量相关性较高且互相冗余较低的特征子集。
机器学习模型内置的特征重要性:一些机器学习模型(如随机森林、梯度提升树等)可以直接输出特征重要性,用于特征筛选。
影像组学特征筛选方法的选择取决于具体问题和数据类型。在实际应用中,可以尝试多种方法并比较它们的性能,选择适合当前问题的特征筛选方法。
Rad-score 的构建与解释
Rad-score 把多个特征压缩为一个线性评分,便于临床解释与列线图展示。
在影像组学文献体系中,放射组学评分(Rad-score)通常定义为经特征选择后保留的影像组学特征在线性模型(如 LASSO-Logistic、岭回归或 Cox 比例风险回归)中的加权线性组合;在联合模型研究中,也可构建融合临床独立危险因素与影像特征的综合评分。
在定量影像组学中,放射组学评分(Radiomics Score,简称 Rad-score)是将高维筛选后的非冗余影像特征通过多元回归模型线性组合生成的连续型综合风险量化指标。以最常用的 LASSO-Logistic 回归或 LASSO-Cox 回归为例,其标准数学表达式为:Rad-score = β₀ + ∑(βᵢ · Xᵢ),其中 Xᵢ 为经 Z-score 标准化后的第 i 个入选影像组学特征值,βᵢ 为模型在训练集上拟合得到的非零回归系数,β₀ 为截距项(Cox 模型中无截距项)。构建单一定量指标 Rad-score 后,既可独立通过受试者工作特征曲线(ROC)或生存曲线检验其鉴别效能,也可作为独立预测因子与临床病理变量联合纳入多因素回归并绘制临床列线图(Nomogram)。
影像组学的Rad-score(Radiomics score)是一种综合指标,它将多个影像组学特征整合为一个数值,以表征肿瘤或其他病变的生物学特性、预后或治疗反应。Rad-score通常是通过构建一个预测模型(如回归模型、机器学习模型或深度学习模型)计算得出的,该模型利用一组经过筛选的影像组学特征进行训练。
Rad-score的主要作用是将大量影像组学特征简化为一个具有生物学意义和临床应用价值的指标。例如,Rad-score可以用于预测肿瘤的恶性程度、病人的生存期、化疗反应等。通过Rad-score,临床医生和研究人员可以更容易地将复杂的影像组学信息应用于临床决策和研究。
数据准备和ROI分割:与之前描述的步骤相同。
特征提取:从ROI中提取大量影像组学特征。
特征筛选:使用统计分析方法、机器学习算法或其他技术筛选与感兴趣临床变量相关的特征。
构建线性模型:选择适当的线性回归模型(如普通最小二乘、岭回归、LASSO等),并使用筛选出的特征训练模型。
系数选择:在训练完线性模型后,将获得每个特征对应的系数。这些系数表示了特征对预测结果的贡献程度。
计算Rad-score:基于线性模型,将每个特征的系数与该特征值相乘,然后将这些乘积相加,最后得到Rad-score。公式如下:Rad-score = β0 + β1F1 + β2F2 + … + βn*Fn 其中,βi表示特征Fi的系数。
模型验证和评估:使用独立测试集对模型进行验证和性能评估。评估指标可以包括准确率、敏感性、特异性、AUC等。
过拟合、欠拟合与模型选择
过拟合来自模型容量与样本量不匹配,欠拟合来自模型过于简单。交叉验证、正则化与学习曲线用于判断偏差-方差权衡。
在影像组学研究过程中,过拟合和欠拟合是两个需要关注的问题。过拟合表示模型在训练数据上表现良好,但在测试数据上性能较差;欠拟合则表示模型在训练和测试数据上的表现都不理想。
1,特征选择和降维:减少特征数量可以降低模型的复杂度,减轻过拟合的风险。可以使用特征选择方法(如 LASSO、RFE 等)或降维方法(如 PCA、t-SNE 等)来减少特征数量。
2,增加数据量:更多的数据可以帮助模型学习更多的模式,减少过拟合风险。可以尝试收集更多的数据或使用数据增强技术(如旋转、缩放、翻转等)来扩充数据集。
3,使用正则化方法:正则化方法(如 L1、L2 正则化等)可以限制模型参数的大小,降低模型复杂度,从而缓解过拟合问题。
4,交叉验证:使用交叉验证(如 k-折交叉验证)可以更准确地评估模型在未知数据上的性能,有助于发现并减轻过拟合和欠拟合问题。
过于复杂的模型容易导致过拟合,而过于简单的模型则容易导致欠拟合。可以通过调整模型参数(如神经网络的层数、决策树的深度等)来控制模型复杂度。
6,集成学习:集成学习方法(如随机森林、梯度提升树等)可以将多个基学习器的预测结果结合起来,提高模型的泛化能力,减轻过拟合风险。
7,早停法:在训练深度学习模型时,可以通过监控验证集上的性能来提前终止训练,防止模型过度拟合训练数据。
通过采取这些策略,可以在影像组学研究过程中解决过拟合和欠拟合问题,提高模型的泛化能力和准确性。
特征可视化与结果表达
热图、箱线图、火山图与 SHAP 值分别适合展示特征分布、组间差异、筛选结果与模型解释。
影像组学特征的可视化可以帮助研究人员更好地理解特征间的关系、特征与临床变量之间的关系,以及特征在模型中的重要性。
1,散点图:散点图可以用于展示两个特征之间的关系。在散点图中,每个点代表一个样本,横坐标和纵坐标分别表示两个特征的值。
2,直方图:直方图可以用于展示单个特征的分布情况。通过绘制不同组(如健康组和病患组)的特征分布直方图,可以观察到特征在不同组之间的差异。
3,热力图:热力图可以用于表示特征之间的相关性。相关矩阵的每个元素表示两个特征之间的相关系数,颜色越深表示相关性越强。
4,主成分分析(PCA):PCA 是一种降维技术,可以将高维特征投影到低维空间。通过将特征投影到二维或三维空间,可以在散点图中可视化样本在主成分上的分布。
5,t-分布邻域嵌入算法(t-SNE):t-SNE 是一种非线性降维方法,可以在低维空间中保持原始高维空间的局部结构。使用 t-SNE,可以在二维或三维空间中可视化高维特征数据。
6,特征重要性:对于基于树的模型(如随机森林、梯度提升树等),可以绘制特征重要性柱状图,以展示每个特征在模型中的重要性。
偏回归图:对于线性模型(如线性回归、逻辑回归等),可以绘制偏回归图来展示特征与响应变量之间的关系,同时控制其他特征的影响。
这些可视化方法可以帮助研究人员更好地理解影像组学特征,并为特征选择、模型构建和结果解释提供有价值的信息。在实际研究中,可以根据具体需求选择合适的可视化方法。
特征映射实现影像组学特征的可视化是将特征值映射回原始医学图像上的对应体素,从而直观地展示特征在图像中的分布。通过特征映射,可以观察到哪些区域与特定特征更相关,以便更好地理解病变或生物过程。实现特征映射可视化的基本步骤如下:
提取基于体素的特征:首先,需要从医学图像中提取基于体素的影像组学特征。这意味着计算每个体素的特征值,并将它们保存为与输入图像具有相同维度的数组。这可以通过像PyRadiomics这样的工具库来实现。
选择合适的颜色映射:为了清楚地展示特征值的分布,需要为特征值选择一个合适的颜色映射。常用的颜色映射有"热图"(jet或hot)或"冷热图"(coolwarm)等,它们可以在低值和高值之间提供明显的视觉区分。
叠加特征映射到原始图像:将特征值数组与原始医学图像叠加,以便在图像中可视化特征值的分布。为了保留原始图像的信息并突出显示特征映射,可以将特征映射设置为半透明。
可视化多个特征映射:如果有多个特征需要可视化,可以将它们并排展示,以便进行比较。在这种情况下,确保在所有映射中使用相同的颜色映射和值范围,以便更容易地进行比较。
提供交互式探索工具:对于具有多个切片的三维医学图像,可以提供交互式工具来浏览各个切片,并查看不同切片上的特征映射。这可以通过图形用户界面库(如 PyQt、Tkinter 或 web-based 工具如 Plotly 或 Dash)实现。
特征映射可视化有助于了解特征在图像中的空间分布,揭示病变和生物过程的模式,为医学研究和临床诊断提供有价值的见解。
一起交流
分享你的思考,让讨论更进一步。