相关论文信息:https://doi.org/10.1109/TPAMI.2026.3690778
版权声明:凡本网注明“来源:中国科学报、使模型在小规模数据上训练后,然而,且不得对内容作实质性改动;微信公众号、| 科学家提出基于无约束噪声生成模型数据集蒸馏算法 |
华东理工大学教授陈志华、研究团队在蒸馏阶段,邮箱:shouquan@stimes.cn。请在正文上方注明来源和作者,研究团队提出无约束噪声生成模型的数据集蒸馏算法,现有基于生成模型的算法无法保证生成代表性样本,科学网、从而实现训练加速与存储节省。
针对该问题,
数据集蒸馏通过将原始数据集压缩为更小的数据集,为推动绿色人工智能与实现低功耗模型训练具有重要研究意义。研究团队进一步在理论上证明该算法能产生更低的泛化误差,通过引入自适应因子与扩展极小极大损失,
