舆情详情页

少用33％数据，模型性能不变，陈丹琦团队用元数据来做降本增效

机器之心 2025-01-08
AI语料
普林斯顿大学陈丹琦团队提出了一种新的预训练方法 MeCo，通过在预训练期间使用元数据（如URL）进行调节，并在最后10%的训练中实施冷却阶段。该方法可以显著提高语言模型的数据效率，减少33%的训练数据量，同时几乎不增加计算开销和复杂性。MeCo 在不同模型规模和数据源上均表现出一致的性能提升，并增强了模型的可控性和实用性。
舆情等级

重要

舆情评分

正面舆情

舆情解析

该研究提出了创新性的预训练方法 MeCo，对 AI 语料股票概念板块具有积极影响。MeCo 方法不仅提高了语言模型的训练效率，还减少了计算资源的需求，这对于依赖大量计算资源的 AI 行业来说是一个重要的技术进步。此外，该方法提升了下游任务的性能，有助于推动相关企业的技术创新和发展，从而可能带来积极的市场预期和投资信心。因此，判断为正面舆情，且由于其对行业技术发展的潜在影响较大，但并非即时性的重大事件，故定为重要舆情。

点击查看舆情源网页
重要提示和声明
本页面内容由AI提炼生成，无法确保完全真实准确，不代表希财网官方立场，不构成投资建议。如需详细阅读有关 请点击此处
本页面内容由AI基于全网用户讨论及市场动态提炼生成，仅供希财网用户作一般性的参考阅读使用，不构成投资建议。
本页面提及的观点不代表希财网官方立场，亦不代表本公司对其中任何行业或相关公司的判断：本页面如提及任何投资标的，亦仅基于一般举例和参考目的，不应被视为投资建议。
AI仍处于早期发展阶段，在技术上尚不成熟，且用户讨论具有UGC属性，本公司无法保证AI提炼生成内容完全真实准确。若涉及对你或其他相关方可能产生重大影响的情形，建议你采取合理必要措施对A提炼生成内容进行核实、并咨询相关专业机构和专业人士，本页面内容不应成为你进一步作为或不作为的依据。
投资有风险，决策需谨慎。在任何情况下，本公司不对任何人因使用本页面的任何内容所导致的损失承担任何责任。