揭示Transformer周期建模缺陷!北大提出新型神经网络FAN,填补周期性特征建模能力缺陷
北京大学研究团队发现,Transformer等主流神经网络在周期特征建模方面存在缺陷,如记忆数据模式而非理解内在规律,导致泛化能力受限。为此,团队提出基于傅里叶分析的Fourier Analysis Network(FAN),通过显式建模周期性特征,提升模型的理解和预测能力,减少参数和计算量,并在多个实验中验证其优越性。论文链接:https://arxiv.org/pdf/2410.02675.pdf
【构建好数据】Dataphin智能数据建设与治理产品白皮书
【2024最新版】
AI智能时代的数据质量保障,企业多组织、多环境、多引擎数据复杂构建需求的适配,企业需要一套完善的数据技术与工具,实现数据采集、存储、计算、建设、管理和数据资产运营消费,推动数据资产持续沉淀和智能化消费,形成企业特有的数据资产体系。
本书是AI大背景下数据资产管理的完美指南,来自阿里巴巴数据中台方法论工具化沉淀,是经过10年锤炼、百企验证的万字实践精粹。