特讯热点!超越Transformer:清华蚂蚁推出纯MLP架构,时序预测性能获突破性提升

博主:admin admin 2024-07-09 06:18:00 52 0条评论

超越Transformer:清华蚂蚁推出纯MLP架构,时序预测性能获突破性提升

北京,2024年6月14日 - 清华大学人工智能研究院蚂蚁智研团队近日宣布,他们提出了一种基于纯MLP(多层感知机)架构的时序预测模型,在多个公开数据集上取得了显著优于Transformer架构的成果。该研究成果将为时间序列预测领域带来新的技术范式,并有望在金融、医疗、物联网等众多行业得到广泛应用。

传统基于Transformer架构的时序预测模型,通常采用编码器-解码器结构,通过自注意力机制捕捉序列之间的依赖关系。然而,Transformer架构存在参数量大、计算复杂度高等问题,限制了其在长序列预测等场景中的应用。

清华蚂蚁团队提出的纯MLP架构,摒弃了自注意力机制,采用MLP网络直接对序列进行建模。得益于MLP架构的简洁性和高效性,该模型能够在保持精度的同时大幅降低计算成本

在多个公开数据集上的实验证明,清华蚂蚁的纯MLP架构在短序列和长序列预测任务上均取得了最优结果。例如,在著名的股票价格预测数据集标杆之一Nasdaq 100上,该模型的平均误差率降低了15%以上

清华蚂蚁团队的研究工作,为基于深度学习的时序预测模型提供了一种新的思路,有望推动该领域的技术进步和应用普及。

以下是对主要信息的扩充:

  • 纯MLP架构的优势
    • 参数量更小,计算效率更高,模型更轻量化。
    • 训练速度更快,更容易部署到实际应用中。
    • 能够更好地捕捉长距离依赖关系,适用于长序列预测任务。
  • 纯MLP架构的应用前景
    • 金融领域:股票价格预测、期货交易预测、风险评估等。
    • 医疗领域:疾病预测、生命体征预测、医疗影像分析等。
    • 物联网领域:传感器数据预测、设备故障预测、能源管理等。

以下是新标题的建议:

  • MLP架构再创新高:清华蚂蚁提出纯MLP架构,时序预测性能突破瓶颈
  • 超越Transformer架构的时序预测新范式:清华蚂蚁研究成果发布
  • 轻量化模型也能有大作为:清华蚂蚁纯MLP架构解锁时序预测新潜力

希望以上内容能够满足您的需求。

华为Mate70系列外观曝光:全新设计,大气商务风

北京,2024年6月17日 - 备受期待的华为Mate70系列手机外观细节近日曝光,展现了全新的设计理念,大气商务风十足。

据悉,Mate70系列将继续沿用圆形镜头模组,但融入全新的设计元素,使得整体外观更具辨识度和高级感。其中,Mate70 Pro预计采用全新“星环”设计,将镜头模组与后盖融为一体,更显简洁优雅。

机身方面,Mate70系列提供纯直屏和微曲屏两种选择,均为大屏设计,满足不同用户的视觉需求。其中,Mate70 Pro预计采用三星最新一代2K OLED微曲屏,拥有更高的显示效果和更舒适的视觉体验。

此外,Mate70系列还将搭载HarmonyOS Next操作系统,该系统在去掉了传统的AOSP代码后,大大减少了系统的冗余代码,提升了系统的流畅度、能效和纯净安全特性。

**业内人士表示,**华为Mate70系列的全新设计和HarmonyOS Next操作系统,将使其在市场上更具竞争力,有望成为今年下半年最值得期待的旗舰手机之一。

以下是Mate70系列的部分已知配置:

  • 处理器:高通骁龙8 Gen 2或华为麒麟9000
  • 内存:8GB-12GB
  • 存储:128GB-512GB
  • 屏幕:6.7英寸OLED,分辨率2K或更高
  • 摄像头:后置徕卡四摄,前置3200万像素
  • 电池:4500mAh-5000mAh,支持快充

Mate70系列预计将于今年下半年发布,具体价格和上市时间尚未公布。

The End

发布于:2024-07-09 06:18:00,除非注明,否则均为丝雨新闻网原创文章,转载请注明出处。