跳到正文
热点事件观察中

AWS 在 SageMaker AI 上优化 fused MoE kernel

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

2026 年 10 月 13 日,AWS Machine Learning Blog 发表实践文章,介绍 AWS 团队在 Amazon SageMaker AI 上针对 fused Mixture-of-Experts(MoE)模型开展 kernel engineering。团队采用 Swap-AB 方法,将矩阵乘法进行转置,以适配 NVIDIA Hopper 架构中 WGMMA 的硬件布局要求。报道指出,该优化在 H200 GPU 上取得了 2% 至 4% 的端到端输出吞吐提升。这是目前公开报道中关于该实践的进展,暂无后续更新或矛盾报道。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. AWS Machine Learning Blog
    Amazon SageMaker AI 上的 Mixture-of-Experts kernel engineering 实践

    AWS 团队在 Amazon SageMaker AI 上针对 fused MoE 模型开展 kernel engineering,通过 Swap-AB 将矩阵乘法转置以适配 NVIDIA Hopper 的 WGMMA 硬件布局,在 H200 上取得 2–4% 的端到端输出吞吐提升。

本事件热度走势

当前热度 3·可比范围峰值 10(10月14日 00:00)·近 24 小时可比范围变化 -50%

02.557.51010月14日00:0010月14日16:0010月15日07:0010月15日23:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。