Hacker News · AI 最新· gmays·· 3 天前AI 评分43
AWS 提出 priming 方法:无需从头重训即可将预训练 Transformer 转为混合状态空间模型
Can we change an AI model's architecture without retraining it from scratch?
AI 导读
Amazon Web Services 提出 priming 方法,复用预训练 Transformer 权重作为起点,将混合架构的预训练成本降低超过 99%。在受控对比中 Gated KalmaNet(GKA)表现最佳,其 32B 参数混合模型在推理 benchmark 上与原 Transformer 质量相当,128,000 tokens 上下文下解码速度最快达 2 倍。
来源:Hacker News · AI 最新 · amazon.science