【CNMO科技音信】近日开云体育(中国)官方网站，在特斯拉CEO埃隆·马斯克公开点赞中国AI公司Kimi的最新讨论恶果后，Kimi官方账号于3月17日以幽默口气复兴：“你的火箭造得也可以！”

据CNMO了解，事件的启事是3月16日，月之暗面（Kimi）发布了一项对于大模子基础架构的讨论，淡薄“Attention Residuals”（遏制力残差）机制，对深度学习中沿用近十年的残差畅通进行了从头筹商。传统残差畅通领受固定、均匀的累加表情，而Kimi的新要道让每一层粗略选拔性地心情此前各层的输出，从而进步实践遵循。据Kimi官方表现，在48B参数的模子上，该机制使实践遵循进步了1.25倍。

该讨论连忙引起了学界和业界心情。马斯克在外交平台X上转发并评述：“Impressive work from Kimi”（Kimi这项讨论干得漂亮）。随后开云体育(中国)官方网站，前OpenAI讨论科学家Andrej Karpathy也发文称，该讨论真确践行了“Attention is All You Need”的理念；被誉为“推理模子之父”的前OpenAI讨论副总裁Jerry Tworek更是直言“深度学习2.0来了”。这些来惬心家顶尖AI群众的认同，突显了Kimi这次期间冲破的重量。