自研 Transformer 基座 · 2024 年 9 月萌芽,12 月正式立项研发
米瑞 AI 目前仍在研发中 —— 从基座写起、不训练·推理时学习的路线我们走得很认真,但它还没有完工,因此暂时无法访问。这不是营销占位,而是真实的工程进度。
基座自研、绝不下载别人的权重;MoE 满血激活、字节级 BPE 20 万词表零 UNK、BM25 软训练索引 73,983 篇文档 —— 这些都已经定型,只差把最后一段路走完。上线后,米瑞 AI 与云上天空 API 调度台将一同开放。
dense 387M 到 MoE 32B 全尺寸,按需选算力。
每 token 算力精确抵达标注参数量。
字节级 BPE,覆盖彻底,不丢字。
软训练索引,推理时学习,加料即强。
记忆·注入·协同·风格·流式,协同推理。
零 GPU 起步,把知识沉淀成可检索事实库。
留下联系方式,上线后我们第一时间通知你;也欢迎现在就来聊合作。
联系我们 →