LLM 最新推理技术，理论可以实现无限长的生成能力。

连续批处理可以实现23倍的 LLM 推理吞吐量，同时降低延迟（P50）。

LLama-2-Chat 几乎是现有开源模型中唯一做了 RLHF 的模型，其数据标注具体是如何做的呢？

GPT-4 相比前代 GPT-3.5/ChatGPT 有何不同？

本文将为大家介绍幻方&基础研究实践优化后的数据清洗流程。

HAI-LLM 是幻方 AI 研发的高效简洁的大模型训练工具，能更好地发挥 GPU 集群的计算能力。