新闻中心 
-
04-03LLM超长上下文查询-性能评估实战在大型语言模型（LLM）的应用中，有几个场景需要以结构化的方式呈现数据，其中信息提取和查询分析是两个典型的例子。我们最近通过更新的文档和一个专门的代码仓库强调了...
-
03-01可视化FAISS矢量空间并调整RAG参数提高结果精度随着开源大型语言模型的性能不断提高，编写和分析代码、推荐、文本摘要和问答(QA)对的性能都有了很大的提高。但是当涉及到QA时，LLM通常会在未训练数据的相关的问...
-
02-26高性能 LLM 推理框架的设计与实现一、大语言模型推理概要介绍与传统的CNN模型推理不同，大语言模型的推理通常会分成prefill和decoding两个阶段。每一个请求发起后产生的推理过程都会先经...
-
02-04一文搞懂使用 Arthur Bench 进行 LLM 评估Hellofolks，我是Luga，今天我们来聊一下人工智能(AI)生态领域相关的技术-LLM评估。一、传统文本评估面临的挑战近年来，大型语言模型(LLM)的迅...
-
02-03UCLA华人提出全新自我对弈机制！LLM自己训自己，效果碾压GPT-4专家指导合成数据已经成为了大语言模型进化之路上最重要的一块基石了。去年底，有网友曝出前OpenAI首席科学家Ilya多次表示LLM的发展没有数据瓶颈，合成数据可以解决大...
-
01-17浅析 LLM 可观测性大家好，我是Luga。今天我们继续探讨人工智能生态领域中与技术相关的主题——LLM（大型语言模型）的可观测性。本文将继续深入分析LLM的可观测性，以帮助大家了解...
