新闻中心 
-
02-02大模型也有小偷？为保护你的参数，上交大给大模型制作「人类可读指纹」将不同的基模型象征为不同品种的狗，其中相同的「狗形指纹」表明它们源自同一个基模型。大模型的预训练需要耗费大量的计算资源和数据，因此预训练模型的参数成为各大机构重...
-
01-16上交大发布推理引擎PowerInfer，其token生成速率仅比A100低18%，或将取代4090成为A100的替代品为了不改变原意而重写内容，需要将语言重写为中文，不需要出现原句本网站的编辑部PowerInfer的出现使得在消费级硬件上运行AI变得更加高效上海交大团队，刚刚推...
-
01-12基于双任务的端到端无模板反应预测模型重新排版|X本文旨在介绍西南交通大学杨燕/江永全团队在《应用智能》杂志上发表的研究成果，其中的第一作者是胡昊哲，一位硕士生论文链接：https://doi.or...
-
12-214090生成器：与A100平台相比，token生成速度仅低于18%，上交推理引擎赢得热议PowerInfer提高了在消费级硬件上运行AI的效率上海交大团队最新推出了超强CPU/GPULLM高速推理引擎PowerInfer。PowerInfer和ll...
