新闻中心
-
11-24这才是真・开源模型!公开「后训练」一切,性能超越Llama 3.1 Instruct开源模型阵营又迎来一员猛将:Tülu3。它来自艾伦人工智能研究所(Ai2),目前包含8B和70B两个版本(未来还会有405B版本),并且其性能超过了Llama3...
-
07-17无损加速最高5x,EAGLE-2让RTX 3060的生成速度超过A100AIxiv专栏是本站发布学术、技术内容的栏目。过去数年,本站AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传...
-
02-20GPT-4可能也在用的推测解码是什么?一文综述前世今生和应用情况众所周知,大型语言模型(LLM)的推理通常需要使用自回归采样,这个推理过程相当缓慢。为了解决这个问题,推测解码(SpeculativeDecoding)已经成为...
-
12-05不到1000行代码,PyTorch团队让Llama 7B提速10倍PyTorch团队亲自教你如何加速大模型推理。在过去的一年里,生成式AI发展迅猛,在这当中,文本生成一直是一个特别受欢迎的领域,很多开源项目如llama.cpp...
-
10-14AI视频生成技术突飞猛进:高清电影画质免费畅享,被誉为“史上最强”号称“史上最强大的视频生成AI”诞生了。效果真的还不错:生成一句提示词,以高清、16:9电影画质为主打超现实主义、动漫、奇幻等各种风格应有尽有最重要的是,免费!...
-
06-27当TS遇上AI,会发生什么?人工智能现在每天都在发展,大型语言模型变得越来越强大。工作中使用AI工具帮忙,将大大提高了工作效率,只需敲几个字符,按Tab键,代码就智能完成。除了代码补全之外...
-
共1页 6条

