新闻中心
-
04-15Js-pytorch:开启前端+AI新世界Hello大家好,我是徐小夕。最近在Github上发现了一个非常有意思的框架——js-pytorch。它可以让前端轻松使用javascript来运行深度学习框架...
-
04-03大模型中常用的注意力机制GQA详解以及Pytorch代码实现组查询注意力(GroupedQueryAttention)是大型语言模型中的一种多查询注意力力方法,它的目标是在保持MQA速度的同时实现MHA的质量。Group...
-
03-07PyTorch 该怎么学?太简单了很多朋友都向我咨询如何学习PyTorch,实践证明,初学者只需掌握少量概念和用法即可。让我们一起看看这个简明指南的总结!构建TensorPyTorch中的Ten...
-
02-27真快!几分钟就把视频语音识别为文本了,不到10行代码大家好,我是风筝两年前,将音视频文件转换为文字内容的需求难以实现,但是如今只需几分钟便可轻松解决。据说一些公司为了获取训练数据,已经对抖音、快手等短视频平台上的...
-
02-20自然语言生成任务中的五种采样方法介绍和Pytorch代码实现在自然语言生成任务中,采样方法是从生成模型中获得文本输出的一种技术。这篇文章将讨论5种常用方法,并使用PyTorch进行实现。1、GreedyDecoding在...
-
01-16利用PyTorch实现混合专家模型(MoE)Mixtral8x7B的推出在开放AI领域引起了广泛关注,特别是混合专家(Mixture-of-Experts:MoEs)这一概念被大家所熟知。混合专家(MoE...

