前向_第9页_陕西然坤悦科技有限公司

400-5689-0921
客服咨询
- 在线咨询

新闻中心 NEWS CENTER

您当前位置：首页

07-03

清华朱军团队新作：使用4位整数训练Transformer，比FP16快2.2倍，提速35.1%，加速AGI到来！

将激活、权重和梯度量化为4位，有望加速神经网络训练。然而，现有的4位训练方法需要自定义数字格式，而现代硬件不支持这种格式。最近，清华朱军团队提出了一种使用INT...
07-02

类GPT模型训练提速26.5%，清华朱军等人用INT4算法加速神经网络训练

我们知道，将激活、权重和梯度量化为4-bit对于加速神经网络训练非常有价值。但现有的4-bit训练方法需要自定义数字格式，而当代硬件不支持这些格式。在本文中，清...

: 电话

: 客服

: 地图

: 搜索