| 广告联系 | 繁体版 | 手机版 | 微信 | 微博 | 搜索:
欢迎您 游客 | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

首页

温哥华资讯

温哥华地产

温哥华教育

温哥华财税

新移民/招聘

黄页/二手

旅游

记忆体杀手?新技术让多头丢盔弃甲


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
科技大厂Google日前发表最新AI压缩技术TurboQuant,这项可以将AI模型中在推论过程中所需的记忆体大幅减少,这一消息传出后震撼了业界,也让市场开始质疑记忆体芯片的荣景是否能够延续。


TurboQuant是一种旨在解决“键值快取(Key-Value Cache)”瓶颈问题的演算法,Google将键值快取描述为“数位作弊表”,他实际上充当了AI模型的短期记忆。每当大型语言模型处理一段对话时,都会将过去的计算结果储存在这个快取中,这样就无需从头开始计算。

随着对话愈长,这份表就愈大,占用GPU(图型处理器)记忆体的速度就愈快。虽然可以透过压缩资讯来增加这张“作弊表”的容量,但他仍会很快被填满,然而,压缩可能会导致模型出现“幻觉”或是出错。


TurboQuant旨在解决其中的一些问题,Google研究人员表示,TurboQuant将AI模型中的键值记忆体大小减少了至少6倍,并将速度提高了8倍,且不影响模型准确性。

市场听说AI相关的记忆体使用量减少了6倍,这可能会让那些从记忆体类股热潮中获利的投资人感到担忧,因为这些公司的涨势是建立在AI对记忆体处理器和储存容量不断成长的需求之上。

Evercore分析师达里亚纳尼(Amit Daryanani)指出,Google推出的TurboQuant为大幅降低AI工作负载的记忆体提供了一条途径。如果TurboQuant能够获得显著发展,可能会对DRAM(动态随机存取记忆体)和NAND(储存型快闪记忆体)等记忆体的长期需求预期构成压力。

美光单周市值蒸发700亿美元

受到Google最新技术的打击,美国记忆体芯片股单周市值蒸发近1000亿美元。

其中以美国记忆体大厂美光科技表现最惨烈,单周市值蒸发超过700亿美元,跌幅达15%。去年,标普500指数当中表现最好的快闪记忆体制造商晟碟(SanDisk)单周市值蒸发约150亿美元;记忆体公司威腾电子(Western Digital)和希捷(Seagate)市值也分别蒸发了数十亿美元。


加州资产管理公司Informed Momentum Company投资长普伦帝斯(Travis Prentice)表示,这些股票已经经历了巨大的上涨,因此任何微小的消息都可能导致股价下跌,这是合乎逻辑的情况。

普伦帝斯补充,记忆体类股的上涨行情看起来还没有结束,但市场预期很高,因此获利了结是明智之举,尤其是在当前动荡的市场环境下。

效能更强的AI模型需用更多记忆体


专家表示,虽然TurboQuant技术可以减少记忆体使用量,但对记忆体需求减缓的担忧有些过头了。普遍观点认为,尽管Google宣布记忆体使用量可能减少,但这将推动AI技术的进步和普及。因此,TurboQuant技术出现实际上代表芯片需求增加,而不是减少。

一些分析人士指出,提高资源利用率往往会导致资源消耗增加,因为效率提升会开启以前不存在的用途。

摩根大通(JPMorgan)报告就提到了这一论点,报告中认为,记忆体消耗短期内不会受到威胁。 SemiAnalysis分析师也提到,解决瓶颈问题可以提升AI硬体的效能,而效能更强的模型最终需要的是更多的记忆体,而不是更少记忆体。

摩根士丹利(Morgan Stanley)分析师在报告中写道,TurboQuant等效率提升技术可以减少运行AI模型所需的基础设施。如果模型能够在不损失性能的前提下,大幅降低记忆体需求,那么每次查询的服务成本将明显下降,进而提升AI的盈利能力。原本需要云端丛集的模型现在可以部署在当地的硬体上,有效降低了大规模部署AI的门槛。

Sandisk财务长威索索(Luis Visoso)在与美银证券(BofA Securities)分析师的对话中也谈到这一议题。威索索指出,TurboQuant可以提升超大规模资本支出的投资报酬率,而这种效率的提升,反过来又可能推动需求上升。


您的点赞是对我们的鼓励     这条新闻还没有人评论喔,等着您的高见呢
上一页12下一页
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 在此页阅读全文
    猜您喜欢:
    您可能也喜欢:
    我来说两句:
    评论:
    安全校验码:
    请在此处输入图片中的数字
    The Captcha image
      大家正在围观
    创造历史!加拿大战胜南非晋级16强
    又涨价!大温公交票价本周全面上涨
    加拿大急诊室长时间等待真正原因
    刘国梁双胞胎女儿: 老大被藤校争
    加拿大卡车司机违规撞死华人妈妈
    气愤 电动滑板在温市行人道撞伤人
    泳池'肉体激战'恐怖画面曝!比基尼
    遗忘的彩票 加国女子中奖提前退休
    数千加国球迷涌洛杉矶 为球队加油
    淘汰赛今日开始 加拿大对阵南非
      同类热门新闻
    马斯克、小扎子女都学这语言 富豪
    马斯克贝索斯和扎克伯格子女都在
    苹果涨价,美光开撕 我们终于要交A
    美光高管吐槽苹果涨价:芯片涨45美
    苹果涨价最新:MacBook贵15% Mac m
    苹果加价之际,科技与电玩企业纷纷
    前Google执行长警告:中国AI技术仅
    谷歌前CEO忧心 中国AI全面开源 不
    互联网既在消失,又在永生:删不干
    进军光通信!马斯克也要站在"光"里
      随时阅读新闻

    加西网微信

    大温优惠小红书

    温哥华地产中心微信

    Android: 加西网
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    页面生成: 0.0401 秒 and 6 DB Queries in 0.0041 秒