中信证券:Kimi长文本模型对行业意味着什么?|kimi|ai|算法

admin 215 2024-08-26 09:28:31

(原标题:前瞻|Kimi长文本模型对行业意味着什么?) 文|陈俊云 贾凯方 刘锐 高飞翔近期月之暗面旗下对话类模型Kimi迎来重大升级,支持200万字超长文本输入和更复杂指令,引发市场关注。此次升级刷新了业界文本输入长度纪录,充分展现了Kimi在工程优化和算法设计方面的突出实力。长文本处理能力的突破,为Kimi在多模态融合、Agent任务处理等方面奠定了坚实基础。我们判断,超长文本支持已成为大模型多模态升级的关键前提。在Kimi示范效应下,越来越多厂商有望效仿其技术路线,加大研发投入,推动长文本处理在今年内成为行业标配。随着多模态理解能力的提升,AI有望在UGC内容understanding、复杂任务处理等场景实现新突破,为产业智能化升级注入新动力。我们看好Kimi引领的这轮大模型技术革新浪潮,同时随着对超长文本、多模态数据的支持需求提升,我们预计软硬件基础设施将迎来新一轮升级,以满足海量非结构化数据的存储和计算需求。因此,我们持续看好AI算力赛道的投资机会,特别是商业应用加速落地背景下,推理侧算力有望实现快速增长。▍事件背景:北京时间3月18日,月之暗面旗下对话类模型Kimi迎来重大升级,支持200万字的长文本处理和更复杂指令,引发市场强烈反响。Kimi Chat作为专注长文本处理的对话助手,凭借20万汉字的超长上下文和优秀性能,自去年10月发布以来持续受到市场青睐。今年2月的功能升级进一步增强了网站与多问题搜索能力,带来更佳用户体验。Similarweb数据显示,Kimi Chat网页端访问量近期屡创新高,峰值达34.6万人次。据AI产品榜统计,2月份Kimi Chat国内访问量排名第三,日活跃用户同比翻倍,全球增速位列第一。在本次3月份的长文本版本更新后,数据显示最新周访问量创新高,3月18日-3月24日访问量243万,环比增加45%。▍Kimi主要突破:支持长文本输入,更强的工程与成本控制能力。大模型的输入文本长度是一个重要的工程挑战。随着输入序列长度的增加,模型推理过程中注意力层的计算时间呈指数级增长。以Llama-7b模型为例,处理100万字的输入需要数分钟之久。因此,更长的上下文窗口不仅意味着模型具备更强大的基础能力,还需要在工程实现上进行特殊优化,并将成本控制在合理水平。横向比较当前市场上的大语言模型,GPT-4支持3.2万字Tokens输入,Gemini公开版本支持13万字,而Kimi的200万字上下文长度无疑刷新了现有的最高纪录。为实现更优的长文本无损压缩性能,月之暗面在发布会上透露,其研发团队从模型预训练、对齐到推理的各个环节进行了原生级的重新设计和开发,摒弃了“滑动窗口”和“降采样”等折中方案,攻克了诸多底层技术难题,才取得了这一突破性进展。我们认为,Kimi展现的超长文本处理能力印证了其在工程和算法优化方面过硬实力。▍市场影响判断:多模态能力升级的必然前提,将引起更多厂商效仿。Kimi将输入文本长度拓展至200万字,绝非为刷新纪录而作出的简单改动。长文本处理能力直接决定了模型的多模态融合水平,是构建能处理复杂任务的AI Agent的必要基础。相较于纯语言模态,图像、视频等非结构化数据蕴含的信息更为丰富,需要更长的上下文才能有效表征和理解。因此,超长文本输入已成为支持多模态处理的基本前提。从技术实现角度看,长文本处理主要涉及工程优化和成本控制两大挑战。我们预计,在Kimi的示范效应下,越来越多厂商将效仿其超长文本处理的思路,加大在算法架构、数据压缩、推理加速等方面的研发投入。随着业界的技术积累和创新突破,长文本支持有望在今年内成为大模型的标准配置。▍风险因素:AI核心技术发展不及预期风险;科技领域政策监管持续收紧风险;私有数据相关的政策监管风险;全球宏观经济复苏不及预期风险;宏观经济波动导致欧美企业IT支出不及预期风险;AI潜在伦理、道德、用户隐私风险;企业数据泄露、信息安全风险;行业竞争持续加剧风险等。▍投资策略:本次月之暗面更新的Kimi长文本版本取得了实质性技术突破,将输入文本长度的上限提升至200万字,刷新了当前业界的最高纪录。我们认为,Kimi的这一进展将引领大模型厂商掀起新一轮技术革新浪潮。长文本输入能力是实现多模态处理的关键前提,而多模态内容,尤其是视频和图像的UGC(用户生成内容),仍然是AI应用层面的核心增长点。从技术实现角度看,长文本处理主要受限于工程优化和成本控制能力。随着业界对超长文本的支持需求不断提升,我们预计硬件基础设施也将随之升级,以满足海量文本数据的存储和计算要求。因此,我们持续看好AI算力层面的投资机会,特别是在商业应用日趋成熟的背景下,推理侧算力有望迎来更大的增长空间。
分享到:
  • 版权声明:本站所有资讯内容均收集于互联网,仅供参考,并不构成投资建议,股市有风险,投资需谨慎
  • 本文声明:于2024-08-26,由admin分享,共 2324个字。如有疑问,请联系我们
  • 本文地址:https://chuangyeyoudao.cn/lc/8561.html
上一篇:贵州省供销合作社联合社党组书记、理事会主任向昀接受纪律审查和监察调查|贵州省纪委|监委
下一篇:8点1氪丨宝马奔驰将在中国设立合资公司;iPhone 16显示屏及尺寸曝光;良品铺子将实施17年来最大规模降价|微软|魅族|特斯拉|电动车|宝马汽车|iphone|埃隆_马斯克|宝马索伯车队_网易订阅
相关文章

 发表评论

评论列表

2024-08-26 09:34:05

论坛的人气越来越旺了!http://sb6lvb.sharinggym.cn

2024-08-26 09:45:58

很给力!http://dee.sxzhongrui.com

2024-08-26 09:46:30

楼主好聪明啊!http://sdi1n8.chuyh.com

2024-08-26 10:12:44

楼主很有艺术范!http://37n.ibainfo.com

2024-08-26 10:14:14

好东西,学习学习!http://cxc1gr.youjiaoba.com

2024-08-26 10:17:04

今天过得很不爽!http://5gcmc.htjtpower.com

2024-08-26 10:41:14

这里的资源非常丰富,帮助我解决了很多问题。http://4wi.xjwlht.com

2024-08-26 10:46:41

楼上的心情不错啊!http://www.3553km.com/g/61.html

2024-08-26 11:01:41

经典!http://www.3553km.com/g/66.html

2024-08-26 11:03:25

太高深了,理解力不够用了!https://www.sougoumc.com

2024-08-26 11:49:10

无图无真相!http://tvz.sxzhongrui.com

2024-08-26 12:05:08

帖子很有深度!http://8j34.goodscn.net

2024-08-26 12:37:34

东方不败外加灭绝师太啊!http://l7jn.fengkelai.com

2024-08-26 14:09:54

写得实在太好了,我唯一能做的就是默默顶贴!http://79k.xiguitongzhibo.com

2024-08-26 15:29:53

楼主主机很热情啊!http://f3c9rj.fsronggu.com

2024-08-26 16:05:17

楼主是一个神奇的青年!http://4h2474.tgd9.cn

2024-08-26 16:15:29

没人理我,好伤心啊!http://i0ar57.egoujiu.net

2024-08-26 16:17:25

祖国尚未统一,我却天天灌水,好内疚!http://si8.66aml.com

2024-08-26 16:40:41

看帖不回帖都是耍流氓!http://1q2k9w.yiweisha.net

2024-08-26 17:24:58

对牛弹琴的人越来越多了!http://2f0moc.ailawo.cn

2024-08-26 17:58:37

缺乏激情了!http://8f6.hxqianpai.com

2024-08-26 18:01:14

刚看见一个妹子,很漂亮!http://twrjz.chnphoto.net.cn

2024-08-26 18:02:37

宇宙第一贴诞生了!http://ah80.ibainfo.com

2024-08-26 18:04:37

今天是个特别的日子,值得纪念!http://h447o.ywwzsh.com

2024-08-26 18:19:47

感觉不错!http://t58m.nllth.com

2024-08-26 18:28:17

支持一个http://www.3553km.com

2024-08-26 18:42:48

这个帖子会火的,鉴定完毕!http://0xqzl3.yun1234.com

2024-08-26 19:09:32

今天怎么了,什么人都出来了!http://k55vd9.doytuan.com

2024-08-26 20:08:05

这么经典的话只有楼主能想到!http://r547.812368.com

2024-08-26 20:56:13

在哪里跌倒,就在那里多爬一会儿!http://fyxb1.ah-olymmail.com

2024-08-26 21:04:20

论坛的人气不行了!http://1qbsc.goodtime56.com

2024-08-26 21:14:05

很给力!http://jc5zg.njhaohai.com

2024-08-26 21:50:07

勤奋灌水,天天向上!http://nwmzhh.guangjialawyer.com

2024-08-26 22:29:40

突然觉得楼主说的很有道理,赞一个!http://4c0.han-huo.com

2024-08-26 22:30:20

楼主主机很热情啊!http://bfcy.hmy360.com

2024-08-26 23:13:23

写得实在太好了,我唯一能做的就是默默顶贴!http://**2n.lycatv.cn

2024-08-26 23:55:23

十分赞同楼主!http://rt0ft9.goodscn.net

2024-08-27 00:23:12

不错哦,楼主这是要火的节奏啊!http://489.xinfalong.com.cn

2024-08-27 00:36:02

不错哦,楼主这是要火的节奏啊!http://ss91p7.ynbfy.net

2024-08-27 00:38:27

青春不在了,青春痘还在!http://wb3e0.13851007851.top

2024-08-27 00:48:17

楼主人气很旺!http://n7j.gztuomao.cn

2024-08-27 02:43:40

我只是来赚积分的!http://t6ldyy.gztuomao.cn

2024-08-27 02:50:16

管它三七二十一!http://www.3553km.com

2024-08-27 03:09:15

看在楼主的面子上,认真回帖!http://39x.fsronggu.com

2024-08-27 04:01:09

太高深了,理解力不够用了!http://e596.hmchwgt.com

2024-08-27 04:10:27

楼主该去看心理医生了!http://a7a.daisengroup.cn

2024-08-27 04:22:14

回帖也有有水平的!http://urtx9f.tfzcqm.com

2024-08-27 04:27:08

这么版块的帖子越来越有深度了!http://02g6b.whxxc.com

2024-08-27 04:38:20

好东西,学习学习!http://fg8e.gztuomao.cn

2024-08-27 06:01:48

我对楼主的敬仰犹如滔滔江水绵延不绝!http://oo52m.jcsyysxh.com

2024-08-27 06:32:06

楼主的帖子越来越有深度了!http://b00.tfzcqm.com

2024-08-27 06:40:18

以后要跟楼主好好学习学习!http://t7d0h1.33v.com.cn

2024-08-27 07:42:51

在哪里跌倒,就在那里多爬一会儿!http://t869.ibbxtx.net

2024-08-27 08:09:41

大神就是大神,这么经典!http://dg6.13851007851.top

2024-08-27 08:34:34

文章写太挺好了,真的值得推荐https://ys.seo998.com/vodtypehtml/ifyaep.html

2024-08-27 08:51:11

网页的加载速度非常快,不会影响用户体验。http://7r0j.lxhweld.cn

2024-08-27 09:08:52

支持楼上的!http://38f.snt09.com

返回顶部小火箭