不紧不慢的腾讯,明天官宣混元大模型,且看如何对付“幻觉”
腾讯混元助手,仅限受邀用户
说明文档很简洁,介绍了它具有多轮对话、内容创作、逻辑推理、知识增强等产品优势,可用于文档场景、会议场景、广告场景与营销场景。白名单里的已实名腾讯云企业账号,拥有累计10万token的免费调用额度,此后,按每千token人民币0.14元的刊例价计费。在百模大战中,腾讯一直保持着不紧不慢的研发节奏。马化腾曾在股东大会上回应,这是几百年不遇的、类似发明电的工业革命一样的机遇,腾讯并不急于把半成品拿出来展示。腾讯拥有13.3亿微信(合并WeChat)月活用户数,1.15亿视频付费会员,1亿音乐付费会员,被视为中国最有机会做成面向C端的大模型产品与应用的巨头之一。在美国,这个角色由谷歌与Meta扮演。它们曾担心大模型不成熟,影响原有业务的稳定运行。于是,谷歌的Bard姗姗来迟,Meta不得不暂时打造开源生态。它们的担忧并非没有道理。微软与OpenAI的ChatGPT推出后,引发了病毒式传播,也激起了巨大的争议。它们招来了监管的注视。这些拥有海量C端用户的大模型厂商,最需要解决的难题之一,就在于“幻觉”问题。据业内人士透露,腾讯在混元大模型的预训练中,采用了TruthForest技术,以减少大模型的“事实幻觉”,以及动态锯齿状注意力机制,以缓解上下文干扰等等。此外,在这几个月不紧不慢的研发节奏中,腾讯打通了从模型算法到机器学习框架再到AI基础设施的全链路自研技术。之前腾讯研发了新一代 HCC 高性能计算集群与向量数据库等,并自研了Angel机器学习框架,提升训练速度和推理速度。我们也将对腾讯的国产自研大模型,进行“全链条”拆解。
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请
点击举报。