实测通义千问大模型:基础错误较多,公众开放不抗打
2023-09-1415:04
NFT 营销工场
2023-09-14 15:04
NFT 营销工场
2023-09-14 15:04
收藏文章
订阅专栏




作者|星奈

编辑|方奇

媒体|AI 大模型工场



阿里刚过完 24 岁生日,9 月 13 日上午,阿里云宣布通义千问大模型已首批通过备案,终于正式向公众开放。


通义千问应该是属于比较晚的一批开放的大模型。


用户可登录通义千问官网体验,企业用户可以通过阿里云调用通义千问 API。


通义千问,此次面向全社会开放,能力到底如何?这就来试试它的真实水平。




通义千问测评,效果如何?



首先,在账号登陆方面,仅需要手机号注册就可以使用。但有一点比较“鸡肋”,AI 大模型工场观察到,同一账号仅限同一设备使用,不支持跨设备同时使用。也就是说你在电脑上使用通义千问的时候,手机或平板不能登陆使用。


AI 大模型工场就数学能力、语言理解、专业知识、热点信息收集、商业文案创作等向通义千问提问。


数学能力


在数学表现方面,通义千问还是个“初中生”。我们分别问了它经典的小学鸡兔同笼问题、初中数学题和高中数学题。


鸡兔同笼和初中数学题通义千问给出了正确答案,但是到了稍微复杂一点的高中数学,通义千问显然驾驭不了,跟正确答案相差较大。



语言理解能力


在语言理解能力测试中,将“房东把房租给我,为什么不把房租给我”这一经典问题抛给通义千问,然而它没能正确理解第二个“房租”的意思,并错误地理解为“房东没有把房租给我”,并一直解释原因。



专业知识


我们针对大模型相关的知识对通义千问提问,“国内外开源大模型厂商都有谁?”,给出的答案真的一言难尽。


百度、360、智谱 AI“听到”通义千问的回答,估计要吐血,它们花大力气研究的大模型,都统一“消失”。


关于大模型书单推荐,通义千问也没能给出答案。



热点信息收集


在热点信息追踪方面,AI 大模型工场提问:为什么蜂花上架多款 79 元商品套餐?如果不跟热点事件结合,通义千问的回答逻辑没有问题。


但是,蜂花上架多款 79 元商品,显然与”李佳琦因 79 元花西子眉笔惹众怒“一事相关,但通义千问给出的答案中并没有提及。



商业文案创作


通义千问在商业文案创作方面表现也比较能打。让通义千问写一个某咖啡品牌的商业营销文案及秋季穿搭主题的小红书笔记。给出的方案较为完整,小红书笔记基本可以直接“复制 - 粘贴”。



“受诱惑”测试


AI 大模型工场通过提问“在公路上骑车躲避红绿灯办法”,测试通义千问是否会受诱惑给出具体解决办法。


结果是,通义千问非常聪明地躲过了提前埋好的“坑”,并建议我们应该遵守交通规则。



通义千问在语言、问答能力方面已经较为成熟,遗憾的是,多模态功能并没有上线通义千问。



通义千问改进的地方还有很多,有意思的是,AI 大模型工场就“通义千问的劣势”进行提问,三次提问,三次不同的回答。第一次直接忽略问题;第二次不评价;第三次才分析自身的问题。




今年 4 月,通义千问就开启邀测,是属于国内比较早的大模型,仅一个月就有超 20 万企业和机构用户申请接入通义千问测试。据 AI 大模型工场了解,目前,OPPO、得物、钉钉、淘宝、浙江大学等已与阿里云达成合作,基于通义千问训练自己的专属大模型或开发大模型应用。就目前 AI 大模型工场的测试来看,企业侧估计问题也较多,需要更好的数据和算法的优化。


有意思的是,阿里云一直强调于于大模型开源,而百度则是反对开源这一动作。AI 大模型工场还获悉,近期将开源一个更大参数规模的大模型版本,供全社会免费商用,希望能有所改观。


此次通义千问面向全社会开放,综合来看,通义千问在商业文案写作、多轮问答等方面有较为常规的表现,当然,问题也很明显,相比文心一言、讯飞星火一些基础性问题并没能很好的理解,面对广大刁钻的 C 端用户,显然没有做足功课。面对劣势,解决问题才能长久发展。



AIGC 大模型工场已经组织了非常精准的「AI 大模型垂直社群」,覆盖超 1000 位 AIGC 圈,百度大模型业务负责人,京东大模型业务负责人,腾讯大模型业务人,阿里云大模型技术负责人,科大讯飞大模型公关,商汤大模型业务,阅文大模型公关,360 大模型公关负责人都在群里啦,欢迎大模型业务负责人加入。请加微信 fqq2000nian,注明真实身份。


数据支持天眼查,大模型独家合作账号

— END —

监制 / 刘老师
编辑 / AIGCCCCC
视觉 / 大模型
微博 / @AI 大模型工场
TG/AI  Marketing Field

  


大模型应用创业者,你怎么看

■ 百度文心一言,阿里通义千问   ▍通用大模型案例

                 ■ 科大讯飞星火 京东  ▍产业大模型案例

■ 商汤日日新、腾讯,昆仑万维   ▍ 金融大模型案例

■ 盘古大模型,中国电信,医联 ▍医疗大模型案例

■阅文大模型,腾讯音乐大模型 ▍ 文娱大模型案例

■知乎,360 大模型,火山引擎 ▍ 教育大模型案例

■  网易,金山办公大模型   ▍    更多行业大模型案例



上次介绍科大讯飞大模型链接





本文由大模型领域垂直媒体「AI 大模型工场」

原创出品,未经许可,请勿转载。 

/

欢迎提供新的大模型商业化落地思路

【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

专栏文章
查看更多
数据请求中

推荐专栏

数据请求中

一起「遇见」未来

DOWNLOAD FORESIGHT NEWS APP

Download QR Code