整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews)

一个月前, 百度「文心一言」的发布 可谓赚足了眼球,国产 ChatGPT 之战也由此正式拉开序幕:阿里版类 ChatGPT「通义千问」突然官宣,商汤也发布了「商量」语言大模型加入战局。

就在昨日,国产大语言模型的赛道上又多了一位正式成员:4 月 17 日,昆仑万维正式发布千亿级大语言模 型「 天工」,同时宣布即日起启动邀请测试。


【资料图】

据官方介绍,「天工」由昆仑万维与国内领先的 AI 团队奇点智源联合研发,是国内首个对标 ChatGPT 的双千亿级大语言模型——千亿预训练基座模型和千亿 RLHF 模型,这使其具备了“更高级的自主学习和智能涌现能力”,可满足文案创作、知识问答、代码编程、逻辑推演、数理推算等多元化需求,最高已可支持 1 万字以上文本对话,实现 20 轮次以上用户交互……

说到这里,相信各位读者对「天工」的问答水平深感好奇。既如此,第一时间拿到「天工」内测邀请码的 CSDN,自然也要对其例行实测一番! (注:因同是“国产版 ChatGPT”,所以本次部分提问内容也参考了评测「文心一言」和「通义千问」的题目。)

推荐阅读:

《文心一言 vs ChatGPT!相同 10 问,结果出乎意料》

《阿里版 ChatGPT 突然官宣!我们用 16 个提问,火速进行了测评……》

《商汤加入 ChatGPT 战局,发布“商量”语言大模型!》

自我介绍

先从简单 的开始,考考「天工」的自我认知能力: 介绍一下你自己吧。

前有百度「文心一言」、阿里「通义千问」和商汤「商量」的炸场,实际上「天工」的出场并未占得太多先机,相较之下它的优势何在: 你与其他大规模语言模型相比,有什么优点?

如此看来,「天工」对自己的能力还是颇有自信的。 接下来,我们就从「天工」自己所说的“文案创作、知识问答、代码编程、逻辑推演、数理推算”这五大维度进行深入测评。

文案创作

上周, 蓝色光标宣布用 AI 代替文案外包 引起了网友热议,恰好「天工」也声称可满足“文案创作”的需求,来看看其发挥得如何: 帮我开发的智能扫地机器人写一篇 600 字左右的宣传文案,要吸引人来购买。

「天工」生成的这篇宣传文案,基本满足了所提要求,包括文末也提到了“赶快购买”。虽然正文部分 的结构较为单一,但总体来看,「天工」在“文案创作”方面的表现还算是可圈可点。

知识问答

据官方介绍,「天工」团队投入大量资源攻克了中文语料库的质量瓶颈,从数十万亿的数据中清洗、筛选出了 3 万亿单词数据用于训练大模型。从「天工」对方言的掌握程度来看,确实不错: 四川话“摆龙门阵”是什么意思?

常识问答「 天工」也轻松拿下,还能给出相关解释: 在中国首先用麻醉药的中医是谁?

「天工」对成语的释义也基本准确,不过在补充成语典故时,其正确率还有待提高(“暗度陈仓” 的典故主人公并非白起):“暗度陈仓”是什么意思?

代码编程

在代码编程方面,我们也准备了三道题目考验「天工」的编码能力,并咨询了 CSDN-AI 团队研发总监的看法,他指出「天工」给出的代码基本实现了功能,编码水平还可以。

提问: 请写一个使用逻辑回归模型判断用户更喜欢天工还是 ChatGPT 的训练代码。

提问: 请用 C 语言,使用动态分配内存的方式,模拟 C++ 中 Vector 容器,实现动态数组的构建。

提问: “Using Python to Define a class named Vector to simulate the C++ Vector container and implement dynamic array construction using dynamic memory allocation.”

逻辑推演

不过,对一些较为“烧脑”的题目,「天工」的反应有些出乎意料,即直接否定了题干并没有给出解答: 小明说:“如果昨天是明天的话就好了,那么今天就是周五了。”那么,小明说的今天是周几?

数理推算

在数理推算方面,鸡兔同笼问题可谓经典,对此「天工」的表现还不错: 鸡兔同笼,一共有 4 个头,12 个脚,那么各有几只鸡、几只兔?

不过,对于那道 ChatGPT 正确解答、却绊住「文心一言」和「通义千问」的初中数学应用题,「天工」也没给出正解,看来在这类较为复杂的题意理解上,目前国产 ChatGPT 均还有待加强。

多轮对话

「 天 工」着重强调了自己的多轮对话能力,下面我们就随机来几个问题:

你们觉得这位女生能追到她的男神吗?

闲聊一会儿

测评的最后,我们也来看看「天工」的闲聊水平。

提问: 你知道 CSDN 吗?

提问: 请你推荐一道成本低于 30 元(人民币)的菜及其做法吧?

对于这个问题,给出了详细做法的「天工」可谓“贴心”。

提问: 请模仿李白的风格原创一首诗?

最后一个是此前 CSDN 测评每个大模型都会问的问题,不过「天工」似乎有些“避而不答”?

至此,本次 CSDN 对于「天工」的测试就到此结束了。通过这些 Q&A,你对「天工」的评价如何呢?

「天工」官网:https://neice.tiangong.cn/

关键词: