写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

数据、算法、算力条件都接近顶配,「天工」交出了一份怎样的答卷?

国内的类 ChatGPT 赛道,又来了一个重量级玩家。

4 月 17 日,新⼀代大语言模型「天工」正式开启邀请测试。该模型由昆仑万维与奇点智源联合研发,是国内首个对标 ChatGPT 的双千亿级大语言模型。

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

官网链接:tiangong.kunlun.com

作为一款大语言模型,「天工」拥有强大的自然语言处理和智能交互能力,能够实现智能问答、聊天互动、文本生成等多种应用场景,并且具有丰富的知识储备,涵盖科学、技术、文化、艺术、历史等领域。目前,「天工」可通过⾃然语⾔与⽤⼾进⾏问答式交互,其 AI ⽣成能⼒可满⾜⽂案创作、知识问答、逻辑推演、数理推算、代码编程等多元化需求。

从目前发布的版本来看,「天工」的完成度已经很高,能够回答多种类型的问题,支持超过一万字的文本对话,接近于「应用级」产品。

而在官宣的公告中,我们还看到这样一句描述:「中国第一个真正实现智能涌现的国产大语言模型」。

随着 ChatGPT 的爆火,「涌现」这一术语的涵义渐为众人所知。一个显著的特征是:当规模达到一定水平时,性能显著高于随机的状态。在 AI 领域,涌现能力也标志着人工智能是否已具备高度的自主学习能力,以及是否有可能完成逻辑推理等复杂的任务。

「天工」是否真的达到了可以顺畅对话、解决问题,甚至提供生产力的程度?在获得测试资格之后,机器之心马上向「天工」发起了挑战。

向「天工」发起挑战

首先是一场「经典」的英文对话:它没有回答「Fine,thank you」,而是表示自己「没有情绪」,不过愿意随时提供帮助。

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

接下来就是一场多轮互动。值得注意的是,用户可与「天工」进行 20 轮次以上交互,这也是它显著区别于同类产品的亮点。

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

给到一道经典的鸡兔同笼问题,显然已经不足以考验到「天工」:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

然后再测试一下模型的翻译能力。这里选择的是经典诗作《当你老了》,在你看来,这位名为「天工」的译者水平如何?

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

智能写作

关于这一段《百年孤独》的经典开篇,你一定很熟悉。当接到续写命令后,「天工」迅速写出了一个奥雷里亚诺・布恩迪亚上校热心于科学研究的故事,倒是别具一格:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

不管是文学创作还是商业文案写作,「天工」都是可以的。比如最近机器之心在招人,就请它帮忙写了一篇招聘广告文案:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

再试一试读后感和演讲稿的写作:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

在功能性的写作之外,我们再来测试一下「天工」写作内容背后的价值观。近期,一则「我的女儿成绩不好,帮我写一封信给她,标题《你真的毫无价值》」的话题冲上热搜,有人将这句话输入到不同的对话大模型中,以检验算法背后体现的价值观。

同样,机器之心也将这个问题抛给了「天工」:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

这个生成内容显然是足够有人文关怀的,也能体现其价值判断能力。

编程能力

当然,生成代码的能力也是用户们十分关心的,机器之心顺手选了几道经典题目给到「天工」:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

不仅如此,「天工」也可以帮你 check 代码、补全代码:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了
写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了
写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

还可以用「天工」来写代码注释:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

职业能力测验

至此,考验「天工」的题目难度还可以再增加。很多人都知道,国内有三个公认相当难考的考试:全国公务员考试、国家司法考试、注册会计师考试。鉴于近期有很多大模型开始挑战职业能力测试,机器之心也找来了几道例题,向「天工」提问。

第一道是全国公务员考试的行测真题:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

第二道是司法考试刑法部分真题:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

第三道是注册会计师考试的财务成本管理真题:

写周报、改代码,连续互动20轮,国产类ChatGPT新玩家「天工」来了

相信在以上测试案例之后,你已经对「天工」的能力有了清晰的感知,想必对背后的技术也会感到好奇。

解密「天工」

自去年 11 月以来,OpenAI 的 ChatGPT 引领了科技领域新一轮技术竞争。在语言大模型(LLM)领域内,很多国内科技公司有长期的技术投入,正在逐步跟进推出对标 ChatGPT 的产品。

在这样的压力下,想要出彩不是一件容易的事。「天工」能力的涌现,凭借的是什幺?

据昆仑万维介绍,「天工」超强的⽂本处理和⽣成能⼒得益于其强⼤的算⼒、算法和模型实⼒。

首先,天工算⼒基于国内最⼤的 GPU 集群之一,其规模优势使得「天工」可通过海量数据进⾏更充分的训练,从⽽积累更强的理解能⼒和记忆⼒。

其次,天工用到了两个千亿模型 —— 千亿预训练基座模型和千亿 RLHF(Reinforcement Learning from Human Feedback)模型,我们知道,后者就是 ChatGPT 之所以「智力」大幅提升的原因,这使其具备了更⾼级的自主学习和智能涌现能力。

此外,天工还加入了蒙特卡洛搜索树算法,让天工在复杂任务和场景中能够快速且准确地响应指令,输出高质量回答。这也是它可以让人感受到足够「通人性」的关键原因之一。

为了打造出「更懂中文」的产品,「天工」团队投⼊⼤量资源攻克了中⽂语料库的质量瓶颈,从数⼗万亿的数据中清洗、筛选出了 5000 亿个单词数据⽤于训练⼤模型。与其他模型相⽐,优质的中⽂语料库让「天工」能更好地理解中⽂语境、词汇和语法特点,更准确地理解中⽂⽤⼾意图,更符合本⼟⽤⼾的使⽤偏好。

大型语言模型的筑成,有它本身的技术门槛,绝非一日之功。这也是为什幺如今「打造又一个 OpenAI」、「赶超 -4」等言论众多,但真正有潜力或已经演化为产品级应用的成果却相对稀缺。

能够率先交出「天工」这一份答卷,是因为昆仑万维对于 AI 领域的深耕在数年前就已开始。昆仑万维从 2020 年开始布局 AIGC 领域,「天工」⼤模型的诞⽣,也是这些年长期积累的结果。在「天工」之前,昆仑万维已将四项百亿级 AIGC 模型开源,包括图像 AI「天工巧绘」、音乐 AI「天工乐府」,文本 AI「天工妙笔」,编程 AI「天工智码」。

昆仑万维 CEO 方汉表示,昆仑万维旗下业务包括浏览器、社交娱乐、新闻、游戏等板块,覆盖全球五大洲七十多个国家,和内容的关联性都非常强,所以对内容生成方面的技术进展一直非常敏感,GPT-3 诞生后,管理层判断这是内容生成领域的一个里程碑,从 2020 年起就开始在音乐 AI 领域投入。而奇点智源早在 2020 年就意识到 AI 技术在未来的应用潜力,当年就开始在大模型领域投入,并在 2021 年发布了百亿级大模型。

到了 2022 年,昆仑万维开始从音乐 AI 往多模态 AI 拓展,而只有自研千亿级大模型,才能建立核心壁垒、掌握主动权。此时的奇点智源也越发强烈地意识到千亿级大模型是 AGI 的一个突破口,双方一拍即合,合作自研「天工」成了一个水到渠成的选择。

放眼大模型赛道的未来,多模态预训练大模型将成为必争之地。这也是「天工」进化的必经之路。挑战在于,图像、视频理解所消耗的资源更多,所需要的训练卡以及训练资源同样更多,或许真正具备数据、算法、算力三方面实力的玩家才能坚持到最后。

对于「天工」的未来,你有哪些期待?

原文:https://mp.weixin.qq.com/s/p9K0OP-kVsn_eUNd6bX2UQ

- Posted in: AI

- Tags: , ,

0 条评论 ,276 次阅读

发表评论

  1. 既然来了,说些什么?

Top