以色列初创公司 AI21 Labs 开发了 Jurassic-1 Jumbo 语言模型,在参数数量和词汇量方面超越了竞争对手 GPT-3。
今天,我们推出了 AI21 Studio,这是一个平台,你可以在其中即时访问我们最先进的语言模型来构建你自己的应用程序 – 包括 178B 参数模型 Jurassic-1 Jumbo。 我们迫不及待地想看看你创造了什么 https://t.co/NhCnF1Emcy
– AI21 Labs (@ AI21Labs) 2021 年 8 月 11 日
该公司表示,该模型的最大版本包含 1780 亿个参数。 这比GPT-3多了30亿,但是明显不如华为的盘古-Alpha或者五道2.0。
Jurassic-1 可以识别 250,000 个词汇元素,包括表达式、单词和短语。 开发人员指出,这是其他类似系统的五倍。
Jurassic-1 Jumbo 词汇也是最早采用“冗长”元素(如帝国大厦)的词汇之一。 开发人员说,这意味着该模型可以对人们有意义的概念进行更丰富的语义表示。
“扩展基于语言的人工智能的边界需要的不仅仅是当前语言模型提供的模式识别,”AI21 Labs 首席执行官 Yoav Shoham 说。
该公司还表示,他们的目标是让每个人都可以使用语言模型。
该算法目前处于公开 beta 测试阶段,开发人员可以通过 API 或交互式 Web 环境使用。
提醒一下,8 月份,OpenAI 推出了一个基于 GPT-3 的 Codex 平台,用于基于文本提示自动编码。
8月初,微软开发了1350亿参数的MEB语言模型,并集成到了必应搜索引擎中。
6月,北京人工智能研究院推出五道2.0模型,性能比GPT-3高十倍。
1 月份,谷歌公布了 Switch Transformer 语言模型,其中包含 1.6 万亿个参数。
在 Telegram 上订阅 ForkLog 新闻:ForkLog AI – 来自 AI 世界的所有新闻
发现文中有错误? 选择它并按 CTRL + ENTER
内容搜集自网络,整理者:BTCover,如若侵权请联系站长,会尽快删除。