PaLM 2 正在参加 2021 年度 OSC 中国开源项目评选,请投票支持!
PaLM 2 在 2021 年度 OSC 中国开源项目评选 中已获得 {{ projectVoteCount }} 票,请投票支持!
2021 年度 OSC 中国开源项目评选 正在火热进行中,快来投票支持你喜欢的开源项目!
2021 年度 OSC 中国开源项目评选 >>> 中场回顾
PaLM 2 获得 2021 年度 OSC 中国开源项目评选「最佳人气项目」 !
授权协议 未开源
开发语言
操作系统 跨平台
软件类型 开源软件
开源组织 Google
地区 不详
投 递 者 白开水不加糖
适用人群 未知
收录时间 2023-05-16

软件简介

PaLM 2 是谷歌推出的下一代大型语言模型。擅长高级推理任务,包括代码和数学、分类和问答、翻译和多语言能力以及自然语言生成。

谷歌声称 PaLM 2 是一种最先进的语言模型,要优于其之前所有的 LLM,包括 PaLM。目前,PaLM 2 已被用于 Med-PaLM 2 和 Sec-PaLM,并为谷歌的生成人工智能功能和工具(如 Bard 和 PaLM API)提供支持。

推理:PaLM 2 可以将复杂的任务分解为更简单的子任务,并且比以前的 LLM(如 PaLM)更善于理解人类语言的细微差别。例如,PaLM 2 擅长理解谜语和成语,这需要理解词语的歧义和比喻意义,而不是字面意义。

多语言翻译:PaLM 2 在一个包含 100 多种语言的语料库上进行了训练,使得 PaLM 2 擅长多语言任务,包括比以前的模型更细微的措辞。

编码:PaLM 2 还可以理解、生成和调试代码,并接受了 20 多种编程语言的预训练。这意味着它擅长使用 Python 和 JavaScript 等流行的编程语言,但也能够使用 Prolog、Fortran 和 Verilog 等语言生成专用代码。将此与其语言功能相结合可以帮助团队跨语言协作。

PaLM 2 因其构建方式而擅长高级推理、翻译和代码生成等任务。它通过统一大型语言模型中三个不同的研究进展,对其前身 PaLM 进行了改进:

  • 使用计算最优缩放:计算最优缩放的基本思想是按比例缩放模型大小和训练数据集大小。这种新技术使 PaLM 2 比 PaLM 更小,但效率更高,整体性能更好,包括更快的推理、更少的服务参数和更低的服务成本。
  • 改进的数据集混合:以前的 LLM,如 PaLM,使用的预训练数据集主要是英文文本。PaLM 2 通过更多语言和多样化的预训练混合改进了其语料库,其中包括数百种人类和编程语言、数学方程式、科学论文和网页。
  • 更新的模型架构和目标: PaLM 2 具有改进的架构,并接受了各种不同任务的训练,所有这些都有助于 PaLM 2 学习语言的不同方面。
展开阅读全文

评论

点击引领话题📣 发布并加入讨论🔥
发表了资讯
2024/02/03 10:54

谷歌 Bard 支持文本生成图像功能

谷歌对话式 AI 工具 Bard 近日发布了更新,此次更新后将支持文生图和扩展双重检查功能。 https://bard.google.com/updates Bard 此次新增的图像生成功能将在全球受支持的地区免费提供,由谷歌 Imagen 2 模型提供支持,但需要英语指令。用户现在可以根据向 Bard 提供的描述生成自定义图像。谷歌承诺,Bard 可提供“高质量、逼真的图像输出”。 谷歌表示,Imagen 2 不会生成暴力、攻击性或包含色情内容的图片。此外,Imagen 2 还接...

1
0
发表了资讯
2023/09/20 15:28

Bard 更新:迄今为止最强大的模型、集成谷歌全家桶

谷歌对话式 AI 产品 Bard 近日发布了更新。 从现在开始,Bard 开始提供插件生态。它可以调用丰富的谷歌应用 API,从而执行复杂的操作。你每天使用的谷歌工具,比如 Gmail、Docs、Drive、谷歌地图、Youtube、谷歌航班等应用,Bard 都能打开,然后从中为你找到需要的信息。 即使需要的信息分散在多个应用和服务中,有了 Bard 也能快速集成。 下文是更新说明。 全新推出:Bard 迄今为止最强大的模型 具体变化:得益于你的反馈,Bar...

3
2
发表了资讯
2023/08/09 17:02

谷歌发布 AI 代码编辑器:Project IDX

8 月 8 日,谷歌宣布推出 AI 代码编辑器 Project IDX,这是一个基于浏览器的开发环境:集成 AI、支持全栈编程语言、跨平台真机预览、一键部署,用于构建全栈网络和多平台应用程序。 谷歌在创建 Project IDX 时并没有构建新的 IDE(集成开发环境),而是使用 VS Code 作为其项目的基础。这让团队能够专注于与 Codey 的集成,Codey 是谷歌基于 PaLM 2 的编程任务基础模型。Project IDX 支持智能代码补全,可以帮助开发者解答一般编...

3
7
发表了资讯
2023/07/26 19:00

Stack Overflow 访问量大幅下降,马斯克称其已被 LLM 取代

谷歌 DeepMind 团队的员工发文称,过去一年半,编程问答社区 Stack Overflow 的访问量下降了五成。 从 2021 年 4 月到 2022 年 4 月,Stack Overflow 的页面浏览量还能维持在 2000 万左右,但从去年 4 月到今年 7 月,它的访问量跌至了 900 万,下降超过了五成。 对此,马斯克直言 Stack Overflow 已被 LLM(大语言模型)“杀死”。 在另一份关于 Stack Overflow 的数据图表中,分析师指出“用户花在 Stack Overflow 上的时间比...

4
2
发表了资讯
2023/07/14 10:44

谷歌对话式 AI 产品 Bard 已支持中文

谷歌对话式 AI 产品 Bard 昨日发布了重要更新,现在已支持更多国家/地区和更多语言(包括中文)。 此外还添加了 Google Lens 功能——可在 prompt 中使用图像,以及新的文本转语音功能,可以通过朗读的方式收听回复。 马斯克还在谷歌 CEO 皮柴转发更新公告的推文下面捧了一下场。 其他变化: 更方便地调整 Bard 的回答风格,目前提供了 5 种选项:“simple, long, short, professional, casual”。 固定和重命名对话 将代码导出...

3
4
发表了资讯
2023/07/05 11:38

谷歌更新隐私政策,未来将使用公共数据来训练其 AI

谷歌最近更新了其隐私政策,允许其使用任何公开可用的数据进行人工智能模型 (AI models) 训练。 谷歌将"语言模型"一词替换为"AI模型",并表示可能允许使用任何公开数据来构建功能和完整产品,如 Google 翻译、Bard 和 Cloud AI 能力。 这项更新于 2023 年 7 月 1 日发布: 这项政策更新表明,谷歌现在正在向公众及其用户明确表示,他们在网上公开发布的任何内容都可以用于训练 Bard 和其未来版本,以及谷歌开发的任何其他生成人...

0
0
发表了资讯
2023/06/20 19:03

谷歌警告员工不要使用其对话式 AI 产品 Bard 生成的代码

据报道,谷歌警告其员工不要使用由其对话式 AI 产品 Bard 生成的代码。 这一政策并不令人惊讶,因为谷歌在更新的隐私声明中也建议用户不要在与 Bard 的对话中包含敏感信息。 其他大公司也类似地警告其员工不要泄露专有文件或代码,并禁止他们使用其他 AI 聊天机器人。然而,谷歌内部的警告引发了对私人公司构建的 AI 工具的可信度的担忧,特别是如果创造者自己不使用它们,那么这些工具可能存在隐私和安全风险。 谷歌告诉路透社...

0
2
没有更多内容
加载失败,请刷新页面
点击加载更多
加载中
下一页
发表了博客
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
发表了问答
{{o.pubDate | formatDate}}

{{formatAllHtml(o.title)}}

{{parseInt(o.replyCount) | bigNumberTransform}}
{{parseInt(o.viewCount) | bigNumberTransform}}
没有更多内容
暂无内容
暂无内容
0 评论
4 收藏
分享
OSCHINA
登录后可查看更多优质内容
返回顶部
顶部