LLaMA 语言模型全称为 "Large Language Model Meta AI"，是 Meta 的全新大型语言模型（LLM），这是一个模型系列，根据参数规模进行了划分（分为 70 亿、130 亿、330 亿和 650 亿参数不等）。
值得注意的是，其中 LaMA-13B（130 亿参数的模型）尽管模型参数相比 OpenAI 的 GPT-3（1750 亿参数） 要少了十几倍，但在性能上反而可以超过 GPT-3 模型。更小的模型也意味着开发者可以在 PC 甚至是智能手机等设备上本地运行类 ChatGPT 这样的 AI 助手，无需依赖数据中心这样的大规模设施。
目前 LLaMA 的一个精简版可在GitHub上找到，Meta 暂时还没有要公开发布完整模型和权重的计划。Meta 提供了一个登记页面，感兴趣的开发者可以申请登记，从而获得完整的代码和权重。
llama.cpp 是开发者 Georgi Gerganov 用纯 C/C++ 代码实现的 LLaMA 模型推理开源项目。所谓推理，即是「给输入-跑模型-得输出」的模型运行过程。 最近 Georgi Gerganov 用搭载苹果 M2 Ultra 处理器的设备运行了一系列测试，其中包括并行运行 128 个 Llama 2 7B 流。 具体结果如下： via https://github.com/ggerganov/llama.cpp/pull/3228 对于 M2 Ultra 的这番表现，有人给出了解释，M2 Ultra 或 M1 和 M2 系列 CPU 的速度之所...
红杉资本发布一份报告，总结了这一年生成式AI突飞猛进的发展，探讨了生成式AI的发展趋势和市场表现。 一年前他们发布了一份预测，一年后红杉总结之前的预测，发现了他们预测正确和错误的部分： 预测错误的部分： 1.事情发展得很快。他们原以为需要近十年的时间才能实现实习生级别的代码生成、好莱坞质量的视频或不听起来像机器的人类语音。但现实是，技术发展的速度超出了他们的预期。 2.供应端的瓶颈。他们没有预见到用户需求会...
马斯克 (Elon Musk)、比尔·盖茨 (Bill Gates)、扎克伯格 (Mark Zuckerberg) 等科技行业的高管和名人周三参加了一场闭门会议，与 60 多名美国参议员就 AI 的各种可能性和风险展开了辩论。 据介绍，参议员们正在考虑通过立法监管 AI 技术。 马斯克警告称，AI 有可能威胁到人类。盖茨则指出，AI 可能有助于解决全球饥饿问题。非营利组织 Center for Humane Technology 负责人Tristan Harris 警告开源 AI 系统会被滥用，如 Llama ...
根据 Siliconangle 的报道，Meta 正在寻求在生成式 AI 领域与 OpenAI 展开竞争，将发布新的开源大模型，其性能或将与GPT-4 不相上下。 报道称，这款新模型比 Llama 2 强大数倍，将提供文本、图像生成以及分析等功能。目前该模型正处于开发之中，最终功能尚不确定。 Meta 最终目标是加速开发下一代生成式人工智能模型，使其能够生成更多类似人类的表达。 长期以来，Meta 一直在采用开源方法公开其大模型产品，是业内众所周知的最...
根据俄罗斯媒体 Russia Today 的报道，当地科技巨头 Yandex 在采访中表示，其创建的大模型 YandexGPT 相比 ChatGPT 具有更好的性能和更广阔的前景。 Yandex 的搜索和广告技术业务部总监 Dmitry Masyuk 表示，YandexGPT 在生成俄语内容时的表现已经能够“稳步超越”ChatGPT 3.5 版本，甚至在许多情况下提供了优于 ChatGPT 4.0 的回答。他还说道，YandexGPT 与其美国对手抗衡将“只是时间问题”。 而跟 Meta 公司开发的 Llama-2-...
推特用户 Dylan Patel(@dylan522p) 发布的一张图片显示，大语言模型使用不同语言的成本差异很大。 这名用户展示了一张牛津大学的研究显示成果。根据对GPT-4和其他常见大语言模型的研究，由于 OpenAI 等服务所采用的服务器成本衡量和计费的方式，英语输入和输出的费用要比其他语言低得多，其中简体中文的费用大约是英语的两倍，西班牙语是英语的 1.5 倍，而缅甸的掸语则是英语的 15 倍。 根据牛津大学的研究，让一个 LLM 处理一句...
OpenBuddy-LLaMA2-13B 是一个基于 Llama 2 的全新跨语言对话模型。 Llama 2 是 Meta 最新发布的模型基座，它的数据比前一代模型更为充分，且对月活7亿以下的商用予以支持。这意味着，更多的公司和团队可以使用这个模型进行商业开发，推动各类应用的普及和创新。 然而，和之前的版本相同，Llama 2 仍具备一定的局限性：LLaMA模型基座以英语训练数据为主，未考虑跨语言场景应用。模型本身在英语上表现较好，但在中文等非英语语系的...
Meta 和微软深度合作，正式推出下一代开源大语言模型 Llama 2，并宣布免费提供给研究和商业使用。 Llama 2 论文地址：Llama 2: Open Foundation and Fine-Tuned Chat Models 据介绍，相比于 Llama 1，Llama 2 的训练数据多了 40%，上下文长度是 Llama 1 的 2 倍，并采用了分组查询注意力机制。具体来说，Llama 2 预训练模型是在 2 万亿的 token 上训练的，微调 Chat 模型是在 100 万人类标记数据上训练的。 Meta 称 Llama 2 在许...
根据英国《金融时报》的报道，Meta 准备发布其人工智能模型 LLaMA 的商用版本，允许初创公司和企业在该技术的基础上构建定制软件。 此举将使 Meta 与微软支持的 OpenAI 和谷歌展开竞争。今年早些时候，Meta 面向研究人员和学者发布了自有大语言模型 LLaMA。其参数规模从 70 亿到 650 亿参数不等（包括 7B、13B、33B 和 65B 参数），该模型的一大优势是能运行在单张显卡上。 三位知情人士表示，新的商用版本将更广泛地提供给企业...
美国参议院隐私、技术和法律小组委员会主席 Richard Blumenthal 和副主席 Josh Hawley 近日致信马克·扎克伯格 (Mark Zuckerberg)，就 Meta 的大语言模型 LLaMA 泄露一事提出了质疑。 他们担忧该模型可能被滥用于垃圾邮件、欺诈、恶意软件、侵犯隐私、骚扰以及其他不法行为，从而造成伤害。因此在信中质询了 Meta 在发布 LLaMA 之前是如何评估的风险、采取了哪些措施来防止该模型被滥用，以及如何根据其不受限制的可用性更新政策...
开源和基于 API 的分发之间的摩擦是生成式 AI 生态中极为迫切的矛盾。比如在从文本到图像领域，Stable Diffusion 的发布清楚地表明开源是基础模型的可行分发机制。不过在大型语言模型 (LLM) 领域却并非如此，该领域最大的突破来自 GPT-4、Claude 和 Cohere 等模型，这些模型只能通过 API 获取。并且这些模型的开源替代品没有表现出相同水平的性能，特别是在它们遵循人类指令的能力方面。 然而，一项意想不到的研究突破和泄露的模...
评论