State of AI 2024：2024 人工智能报告总结
Research
Frontier lab 的表现趋于一致，但在 o1 发布后，OpenAI 仍保持领先，规划和推理成为一个主要的前沿领域。
Foundation Models 展示了它们突破语言的能力，随着多模态研究深入数学、生物学、基因组学、物理科学和神经科学等领域。
美国制裁未能阻止中国 (V)LLMs 在社区排行榜上的崛起。
Industry
NVIDIA 依然是全球最强大的公司，享受着 3 万亿美元俱乐部的时光，而监管机构则在调查生成式人工智能领域的权力集中情况。
更成熟的生成式人工智能公司带来了数十亿美元的收入，而初创企业在视频和音频生成等领域开始获得关注。尽管公司们开始从模型转向产品，但关于定价和可持续性的长期问题仍未得到解决。
在公共市场的牛市推动下，人工智能公司的价值达到了 9 万亿美元，而私营公司的投资水平也健康增长。
Politics
随着全球治理努力停滞，国家和地区的人工智能监管仍在继续推进，美国和欧盟通过了一些有争议的立法。
计算需求的现实迫使大型科技公司面对现实世界中在 Scaling 和自身排放目标上的物理限制。与此同时，各国政府在建立能力方面的努力依然滞后。
预计人工智能对选举、就业和其他一系列敏感领域的影响尚未在任何规模上实现。
Safety
从安全到加速的氛围转变发生，因为之前警告我们人类将面临灭绝的公司需要加快企业销售和消费者应用的使用。
全球各国政府效仿英国，建立围绕人工智能安全的国家能力，成立研究所并研究关键国家基础设施的潜在脆弱性。
每一个提议的 jailbreaking “fix” 都未能成功，但研究人员对更复杂的长期攻击日益感到担忧。
——禅与计算机程序设计艺术
暂无更多评论