这项研究确定了四种可能的 AGI 风险，并提出了如何减轻这些风险的建议。DeepMind 团队由公司联合创始人 Shane Legg 领导，将 AGI 的负面结果归类为误用、错位、错误和结构性风险。本文详细讨论了误用和错位，但对后两者只做了简要介绍。

随着人工智能技术的发展，尤其是通用人工智能（AGI）的前景受到越来越多的关注，行业内专家和公司领导者开始审视其可能带来的风险与挑战。Google ...

谷歌DeepMind研发的DreamerV3实现重大突破：无需任何人类数据，通过强化学习与「世界模型」，自主完成《我的世界》中极具挑战的钻石收集任务。该成果被视为通往AGI的一大步，并已登上Nature。

针对错位问题，DeepMind 提出了两道防线。首先，模型层面的缓解措施如加强监督和强化训练，有助于构建一个一致的模型。其次，即使模型出现错位，系统级安全措施（如监控和访问控制）也能减轻危害。可解释性、不确定性估计和更安全的设计模式等技术可以提高这些缓解措施的有效性。

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

这篇论文并非 AGI 安全性的最终定论—— DeepMind 指出这只是"重要对话的起点"。如果该团队是对的，AGI 将在短短五年内改变世界，那么这些对话需要尽快进行。如果不是，那么很多人可能会显得有点愚蠢。

DeepMind 发布了一份技术报告，详细阐述了通用人工智能 (AGI) 可能对人类造成的潜在风险，包括滥用、失控、错误和结构性风险。报告提出了一些缓解措施，如加强安全协议、双重AI监督、沙盒环境等。虽然AGI的实现时间尚不确定，但该报告为未来的重要对话奠定了基础。

DeepMind 发布了一份技术报告，详细阐述了通用人工智能 (AGI) 可能对人类造成的潜在风险，包括滥用、失控、错误和结构性风险。报告提出了一些缓解措施，如加强安全协议、双重AI监督、沙盒环境等。虽然AGI的实现时间尚不确定，但该报告为未来的重要对话奠定了基础。

FT爆料称，由Demis Hassabis领导的谷歌AI部门，正对研究论文发布实施更严格的审查机制。 2017年，「Attention is All you ...

IT之家 4 月 4 日消息，科技媒体 WinBuzzer 昨日（4 月 3 日）发布博文，报道称谷歌旗下 DeepMind 最新发布全球 AGI（通用人工智能）安全框架，呼吁在技术失控前建立跨国防护机制。 DeepMind 认为 AGI ...

作者｜冬梅、核子可乐由 Demis Hassabis 领导的谷歌 AI 团队决定改变论文发布方法，意味着研究人员将更难对外公布成果。为了在蓬勃发展的 AI 行业中夺取主导地位、保持竞争优势，谷歌旗下 AI 部门 DeepMind ...

在《我的世界》中，团队使用了一种协议，每当 Dreamer 完成钻石收集过程中涉及的 12 个逐步步骤之一时，就会获得一个「+1」的奖励 —— 这些步骤包括制作木板和熔炉、开采铁矿并锻造铁镐。