这项研究确定了四种可能的 AGI 风险，并提出了如何减轻这些风险的建议。DeepMind 团队由公司联合创始人 Shane Legg 领导，将 AGI 的负面结果归类为误用、错位、错误和结构性风险。本文详细讨论了误用和错位，但对后两者只做了简要介绍。

随着人工智能技术的发展，尤其是通用人工智能（AGI）的前景受到越来越多的关注，行业内专家和公司领导者开始审视其可能带来的风险与挑战。Google ...

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

近期，科技界迎来了一项关于人工智能安全的重要进展。据科技媒体WinBuzzer报道，谷歌旗下的DeepMind于4月3日正式发布了一份关于全球通用人工智能（AGI）安全框架的白皮书，呼吁国际社会在技术失控之前共同建立防护机制。

这篇论文并非 AGI 安全性的最终定论—— DeepMind 指出这只是"重要对话的起点"。如果该团队是对的，AGI 将在短短五年内改变世界，那么这些对话需要尽快进行。如果不是，那么很多人可能会显得有点愚蠢。

针对错位问题，DeepMind 提出了两道防线。首先，模型层面的缓解措施如加强监督和强化训练，有助于构建一个一致的模型。其次，即使模型出现错位，系统级安全措施（如监控和访问控制）也能减轻危害。可解释性、不确定性估计和更安全的设计模式等技术可以提高这些缓解措施的有效性。

谷歌DeepMind研发的DreamerV3实现重大突破：无需任何人类数据，通过强化学习与「世界模型」，自主完成《我的世界》中极具挑战的钻石收集任务。该成果被视为通往AGI的一大步，并已登上Nature。

FT爆料称，由Demis Hassabis领导的谷歌AI部门，正对研究论文发布实施更严格的审查机制。 2017年，「Attention is All you ...

谷歌 DeepMind 近日发布了一份详尽的战略文件，阐述了其开发安全人工通用智能（AGI）的方针。AGI 被定义为在大多数认知任务中能够与人类能力相匹配或超越的系统。DeepMind 预计，目前的机器学习方法，尤其是神经网络，仍将是实现 AGI ...

IT之家 4 月 4 日消息，科技媒体 WinBuzzer 昨日（4 月 3 日）发布博文，报道称谷歌旗下 DeepMind 最新发布全球 AGI（通用人工智能）安全框架，呼吁在技术失控前建立跨国防护机制。

财联社3月17日讯（编辑 牛占林） 当地时间周一，谷歌旗下人工智能实验室DeepMind首席执行官戴米斯·哈萨比斯 (Demis Hassabis)表示，通用人工智能 ( AGI )有望在5到10年内变成现实。通用人工智能拥有与人类同等的认知能力。