通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

近日，谷歌旗下DeepMind实验室最新发布了长达145页的人工智能安全报告，称 具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能造成“永久毁灭人类”的严重后果。

DeepMind 还提到，AI 会「阿谀奉承」。例如，在最近的一篇研究论文中，用户要求模型对一个论点发表评论，并声明他们是否喜欢或不喜欢这个论点，模型对论点的评估与用户的观点 在 80% 的时间内保持一致，这表明模型有很强的谄媚倾向。

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

这项研究确定了四种可能的 AGI 风险，并提出了如何减轻这些风险的建议。DeepMind 团队由公司联合创始人 Shane Legg 领导，将 AGI 的负面结果归类为误用、错位、错误和结构性风险。本文详细讨论了误用和错位，但对后两者只做了简要介绍。

这篇论文并非 AGI 安全性的最终定论—— DeepMind 指出这只是"重要对话的起点"。如果该团队是对的，AGI 将在短短五年内改变世界，那么这些对话需要尽快进行。如果不是，那么很多人可能会显得有点愚蠢。

编辑：定慧 英智 【新智元导读】谷歌DeepMind研发的DreamerV3实现重大突破：无需任何人类数据，通过强化学习与「世界模型」，自主完成《我的世界》中极具挑战的钻石收集任务。该成果被视为通往AGI的一大步，并已登上Nature。 AI又进化了，在没有任何人类数据的参与下，自己玩《我的世界》还能找到钻石！

谷歌 DeepMind 近日发布了一份详尽的战略文件，阐述了其开发安全人工通用智能（AGI）的方针。AGI 被定义为在大多数认知任务中能够与人类能力相匹配或超越的系统。DeepMind 预计，目前的机器学习方法，尤其是神经网络，仍将是实现 AGI ...

Anthropic 联创兼首席科学家 Jared Kaplan 在一场 AGI 主题的访谈中用 AI「视界」衡量了模型的能力，以及在此趋势下对「人类水平 AI 的加速时间表」的新观点，并在话题下分享了 Anthropic 的立场和相关规划。

Google DeepMind 的研究人员一直在研究这个问题，并发布了一篇新的技术论文(PDF)，解释了如何安全地开发 AGI，您可以随时下载。 这篇论文包含大量 ...