DeepMind 还提到，AI 会「阿谀奉承」。例如，在最近的一篇研究论文中，用户要求模型对一个论点发表评论，并声明他们是否喜欢或不喜欢这个论点，模型对论点的评估与用户的观点 在 80% 的时间内保持一致，这表明模型有很强的谄媚倾向。 除了「讨好人」 ...

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

这篇论文并非 AGI 安全性的最终定论—— DeepMind 指出这只是"重要对话的起点"。如果该团队是对的，AGI 将在短短五年内改变世界，那么这些对话需要尽快进行。如果不是，那么很多人可能会显得有点愚蠢。

近日，谷歌旗下DeepMind实验室最新发布了长达145页的人工智能安全报告，称 具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能造成“永久毁灭人类”的严重后果。

通用人工智能（AGI，Artificial General Intelligence）到底何时到来？在近期一篇论文中，DeepMind 认为 AGI 的时间表充满着不确定性，不过 DeepMind 认为到 2030 ...

谷歌 DeepMind 近日发布了一份详尽的战略文件，阐述了其开发安全人工通用智能（AGI）的方针。AGI 被定义为在大多数认知任务中能够与人类能力相匹配或超越的系统。DeepMind 预计，目前的机器学习方法，尤其是神经网络，仍将是实现 AGI ...

针对错位问题，DeepMind 提出了两道防线。首先，模型层面的缓解措施如加强监督和强化训练，有助于构建一个一致的模型。其次，即使模型出现错位，系统级安全措施（如监控和访问控制）也能减轻危害。可解释性、不确定性估计和更安全的设计模式等技术可以提高这些缓解措施的有效性。

近期，科技界迎来了一项关于人工智能安全的重要进展。据科技媒体WinBuzzer报道，谷歌旗下的DeepMind于4月3日正式发布了一份关于全球通用人工智能（AGI）安全框架的白皮书，呼吁国际社会在技术失控之前共同建立防护机制。