谷歌发布145页人工智能安全报告：可能在2030年出现“永久毁灭人类”的人工智能（图）
近日，谷歌旗下DeepMind实验室发布了一份长达145页的人工智能安全报告，预测具备人类智能水平的通用人工智能（AGI）可能在2030年左右问世，并可能“永久毁灭人类”。
在报告中研究人员指出，AGI可能带来导致人类永久灭绝的生存风险，他们强调，这一重要议题无法由DeepMind一家公司单方面解决，而应由整个社会共同参与讨论。
报告并未具体说明AGI将如何导致人类灭绝，主要篇幅集中在风险防控措施上。
报告将AGI带来的风险分为四个主要类别：
滥用风险（人类故意利用AI实施危害行为）、错位风险（系统发展出非预期的有害行为）、失误风险（因设计或训练缺陷导致的意外故障）和结构性风险（不同主体之间的利益冲突）。
研究人员还概述了DeepMind的风险缓解策略，重点在于防止滥用，并强调了尽早识别危险能力的重要性。
这篇论文还对Anthropic和OpenAI等竞争对手的安全策略表达了含蓄批评。
报告认为，Anthropic在严格训练和监督方面投入不足，而OpenAI则过度关注所谓的对齐研究（即确保AI系统的目标和行为与人类的价值观和利益保持一致）。
今日评论
网友评论仅供其表达个人看法，并不表明网站立场。
最新评论(0)
暂无评论
热评新闻
+61
+86
+886
+852
+853
+64
