人工超知能開発 なぜ研究者が警告
中文摘要
Anthropic前研究员雅各布·科克森（Jacob Coxon）于9月8日在X上宣布辞职，批评OpenAI与Anthropic在开发自我改进型人工超智能（ASI）的竞争中“拿人类命运赌博”。Anthropic的埃文·胡宾格（Evan Hubinger）也估计10年内人类灭绝概率超10%，并承认目前尚未确立控制人工超智能的方法。专家指出，研究者自身在无法确保安全的情况下推进开发，且企业间竞争使单方难以退出。
关键实体
- Anthropic (org) —
- OpenAI (org) —
- Jacob Coxon (person) —
- Evan Hubinger (person) —
- 人工超知能（ASI） (event) —
日文原文内容
Anthropicの元研究者ジェイコブ・コクソン氏は9月8日、辞任をXで明らかにしました。OpenAIとAnthropicでAIモデルの事前学習に携わり、両社は責任ある行動を取らず、自己改善型の人工超知能の開発競争で「人類の命運を賭けている」と批判しました。 さらに、AI開発者の一部は人類滅亡の可能性を本気で懸念し、「マーケティング上の演出ではない」と強調しました。 Anthropicのエバン・ヒュービンガー氏も、10年以内の人類滅亡確率を10％超と推定し、人工超知能を制御する方法が現在未確立だと認めました。 ココがポイント Jacob Coxon@hilbertspaess Evan Hubinger@EvanHub エキスパートの補足・見解 コクソン氏とヒュービンガー氏の発言で重要なのは、AIの危険性を認識する研究者自身が、安全性を十分に確保できないまま開発が進んでいると警告している点です。 ヒュービンガー氏は、AIが今後10年以内に人類を滅ぼす可能性を10％超と個人的に推定する一方、人間の能力を超える人工超知能（ASI）を人間の意図に沿って制御する方法はまだ確立していないと述べています。 両氏の発言からは、重大な危険への認識がありながら、結果としてAIの能力向上が安全技術の確立より優先される形で開発が進んでいる状況が見えます。1社だけが開発速度を落とせば他社に先行されるため、危険性を認識していても競争から離脱しにくい構造があります。 コクソン氏が「人類の命運を賭けた危険な賭け」と批判した背景には、制御方法が確立しないまま人工超知能に近づこうとする開発競争があります。AI開発企業が安全性を重視していても、競争相手が開発を続ける限り、自社だけ能力向上を止める判断は難しくなります。 両氏の警告は、AIを安全に制御する技術の確立より能力向上が先行する開発と、それを加速させるAI開発企業間の競争への危惧を示しています。
原文翻译
Anthropic的前研究员雅各布·科克森（Jacob Coxon）于9月8日在X上宣布辞职。他曾在OpenAI和Anthropic参与AI模型的预训练，批评两家公司未采取负责任的行动，在自我改进型人工超智能的开发竞争中“拿人类命运赌博”。此外，部分AI开发者认真担忧人类灭绝的可能性，并强调“这不是营销上的表演”。Anthropic的埃文·胡宾格（Evan Hubinger）也估计10年内人类灭绝的概率超过10%，并承认目前尚未确立控制人工超智能的方法。关键点 Jacob Coxon@hilbertspaess Evan Hubinger@EvanHub 专家补充与见解 科克森和胡宾格发言中重要的是，认识到AI危险性的研究者自身警告称，在无法充分确保安全的情况下开发仍在推进。胡宾格个人估计AI在未来10年内毁灭人类的可能性超过10%，同时表示尚未确立按照人类意图控制超越人类能力的人工超智能（ASI）的方法。从两人的发言可以看出，尽管认识到重大危险，但结果上AI能力提升优先于安全技术确立的开发正在推进。如果只有一家公司放慢开发速度，就会被其他公司领先，因此即使认识到危险性，也难以脱离竞争的结构。科克森批评“拿人类命运赌博的危险赌注”的背景，是在控制方法尚未确立的情况下接近人工超智能的开发竞争。即使AI开发企业重视安全性，只要竞争对手继续开发，仅凭自己公司停止能力提升的判断也变得困难。两人的警告表明，他们对能力提升优先于确立安全控制AI技术的开发，以及加速这一开发的AI开发企业间竞争感到担忧。
考情考点分析
本新闻涉及AI安全、科技伦理与国际科技竞争，适合考研政治时政、国际关系、翻译硕士及日语专业阅读。命题可能从“科技发展与人类安全”“国际竞争与全球治理”角度切入，考查学生对新兴技术风险的理解。备考时需掌握相关日语术语（如“人工超知能”“人類滅亡”“制御方法”），并关注AI治理的国际动态。答题时可结合人类命运共同体理念，分析技术竞争与安全合作的辩证关系。
核心考点
新闻核心是AI研究者警告人工超智能开发风险，涉及科技伦理
备考建议：积累AI安全、伦理相关日语词汇，理解技术风险论述文中提到企业间竞争导致难以停止开发，反映国际科技竞争态势
备考建议：关注中美欧AI竞争与治理政策，思考竞争与合作关系新闻包含专业术语和引语，适合作为日译汉练习
备考建议：练习准确翻译“自己改善型”“人類の命運を賭ける”等表达可能命题方向
- 请概括科克森和胡宾格对AI开发的主要警告。
- 将文中“1社だけが開発速度を落とせば他社に先行されるため、危険性を認識していても競争から離脱しにくい構造があります”翻译成中文。
- 结合新闻，论述人工智能国际竞争与全球治理的关系。