今日关注:Anthropic研究员因担忧AI“失控” 离职

(资料图片)

一名 Anthropic 公司研究员出于担忧，选择离开人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的 AI 系统，这也表明头部 AI 企业内部的安全顾虑正不断加剧。

专门通过海量数据训练新型 AI 模型的研究员雅各布・考克森于周二表示，他将离开这家公司，原因是不想参与全行业争相研发可自我迭代 AI 系统的竞赛。他担心这类系统可能彻底失控并毁灭人类。

这位 27 岁的英国籍研究员曾主修数学。他称，业内许多同行如今会用 “决战时刻” 和 “终局” 这类词汇，来描述走向可自我改进模型的发展趋势。

考克森称：“按照当前态势，很多极端推演场景都有可能成真，到明年年底情况或许就会失控。” 他还补充道，各家企业以及中国新兴 AI 企业之间相互竞争时，安全层面的取舍权衡不可避免。