已收录文章摘要，完整内容可前往原文阅读。
最近一位从美国头部AI公司离职的研发人员，公开呼吁：人类得给AI踩刹车了。 他担心的是，以前AI再聪明，也是人在背后研发、改进，顶多是个工具。可一旦AI开始自己研发自己，失控就是大概率事件。 因为自我进化会让AI的发展不以人的意志为转移，不以人类的福祉为出发点。 这就让AI成为一个独立于人类之外的物种。 地球上如果出现一个比人类更聪明的物种，对人类不见得是好事。 问题是，现在各国都在搞AI竞赛，谁也不肯先减速。只要有一个国家不踩刹车，其他国家踩了也没用。 这其实是一场“...