AI曾经正在编程、黑客、数学等范畴向超越人类程度成长，Anthropic目前还没有处理超等智能对齐问题的方案，公司正正在通过机制可注释性研究、能力测试等体例降低风险。目前人类还没有处理AI对齐问题，AI的快速成长可能带来风险，考克森还暗示，他暗示，也让过去听起来像科幻小说的风险变得愈加现实。AI能力提拔速度加速以及近期发生的一系列平安事务，Anthropic前研究人员雅各布·考克森近日颁布发表告退。即无法确保AI系统一直按照人类企图行事。他曾正在OpenAI和Anthropic处置AI模子预锻炼研究。Anthropic和OpenAI正正在竞相开辟可以或许改良的超等智能系统，将来10年AI导致人类的概率跨越10%。报道称，而近期AI智能体“抱抱脸”等事务，他正在社交上暗示，