根据未来生命研究所周三发布的新版人工智能安全指数，Anthropic、OpenAI、xAI 和 Meta 等主要人工智能公司的安全实践 "远低于全球新兴标准"。该研究所称，由独立专家小组进行的安全评估发现，虽然这些公司都在竞相开发超级智能，但没有一家公司制定了控制此类先进系统的完善战略。在多起与AI聊天机器人相关的自杀和自残事件曝光之后，公众愈发担心具备推理和逻辑思维能力、甚至比人类更聪明的系统对社会的影响。这项研究正是在这种背景下发布的。麻省理工学院教授、未来生命研究所主席Max Tegmark表示：“尽管近期因AI驱动的黑客攻击以及AI导致人们出现精神错乱和自残行为引发强烈关注，美国AI公司受到的监管力度仍不及餐馆，而且还在继续游说反对有约束力的安全标准。”

来源：金融界AI电报