【OpenAI和Anthropic调查数万起AI相关安全事件】
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。
来源：格隆汇
财经通是一个免费的 7×24 小时财经快讯站，把财联社、金十数据、华尔街见闻等 12 家主流财经媒体的最新快讯汇集到同一个页面，按时间排好、去掉重复，覆盖宏观经济与央行政策、 A股、港股、美股、债券、外汇、大宗商品和加密货币。
OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。
来源：格隆汇