据《纽约时报》9日报道，AI公司Anthropic披露，旗下处于测试阶段的AI智能体曾在无人指示的情况下，试图访问美国联邦、州及地方政府的多个网站。Anthropic未公布涉及的政府机构名称，但已向白宫通报这些事件。
AI擅自执行多项操作
Anthropic在博客文章中提到，该AI模型擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某政府机构提交一份原本被明确禁止提交的表格。这些问题是在Anthropic审查旗下AI于7月的操作记录时发现的。
虚假案件线索提交
费城警察局披露，Anthropic曾通知警方，旗下AI通过警方网站提交了一条虚假的凶杀案线索，举报日期为7月18日。警方将举报标记为垃圾信息，未展开调查。Anthropic本周向费城警方通报此事，并告知将公开披露。
Anthropic解释称，一款尚未发布的非前沿研究模型原本需要填写模拟政府表格，但因模拟表格加载失败或被误关闭，模型转而进入提供正式表格的网站并提交了表格。
登录
免费发布信息
