作者为牛津互联网研究院(Oxford Internet Institute)的数字伦理与防务技术教授，也是英国国防部(Ministry of Defence)人工智能伦理顾问小组成员
本月，人工智能初创公司Anthropic发布了一份报告，标志着网络安全领域的分水岭时刻。人工智能系统首次实施了高度自主的网络攻击。该行动发生在去年9月，被归因于与manbetx3.0 政府有关的黑客组织GTG-1002。
这起攻击的细节值得高度关注。Anthropic表示，黑客利用其代理式AI编码代理Claude Code几乎将整个攻击周期实现了自动化。一经提示，该AI便能识别并利用高价值目标中的漏洞，范围涵盖大型科技公司到政府机构。
您已阅读19%（300字），剩余81%（1260字）包含更多重要信息，订阅以继续探索完整内容，并享受更多专属服务。