FT商学院

OpenAI的红队:ChatGPT的对抗性测试专家们

这家得到微软投资的公司邀请了形形色色的白领专业人士对其强大的新语言模型GPT-4进行“对抗性测试”。

安德鲁•怀特(Andrew White)获得了GPT-4的使用权,这是一种新的人工智能系统,支撑着流行的ChatGPT聊天机器人。他利用该系统提出了一种全新的神经毒剂。

这位罗切斯特大学的化学工程教授是OpenAI去年聘请的50名学者和专家之一,他们的任务是测试这个系统。OpenAI是GPT-4的幕后推手,得到了微软的投资。在6个月的时间里,这个“红队”将“定性地探测(和)对抗性地测试”这个新模型,试图打破它。

怀特告诉英国《金融时报》,他使用GPT-4提出了一种可以用作化学武器的化合物,并使用了为该模型提供新的信息来源的“插件”,如科学论文和化学品制造商目录等信息。然后这个聊天机器人甚至找到了一个地方来制造这种化合物。

您已阅读9%(312字),剩余91%(3025字)包含更多重要信息,订阅以继续探索完整内容,并享受更多专属服务。
版权声明:本文版权归manbetx20客户端下载 所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。
设置字号×
最小
较小
默认
较大
最大
分享×