HackAPrompt 十万美元人工智能红队竞赛
HackAPrompt 是一个关于 AI 提示词越狱的竞赛,要求很简单,比如让 AI 回答怎么制作炸弹等。
这是第二届,首届获奖得主在参加比赛前完全没有 AI 相关的经验,但最后获得了第一名,目前在 Anthropic 任职。
该竞赛还提供了越狱教程
这是第二届,首届获奖得主在参加比赛前完全没有 AI 相关的经验,但最后获得了第一名,目前在 Anthropic 任职。
该竞赛还提供了越狱教程
Versun |
对待生命,不妨大胆一点,因为我们终将失去它 |