云中江树：智能对决：提示词攻防中的AI安全博弈
输入“/”快速插入内容
云中江树：智能对决：提示词攻防中的AI安全博弈
云中江树：智能对决：提示词攻防中的AI安全博弈
⏰ 云中江树 云中江树 2024年09月20日 10:45 上海
这是我在上海AIGC中国开发者大会上的分享：《智能对决：提示词攻防中的AI安全博弈》，相比现场的分享，又补充了一些个人的思考还有没来得及分享的一些内容。
视频回放、当天活动照片、见闻等整理在知识库活动页面了：
感兴趣可以去看看原视频，或点击文末【阅读原文】
下面是正文：
非常感谢今天有这样的机会，分享这样的一个主题——智能对决：提示词攻防中的AI安全博弈，这也是我一直想去讲的一个话题，今天终于有机会。
我是云中江树，接下来我们的分享的话会从下面四个方面去展开。首先的话我会介绍一下我们现在看到的国内外的这样的一个AI产品它的一个安全现状。然后的话我们会分析一下，目前已经有的这样的一些提示攻击类型和方法。然后介绍我们怎么样去做防御措施，最后如果有时间的话，我们可以探讨一些问题。
简单介绍一下我自己，我是一名提示词爱好者。从过去的一年到现在，我们通过「结构化提示词社区」在国内持续的分享着关于怎么样写好提示词？怎样用好大模型？相关的知识分享。