从 0 到 1 了解大模型安全，看这篇就够了
输入“/”快速插入内容
从 0 到 1 了解大模型安全，看这篇就够了
从 0 到 1 了解大模型安全，看这篇就够了
用户8537用户85372024年1月29日修改
📣
原创 陈财猫 财猫AI 2024-01-27 18:39 发表于北京
引子：大家好，我是陈财猫。有人在想尽心思骗取GPTs的内置Prompt，有人坑蒙拐骗让 AI 客服把一辆新轿车卖给他，也有人在费尽心思地让GPT教他怎么做大炸弹：这都属于大模型安全的范畴。
GPT越聪明，离我们越近，在生活中越常见，也就越危险。如何预防与阻止类似的风险，便是LLM Safety的研究范畴。
今天，财猫 AI 团队为你撰写了 《从 0 到 1 了解大模型安全，看这篇就够了》， 带你一篇文章了解大语言模型安全研究领域。
如果你想进一步了解大语言模型安全，可以访问我们的Github awesome-llm-safety项目：
下面是正文，祝你阅读愉快！
在过去的一年里，我相信许多人已经主动或被动地了解了ChatGPT()。事实上，在座的各位中，有不少人可能已经使用过ChatGPT。这个工具的强大之处，在于它能在人类生活的各个方面发挥作用。
下面是大型语言模型近些年的演化图, 从2018年之前灰色部分的词嵌入开始发展, 而后三种颜色的分支代表着不同的技术路线。
encoder-only:这些模型通常适用于可以自然语言理解任务，例如分类和情感分析. 最知名的代表模型是BERTencoder-decoder:此类模型同时结合了 Transformer 架构的encoder和decoder来理解和生成内容。该架构的一些用例包括翻译和摘要。encoder-decoder的代表是google的T5decoder-only:此类模型更擅长自然语言生成任务。典型使用包括故事写作和博客生成。这也是我们现在所熟知的众多AI助手的结构我们目前耳熟能详的AI助手基本都来自左侧的灰色分支, 当然也包括ChatGPT。这些架构都是根据谷歌2017年发布的论文“attention is all you need”中提出的transformer衍生而来的， 在transformer中，包括Encoder，Decoder两个结构目前的大型语言模型就是右侧只使用Decoder的Decoder-only架构的模型
大模型又大在哪呢？第一，大模型的预训练数据非常大，这些数据往往来自于互联网上，包括论文，代码，以及可进行爬取的公开网页等等，一般来说，现在最先进的大模型一般都是用TB级别的数据进行预训练。第二，参数非常多，Open在2020年发布的GPT-3就已经达到170B的参数