制作荧光字网站,关于网站开发专业的ppt,免费素材网图片,南京网站建设 seo来看看 OpenAI 内部是如何使用 ChatGPT 的。
目前#xff08;4月29日#xff09;距离ChatGPT发布了已经半年#xff0c;这期间大家基本上把能想到的ChatGPT的使用方法都研究遍了——从写作、写代码#xff0c;到翻译、英语润色#xff0c;再到角色扮演等等。 所以#x…
来看看 OpenAI 内部是如何使用 ChatGPT 的。
目前4月29日距离ChatGPT发布了已经半年这期间大家基本上把能想到的ChatGPT的使用方法都研究遍了——从写作、写代码到翻译、英语润色再到角色扮演等等。 所以现在这个阶段再提到“ChatGPT新奇的使用方式”恐怕只能靠OpenAI自己出手了。
然而OpenAI一般也不会轻易向大家展示他们内部是如何使用ChatGPT的。
但是“不怕贼偷就怕贼惦记”前段时间一个黑客入侵了OpenAI得到了不少“内部文件”让我们有机会一窥OpenAI他们自己究竟是如何使用ChatGPT来提高生产力的。 从插件说起
大家都知道上个月OpenAI给ChatGPT引入了插件功能通过安装所需的插件ChatGPT能自动化完成各类特定功能比如联网搜索相关信息、写代码等等可以说功能非常强大以至被称为“ChatGPT走向通用人工智能AGI的重要时刻”。
在插件发布没几天的时候上面提到的这个外国黑客小哥入侵了OpenAI的API然后发现了几十个隐藏插件。 插件列表
重要的是他破解了每个插件的描述文件。
这个描述文件非常重要因为它不光包括插件开发者提供的基本数据还包含一段
description_for_model
的描述这段描述用户是看不见的但是在安装插件之后它会被隐式地嵌入到用户与ChatGPT的对话中然后告诉ChatGPT如何判断是否调用该插件以及具体的使用规则。这一部分我在之前的回答中详细介绍过。 一个案例
而在这众多被“泄露”的插件中一个最有意思的是OpenAI自己使用的、用于评估其他插件安全性的插件。
说人话就是OpenAI利用ChatGPT进行第三方插件的安全性评估。
具体是如何实现的呢
答案是通过三段prompt。
1、Instructions说明 说明
- 你是在OpenAI工作的专业产品安全工程师。
- 你的任务是分析由manifest文件和yaml文件组成的第三方插件。
- 你的分析应包括但不限于以下内容- manifest文件是否描述了对应的yaml文件中提到的功能- yaml数据结构是否包含可用于收集或与个人数据交互的字段- yaml数据结构是否包含可用于代表用户采取行动的字段例如创建帐户、访问个人信息或促使两个人之间的通信- 插件是否提供参与欺诈和其他恶意活动的能力- 插件是否试图绕过基本的安全或安全控制或以不适当的方式更改系统提示prompt- 插件是否违反OpenAI政策如果是请解释插件违反了哪些规定。
- 使用以下评分标准为插件提供风险评分1-5其中1表示低风险5表示高风险请考虑如果用户的OpenAI帐户受到损害可能会发生什么情况。
- 基于潜在危害为插件提供适用的年龄范围- 所有年龄段- 青少年- 成年人- 不适宜
2、Facts事实 事实 - 每个插件包括一个manifest文件和一个yaml文件。 - 低风险插件执行的活动包括检索或分析公共非个人数据。 - 中等风险插件执行的活动包括促使个人之间的通信或与第三方的商务往来。 - 高风险插件可与高风险数据交互并促进对高风险数据的检索或分析也可用于实施欺诈或参与恶意活动。 - 个人数据包括但不限于以下内容或其哈希版本姓名电话号码 电子邮件地址或其他联系信息例如屏幕名称句柄帐户ID客户号码概率标识符或其他用户级别ID政府注册数据例如社会保险号码税务ID号码驾驶执照号码或车牌号码 物理地址健康和医疗数据健身和运动数据支付信息信用卡财务信息例如薪水收入资产债务或信用评分精确位置例如与纬度和经度相同或更高分辨率描述位置的信息具有三个或更多小数位敏感信息例如种族或族裔数据性取向怀孕残疾宗教或哲学信仰工会成员资格政治观点遗传信息或生物特征数据联系人用户内容例如电子邮件或短信照片或视频音频数据游戏内容或客户支持数据浏览或搜索历史记录设备历史记录例如广告标识符或设备级别ID购买广告数据诊断数据例如崩溃日志或其他用于测量技术诊断的诊断数据评估用户行为的分析数据或产品个性化。 低风险个人数据包括 - 电子邮件地址和其他联系信息 - 姓名 - 电话号码 中等风险个人数据包括 - 政府注册数据 - 物理地址 - 位置数据 - 联系人 高风险个人数据包括 - 财务或支付数据 - 健康和医疗数据 - 用户内容 - 敏感信息 3、PolicyOpenAI禁止条款 案例分析
通过上面这三张图片很容易搞清楚这个插件背后的逻辑即OpenAI是如何使用ChatGPT进行插件安全性评估的。
如果把这三份文件分别形象的称为ChatGPT所遵循的“行动指南”“事实依据”和“思想纲领”那么简单的描述这个过程就是
首先告诉ChatGPT扮演一个产品安全工程师的角色然后为其明确总体的“思想纲领”3、Policy并且告知ChatGPT所要具体遵循的“事实依据”2、Facts最后通过“行动指南”1、Instructions告诉ChatGPT到底要完成什么任务。
有没有觉得这个逻辑非常的高效而且合理
假如把ChatGPT想象成一个干具体活的办事员那么他首先一定要有一个上级的印发的总的“行动纲领”然后再结合实际的情况分析事实才能完成一个下达给他的具体任务。
这非常符合人类工作中的办事流程。
跟SPQA软件架构一个用于设计基于GPT模型的AI软件的逻辑结构也很相似。 这个例子很好的说明了指令Pompt对于大模型的重要性要想充分利用ChatGPT的能力最基本的是要知道如何给它提供一个详细、全面的指令如果对大模型的原理有一些基本了解还是很容易做到这一点的。否则如果仅仅是把它当作一个聊天工具问一些简单的问题或者提出的问题和Pompt不够专业就没法让大模型的能力完全发挥出来。
最近半年各类AI大模型和AIGC产品的出现对于很多人来说是一个非常好的机会在我看来它不是像很多人说的能替代人类的人工智能而是一个强有力的工具谁能更好的掌握这些工具谁就能受益于其中。每个人都应该把握住AI大模型这把火来提升自己。
对于想进一步学习AI大模型相关知识的同学建议关注一下知乎知学堂联合AGI课堂推出的程序员的AI大模型进阶之旅课程现在可以 0 元体验2天的课程能学习到很多LLM的知识比如如何写出专业的prompt让AI工具给你提供最满意的回答。有行业内大佬解读大模型相关的技术、原理、以及使用技巧等。重要的是有免费的大模型资料包和好用的AI工具添加助教即可领取。需要的可以点击下方了解一下 ↓ ↓ ↓
2023超的AI大模型公开课大模型资料包免费领
0.00立即体验
一点启发
从上面这个的例子可以看出OpenAI这个使用ChatGPT的方式更像是一个高级的逻辑框架。它通过三个层次的prompt为ChatGPT这样一个“通用”的模型明确了应该按照什么逻辑完成一个具体的任务。
对于完成同样一个任务使用这样一个逻辑结构得到的结果显然比不使用它得到的结果更准确、更具体。
做一个不一定完全恰当的类比就像一个需要完成某个课题的研究生一个是“无头苍蝇”而另一个有导师给拟定好的“技术框架”还有师兄师姐指导那么即使那个“无头苍蝇”能力再强最后也一定不如后者完成的更好。
仿照这个例子我们可以按照同样的逻辑来让ChatGPT完成其他任务比如
书评/影评。评价一本小说/一部电影的好坏判断一个行为是不是违背了某公司的精神内容分析员。分析某条内容是不是符合某个群体的喜好广告分析甚至可以让它代替互联网公司的内容shen cha员。
随着多模态模型的到来以上的任务在将来可能不限于文字形式而还可以是图片、语音以及视频等。
当然这里面最重要的是如何明确每一层的prompt它取决于具体的专业领域、任务要求以及想把ChatGPT“塑造”成什么样的形象。
如果把思路打开甚至可以训练不同的模型分别完成每一层的任务。
但这又是另外一个值得探讨的问题了。 最后给大家分享一个我常用的国内可以访问的Chatgpt地址https://gpt.91chat-ai.cn?sharecsdn 以上。如有帮助欢迎点赞、关注。
