金磊 发自 凹非寺量子位 | 公众号 QbitAI
当ChatGPT被黑客“入侵”时，OpenAI会怎样应付？
掐断API，不让他们用？不不不。
这帮极客们选定的作念法可谓是剑走偏锋——反手一记《连接谈》。
故事是这么的。
OpenAI固然在发布ChatGPT之前作念了大批的安全性检测，但当绽开API之后，照旧防不住一些图谋不诡的黑客们拿它搞事情。
皇冠体育hg86a
然后有一天，团队中的一个工程师片刻发现ChatGPT端点上的流量有些不太普通；在过程一番观测之后，笃定了简略率是有东谈主在反向工程API（盗版API）。
不外OpenAI并莫得弃取立即回绝这些黑客，因为淌若团队这么作念了，黑客们就会随即发现异样，然后调动计谋赓续报复。
在皇冠体育上，您可以随时随地下注各种体育赛事。皇冠客服飞机：@seo3687
这时，团队里一个“大灵巧”就支了个妙招：
咱们搞成“catGPT”，每个token都是“meow”……
近年以来，国内外云端业务快速增长，各类线上办公需求激增。据国际分析机构Canalys发布的2021年中国云计算市场报告显示，中国的云基础设施市场规模已达274亿美元，由阿里云、华为云、腾讯云和百度智能云组成的“中国四朵云”占据80%的中国云计算市场，稳居主导地位。
送菠菜街机娱乐平台
“陷坑”交代得胜后，黑客大兄弟再向ChatGPT发问时，画风就是这么婶儿的了：
没错，无论问啥，回话都是“喵言喵语”：
喵，我不知谈。我是只猫，不是只鸟！
这位黑客大兄弟起原还不知谈我方早已落入“陷坑”，还发帖面目了我方神奇的经历。
不外黑客团伙中很快有东谈主察觉到了异样：
两个代理都出现了相同的情况；我合计咱们完结（披露了）。
54体育直播app怎么下载
团伙中还有东谈主在Discord社区中这么筹画：
兄弟，你合计OpenAI是发现了咱们在（拿盗版API）用模子，然后运转拿“猫语promt”往来话咱们吗？若真如斯，那也太搞笑了吧！
殊不知，OpenAI的成员们早就潜入了Discord社区，不雅望着黑客们的对话……
黑客们最终照旧发现了真相，后知后觉的他们，最终在Discord中给OpenAI的团队发话了：
我很失望。我知谈OpenAI的某东谈主正在读这段笔墨。你们有千载难逢的契机给咱们来个“Rick Astley”（发现被整蛊时用的桥段），你们居然就搞个猫。
对此，OpenAI的成员暗示：“收到，下次咱们会的”。
上头这个真谛的故事，其实是一位OpenAI工程师Evan Morikawa在一场本事共享活动中自曝的。
不少网友在看完这个故事之后，纷纷感叹谈：
王人备的传闻！
固然故事很精彩、很真谛，不外闲聊少说，这也从侧面反馈出了现时大模子期间下所存在的安全隐患。
正如Evan在活动中所说：
跟着模子变得越来越庞杂，它们在坏东谈主手中可能酿成的伤害变得更大，咱们在这里的警惕性照实需要成倍加多。
除此除外，Evan在活动中还共享了两个与OpenAI、ChatGPT干系的“荫庇的故事”。
咱们赓续往下看。
OpenAI：GPU够的话，发布早就提前了
Evan先是回来了ChatGPT领先爆火的盛况：
从里面决定发布，到其后不测走红，就连马斯克都发推筹画等等。
随之而来的等于大批用户的涌入，其时他们我方也很挂牵，因为以他们GPU的才气，完全hold不住那么大的负载。
然后Evan在现场展示了他们为ChatGPT提供能源的谋略机，里面有8个英伟达A100 GPU：
太阳城正网
每个GPU上还都附加了荒谬的HPM高带宽内存；至关垂死的是，他们还需要通盘GPU相互通讯：
Evan暗示，里面的每个措施的性能都会影响ChatGPT最终的体验感。
接下来，Evan站在当今这个时辰节点，回来并总结了OpenAI领先在GPU上所遭遇的瓶颈。
1、GPU内存不及
www.hg86n.com由于ChatGPT的模子非凡大,需要占用大批GPU内存来存储模子权重。而GPU上的高带宽内存非凡好意思丽和有限,不够用来同期办事大批用户肯求。这成为第一个瓶颈。
2、谋略后果低下
初期通过简便的GPU讹诈率见解监控存在问题,莫得充分讨论到tensor运算的内存访谒模式。导致GPU算力莫得被充分讹诈,糟践了珍摄的谋略资源。
钓鱼台美高梅3、难以扩容
皇冠体ChatGPT流量暴增,但受限于通盘这个词GPU供应链,短时辰内无法实验GPU办事器数目,不得不国法用户访谒。无法自动扩容成为要紧挑战。
4、千般化负载特征
跟着用户使用模式的变化,不同模子和肯求类型对GPU的谋略神情和内存访谒模式需要不停退换,优化难度大。
5、散播式考验清贫
GPU之间的通讯和数据交换成为考验架构中新的瓶颈。
不错看出，OpenAI运转将GPU用于部署大模子办事时，照实因为履历不及而遭遇一些系统级别的清贫。但通过不停退换计谋和深远优化，才使ChatGPT得以巩固运行。
况且Evan还爆料说：
淌若不是因为GPU辛勤，客岁产物和功能的发布速率会更快。咱们如故准备好了东西了，但咱们也知谈无法惩处负载。
基于上述的挑战，Evan共享了OpenAI总结出的履历造就：
把问题视为系统工程挑战，而不单是是臆想样式；需要优化各个系统组件的协同责任，如缓存、网罗、批惩处大小等。要深远了解硬件的底层细节过甚对系统的影响，如GPU内存带宽、ops/bytes等对性能的影响；弗成停留在名义见解。不破除据模子和场景变化对系统进行调优；不同的模子结构和使用场景会对系统提议不同条目。要讨论到硬件的千般国法，如内存和算力平衡、扩容国法等，这会影响产物路子图；弗成简便地套用传统的云扩展履历。把ChatGPT算作初创公司
至于团队方面，Evan也有所先容。
ChatGPT启动时，应用工程团队只须30东谈主傍边，发布10个月后才实验到近100东谈主。
OpenAI一直在职工数目增长与保执能手才密度之间寻找平衡，他们领先但愿团队尽可能小，这么不错保执高效的迭代文化。
不事其后跟着产物界限增长，好多职能只须几个东谈主在因循，这么就会存在一定风险，因此才决定进行一定膨胀。
Evan关于团队树立方面的共享，有一个不雅点是值得划重心的。
那就是他认为：
不要把ChatGPT算作是OpenAI的一个部门。
太平洋在线他们在三年前就尝试过用API作念访佛ChatGPT的事情，因此在Evan看来——
ChatGPT更像是个10月大的初创公司嵌套到了3年前的初创公司；而这个三年前的初创公司，又嵌套在一个8年前的初创公司（即OpenAI）。
接下来，淌若公司还会出现新的产物，Evan但愿照旧能够保执沿用这种模式。
参考勾通：[1]https://www.youtube.com/watch?v=PeKMEXUrlq4[2]https://twitter.com/random_walker/status/1719342958137233605?s=20[3]https://twitter.com/nearcyan/status/1719225443788935372?s=20