 浅友们好~我是史中，我的日常生活是开撩五湖四海的科技大牛，我会尝试用各种姿势，把他们的无边脑洞和温情故事讲给你听。如果你想和我做朋友，不妨加微信（shizhongmax）。 多年后的一天，当铁柱低头被领导训斥的时候，也许会想起和大聪结伴回家的那个夜晚。铁柱来自一座北方十八线小城，毕业于名不见经传的二本学校。当初填报志愿两眼一抹黑，二叔说搞计算机有前途，于是稀里糊涂地选了网络安全专业，进入一家企业成为“安全工程师”。第一天坐在工位前，他感觉自己是个飞行员，眼前怼满了各个安全系统的告警日志。带他的师傅说：“你的任务很简单，就是每天找出最危险的 100 条告警，然后顺藤摸瓜，看看背后有没有黑客在搞我们！”铁柱兴奋了，像福尔摩斯一样拿着放大镜研究各种告警。但一周后他发现，大部分告警其实是误报；另外一些告警看上去很可疑，但查了半天也没搞清楚端倪，只好放在那儿；自己真正能搞懂并且能处理的威胁线索少之又少。。。这哥们名校毕业，对网络安全的理解很深刻，说话又好听。铁柱每天围着大聪询问各种安全系统的使用方法，大聪也不吝赐教。可是铁柱很快发现，他跟不上大聪漂移过弯的思路。。。大聪一会儿就能搞定的事儿，他要搞到很晚才勉强弄完。那天两人加班到夜里，结伴回家，铁柱看到万家灯火，心里一种说不出的滋味。又过了几个月，大聪辞职了。听说被一家专门做网络安全的公司给挖走了。那一刻铁柱也想走，可冷静想想自己的能力，还是留下了。日子一天天过，铁柱当上了小组长，但肩上的担子越来越重。他所在的企业数字化改造加快，越来越多关键数据都存在网络空间里；国家《网络安全法》《个人信息保护法》依次实施，数据一旦失窃，后果重大；偏偏国际形势、经济形势都变得越来越严峻，黑客攻击事件越来越多。 几年前有些告警不处理也就过去了，但现在。。。天知道哪条告警背后就藏着国际大黑客，手一哆嗦没准就是几十亿上下的损失。。。企业于是开始组织内部的“网络安全演习”，找来“攻击队”测试铁柱团队的守卫效果。铁柱团队都是中规中矩的安全工程师，没有什么大神，他们只好轮流“守夜”，结果不知道啥时候，还是被攻了进来，底裤都被攻击队偷了去。领导兴师问罪，铁柱本想反驳两句，想想房贷车贷奶粉钱，低头不敢吭声。故事先停在这里。我们不妨跳出来，站在岸边看一下历史的潮起潮落。历史上每一场新技术革命后，都会产生很长时间的“排异反应”——由于新技术、新工具本身还不够成熟，学习、使用它们的脑力成本很高，产业中的大部分普通人是没办法适应的。此刻不仅在网络安全领域，在各行各业都有无数“铁柱们”在挣扎。他们无意偷懒，他们也想成为更好的自己，只因为他们是普通人，能力有限。在变幻莫测的科技浪潮里大口呛水，漫无目的地“卷来卷去”。毫不夸张地说，“铁柱”原本就占据了人口的 80% 以上；而环境还在迅速变化，那 20% 原本不是铁柱的人也正在变成“铁柱”。。。可是，正如黄灯在《我的二本学生》中所说：“他们是和脚下打的黏附最紧的生命，是最能倾听到祖国大地呼吸的年轻群体···他们实现人生愿望的可能性，是中国最基本的底色，也是决定中国命运的关键。”虽然事关国家的安危，但现实是：像“大聪”那样高端的网络安全人才极度稀缺，守卫安全的中坚力量只能是无数的“铁柱”们。现在中国的网络安全从业者大概有10万人，其中相当一部分在做最基本的网络安全运营工作。网络安全运营工程师的“脑力极限”就像一个泡泡，禁锢着自身的可能性，也禁锢着这个国家的“安全红线”——怎么穿破普通人“脑力极限”的泡泡，事关兴亡，兹事体大。老浅友都知道，我一直热切地相信，人工智能，就是能刺破我们头脑泡泡的“白衣骑士”。人工智能“大模型”问世以后，我更加坚定了这个信念。真正能创造出一套接地气的框架，一边连接 AI 和具体的工具，一边连接铁柱——让“铁柱”不用复杂的学习就能被 AI 加持，轻松地升级成“铁柱 AI Plus”，这才是在推！动！历！史！中间的路正如迷雾覆盖的游戏地图，无数技术人不知要用血肉之躯突围多少次才能走出来。坐在我面前的潘剑锋，就是这么一个正在艰苦突围的人。当然他并不孤单，他背后是 360 公司，以及 360 数字安全团队的几百位技术小伙伴们。“你们究竟怎么用 AI 帮助各大企业的网络安全工程师呢？”我一上来就直接灵魂拷问。潘剑锋想了想，觉得要回答这个问题，还是要从头阐述一下 360 思考这个问题的底层哲学。汉尼拔从来没吃过中餐，他通过谷歌搜索了一下“鱼香肉丝”，这时他就明白了鱼香肉丝是个啥样，这就是获取信息。但他还没吃过鱼香肉丝，决定自己做一下这道菜，于是去问 ChatGPT，鱼香肉丝怎么做？ChatGPT 告诉了他详细做法步骤，这就是知识。因为 ChatGPT 提到了生词，例如要用到“泡红辣椒”、“水淀粉”；还提到了陌生的动作，例如“锅中放少许油”、“爆炒”，这些背后都隐含了很多细节信息和实践经验，超出了他在“中餐领域”的能力和认知边界。汉尼拔没有炒菜的技能，在鱼香肉丝面前，他就是铁柱！咋办？简单啊，去中餐馆，点一盘鱼香肉丝，让大厨发挥技能直接给他做就行了。你看到了吗？最后帮助这个老外的，不是信息，也不是信息编织成的知识，而是知识编织成的“技能”。说回来，刚才潘剑锋提到了一个关键词——“智能体”。简单来说，掌握某种“技能”，并且能用这种技能帮助人类完成（与智能相关的）“特定任务”的那个存在，就叫“智能体”，它的英文叫“Agent”。不过在“鱼香肉丝”这个例子里，“炒菜”是个物理技能，得有手有眼才能干，想让智能体掌握这种技能，得先造出一个有手有眼的机器人。这以目前人类的技术水平还比较困难，只能让“碳基智能体”——人类大厨——代劳。但在很多 IT 领域，比如“网络安全”，所有的攻防战斗其实都发生在虚拟世界，不涉及和物理世界的互动。所以只要能针对某个威胁做出应对策略，并且调用虚拟世界的工具一步步践行这个策略，它就是一个优秀的“网络安全智能体”！这样的“网络安全智能体”，足够帮助铁柱做好网络安全的运营工作，让他变成“铁柱 Plus”！说到这，可能有的浅友还有点懵：去年出来的“大模型”我还没搞明白，又来了个“智能体”，他俩到底是啥关系？对于大部分普通人来说，给你个发动机，你当然知道这玩意儿非常精密，代表人类文明最高水平，但它对你来说就是没用。。。（这就是为啥 2023 年大模型炒得那么热闹，但是普通人却感觉和自己没啥关系。。。）但是，给你一辆包含发动机的整车，你马上就知道它有用。你可以用它实现特定目的，比如上班、旅游。所以说，工程师们究竟能把“智能体”做到啥程度，才真正决定了这一轮人工智能大模型的爆发能在多大程度上改变全世界 80 亿人的生活。话说，人类对于智能体的想象，基本都来自于科幻小说。科幻小说里那种“机器人”，就是智能体的高级形态。你让它唱歌跳舞也行，让它炒菜做饭也行，甚至它不爽了还能反叛呢。。。这种科幻想象，默认了智能体具有执行“通用任务”的能力。但是说实话，以目前 2024 年的人类技术水平，还远远做不到科幻小说里的“通用”，只能专门为特定的任务调教一些智能体，比如“帮我收集新闻的智能体”、“帮我安排日程的智能体”。。。帮助网络安全工程师做安全运营工作的智能体，能不能被做出来呢？ 网络安全运营，这个工作听上去挺聚焦，但其实相当宽泛。因为网络对抗本来就很像打仗，兵者诡道也，你不知道对面的黑客会使出什么招数。对方出俩王四个二，你得打七对十三幺。。。所以，“网络安全智能体”反而是所有智能体里非常难的一种。故事还得说到 2023 年 6 月，当时 ChatGPT-4 正在风口，360 也训练了自己的大模型，也就是“360 智脑”。与此同时，国内外也有一些重磅的大模型陆续开源，比如 Meta 的 Llama。但实话说，无论是领先的 ChatGPT 还是一众跟随者，大家的模型水平都是一言难尽——直说吧，很弱鸡。“你说中国的大模型弱我同意，但 ChatGPT-4 我用过，回答问题井井有条，你怎么能说它弱呢？”这是因为，很多人询问 ChatGPT 的问题是“单步问题”。比如“康德的主要思想是什么？”或者“帮我写一首有关春天的诗。”大模型只要针对这个问题冥思苦想就够啦！这种情况 ChatGPT 可以做得不错↓↓↓但是，现实生活中对我们生活质量产生重大影响的几乎都是“多步问题”。比如“我喜欢一个女生，她叫李逵，我要干什么才能追到她？”我不相信你只做一件事儿就能追到李逵，你得精心策划一套剧本：起码得有“偶遇铁牛”、“展现倒拔垂杨柳的能力”、“送她两坛好酒”、“陪她劫法场”、“表白”等等很多章节，每个章节里面还得有几个小标题。。。一套组合拳下来，才有可能追到李逵。如果拿这种多点问题去问 ChatGPT，你得到的一定是一个很笼统的答案，什么“积极交流”呀，什么“提升自己”呀，没有可操作性。比如你从一条告警开始，要先找到导致告警的黑客动作，再探寻黑客在这个动作之前还做了哪些动作，甚至要找到黑客利用了哪些漏洞，还要溯源黑客的来头，分析他的目的，写成完整的报告，同时拔掉黑客在网络里埋下的钉子，彻底把他撵出去。你跟大模型笼统地问：现在我看到了一条告警，我想撵走黑客，应该怎么办？哪怕是地表最强的 ChatGPT-4 也根本答不上来。刚才说过，大模型是发动机，智能体是车，那么智能体框架，就是“除了发动机以外的汽车框架”。发动机功率不好的时候，通过提高传动效率，设计精巧的结构，还是能造出一台车的！这样一来，等到发动机自身升级了，直接替换掉旧发动机，整车性能不就瞬间爆棚了吗？！ 怀揣这种现实主义的思路，2023 年初夏，潘剑锋和一众老师傅上路了。要说清这个“智能体框架”，咱们得想象一个画面：思维链。既然大模型在“解决单点问题”上能力还行，在“总体任务规划”上比较弱。那我们能不能把事情拆开？就让大模型解决一个个单点问题，而把任务规划交给另一个模块来做？这样，解决一个网络安全问题的框架就变成了下面这样：每个小问题都解决了，思维链也就推导到了最后一步，总任务完成！“思维链”上的每个步骤的“问题”并不相同：有的步骤是大模型纯靠思考就能解决的，很多关键步骤是大模型必须调用安全工具才能解决的。咱们就拿上图来说，那条思维链上的第 3 步，是要通过“360 威胁情报系统”这个工具来查询某个 IP 地址有没有犯罪前科。2）知道用什么命令，才能从“ 360 威胁情报系统”里把数据给查出来。 所谓“现学现卖”，就是思维链已经推进到这一步了，现场告诉大模型有“威胁情报系统”可以用，并且把使用说明书给大模型看，让它一边看着操作说明一边查询。拿到结果，交给思维链的下一步。这波任务结束，它就可以把工具的使用方法给忘了。所谓“提前培训”，就是提前给大模型上课，把 360 各种安全系统的操作指南都给大模型预先学习，这就是“模型精调”。把精调过的模型放在思维链上，它就已经掌握了对很多系统的操作技巧。此时，直接告诉它应该查询“威胁情报”，它就会查到结果，交给下一步。这次任务结束，它仍然记得这些工具的使用方法。按理说，“现学现卖”和“提前培训”都可以，而且“现学现卖”反而更简单。但这里有个巨大的问题，那就是大模型的“输入窗口”有局限。简单来说就是，你一次给大模型输入的信息不能太多，按照 2023 年夏天的技术发展水平，虽然不同模型有所差异，但基本都在 1k-8k Token，你可以理解为，一次只能给大模型说“8000 个词”。这就造成了，如果“现学现卖”，思维链上的每一步都只能执行简单的操作。因为稍微复杂一点儿，你光教大模型用工具，已经超了 8000 词，都来不及布置任务了。。。潘剑锋他们权衡之后，决定用“集中培训”的方法。（后来的事实证明，他和大部分友商走了不同的路线。）但老师傅们越培训越发现，难度比想象中要高，这主要是因为大模型有个内生“Bug”——灾难性遗忘。也就是说，你给它学越多专业知识，它就可能遗忘越多通识；你给它学越多 A 方向的专业知识，它就可能忘记 B 方向的专业知识。（其实人也有这个毛病，比如很多数学家在生活上都比较低能，比如很多大文豪却数学不及格。。。）只有一种方法可以减轻“灾难性遗忘”，那就是教大模型的“老师”和“教材”要非常厉害。所谓厉害，就是把所有网络安全系统抽象成高度统一的逻辑，表面上大模型学习的是 A、B、C、D、E 五种系统的知识，本质上它学会的都是同一种安全运营的思路。抽象的层次越高，意味着老师要对网络安全的理解越透彻，当然也就越难。但既然选了这条难的路线，跪着也得走完。况且 360 作为网络安全界的大佬，要是干砸了，实在丢不起那个人啊！老师傅用几个月的时间，把他们近二十年来和黑客组织你来我往实打实的对战经验和运营秘籍总结成成一套精巧的《九阴真经》，推着大模型的后背，总算把“内力”给传输进去了。这时，潘剑锋和 360 老师傅们终于能擦擦汗——在那张大图上，“大模型”和“工具”之间的磨合总算是顺滑了。潘剑锋告诉我，到了 2023 年 8 月，360 安全大模型已经学会了几十款产品中几百个接口（ API）的调用，而且保证每次调用都是准确的。于是，360 在 ISC 大会上顺势发布了“360 智控系统”。等等？！为啥叫“智控系统”，不叫“安全智能体”呢？！这个名字背后，其实隐藏了智能体的另一个巨大的难点。你有没有发现，刚才我们只解决了“大模型”和“工具”之间的配合，但是一直没说“任务规划”是如何进行的。其实，在 2023 年 8 月的时候，即便 360 在大模型安全系统上已经很领先了，但是在“任务规划”这个层面上，做得依然不够理想。这个难点的表现是：思维链很难做长。一旦规划了一条比较长的思维链，就有可能出错。所以，为了保证系统的功能准确，只能把思维链限制得较短。如此，这个系统的突出特点就是“自然语言控制”：比如我说让系统帮我查一下某个威胁情报，大模型就理解了我的意思，然后调用威胁情报系统去查询；比如我让系统帮我解析一下这个告警，它就去查询这个告警背后的关联信息，然后用自然语言解释给我听。团队比较实事求是，干脆起了个保守的名字，就叫“智控系统”。但问题来了，潘剑锋拿着“360 智控系统”去客户那安利，甲方的领导提出了一个致命的问题：“如果我花了上百万买了你的这一套包含大模型的系统，结果只是方便了一点点，我为什么要投入？”换句话说，如果你的系统以智能控制为最大卖点，那究竟能给我的安全团队多大的加持呢？我买你的系统“投入-产出”划算吗？你看， 这个问题立刻回到了我们在第一章强调的：公司安全运营团队里有很多“铁柱”，他们最需要的不是单点对安全系统的智能控制，而是一整套运用安全系统保卫网络的“技能”。想明白这一点，潘剑锋回到办公室，他知道团队只有沉下心来死磕一件事儿，那就是：把思维链做长。而且，在增加思维链长度的同时，必须保证专业性和准确性。思维链的起点，是事情现在的样子；思维链的终点，是我们的目标。所以，目标是“切近”还是“远大”，其实就决定了思维链的长短。那么我的思维链可能就是：找到面前的水杯，抓起水杯，送到嘴边，喝下去。你看，这个目标就是切近的目标，思维链短，也很清晰，容易规划。那么我的思维链可能就是：好好学习，结交靠谱的朋友，找到好工作，出任总经理，创业做 CEO，做大做强，赚到 1 个亿。你明显能感觉到，这个目标很远大，思维链很长，并且每一步都还可以分为更具体的思维链，这样的规划即便是人都很难做到，何况 AI 乎？一个网络安全智能体面对的目标一般都比较远，咋办嘞？在市面上已有的智能体技术中，这个任务规划模块是由人工智能（大模型）来全权承担的。但潘剑锋经过实验发现，网络安全的众多任务规划模块如果纯纯交给人工智能，很多链条是连不上的。所以这个模块应该是“人类智能”和“人工智能”共同驱动的。1、360 的安全老师傅们坐在一起，研究出针对很多具体目标的“剧本”。这些剧本其实就是预制的思维链。一旦用户提出这些目标，那么就直接走剧本。2、同时模块里还有一个特制的大模型，专门负责生成没有预制剧本，也就是“通用任务”的规划，但这个大模型也不是凭感觉乱规划，它会参考一份《葵花宝典》，也就是 360 老师傅们总结的“黑客技战术大全”和已发现的“高级威胁组织”。 你看，无论是走预制剧本还是现场写剧本，最后之所以能把思维链做长做准，都是因为背后都融入了 360 这些年的安全经验积累。“把 360 的独门绝技放进去，才让我们做出的安全智能体有一道很深的护城河！”潘剑锋说，“当然，也不能说 360 的剧本库就完全适合每家企业，客户也可以通过我们准备的“低代码平台”，用拖拽的方法设计他们的本地剧本，添加进剧本库。”此时安全智能体的表现虽然说的过去，但仍然被一个“看不见的天花板”所阻挡。360 的老师傅发现，对于人类来说顺手的“安全工具”，智能体用起来并不顺手。这导致了另一个更大的问题：安全专家心里那么多牛X的经验，没办法原汁原味地传授给大模型——传授的过程中总要打个折扣。仔细思考，问题就更严肃了：虽说 AI 是仿照人类大脑研发的，但毕竟人类和 AI 是两个物种，大模型在思考的逻辑性上比人有劣势，却在思考稳定性上比人类有优势。这么说的话，适合人类的安全工具，也许并不适合 AI 智能体，反而应该为智能体开发一些它们专属的工具？！在云计算兴起初期，人们的第一感觉自然是把原来的软件系统搬到云计算上；但是云计算成熟的过程中，越来越多工程师意识到，应该为云这种基础架构开发专属的软件系统，才能充分发挥云的优势。于是，出现了“云原生软件”。如此观之，未来的方向很可能是：“大模型原生”的系统。对于 360 数字安全来说，就是“大模型原生的安全运营系统”。所谓大模型原生，用白话说就是：不要让大模型去适应原有的安全运营体系，而是把安全运营体系的所有模块都变成能适应大模型的！想清楚这些，潘剑锋立刻调动团队的几百位工程师，调整他们手里的几十款安全产品的接口，让大模型更容易控制。有了“大模型原生”这个方向，很多原本觉得天经地义的事情，此时都成了老师傅的“眼中钉”，亟待被改变。在很多剧本里，都涉及到一个具体步骤，那就是“异常行为检测”——就是说，判断这个程序正在表现出来的行为，到底是正常的，还是异常的。过去，由安全工程师来完成这个“检测”，他需要动用自己的经验，结合一些检测工具，才能能给出判断。这个工作算是“单点任务”，理论上可以由大模型自己来完成。可是，大模型相比人脑而言，思路没那么清晰，如果一味模仿人的做法，效果很难提升。那为什么不用“大模型原生”的思路，扬长避短，用大模型优势的一面来完成这个工作嘞？于是，潘剑锋他们对执行这个步骤的大模型做了深度“魔改”，利用大模型的一些工作特点直接判断这个行为是正常的还是异常的，效果一下子就突破了瓶颈。（由于这里涉及很多技术独创，潘剑锋特地嘱咐我别说太细致。。。）把一些大模型从结构上进行改造，更能适应特定的任务。
最初，客户提出了“智控系统”对人的帮助不够大的问题，于是 360 的老师傅要把思维链做长；在把思维链做长的过程中，老师傅意识到可以把 360 这些年积累的独门秘籍都塞进去；在塞独门秘籍的过程中，老师傅遇到了一些困难，他们发现要想把人类经验完全塞进去，需要首先把一整套智能体的框架都改成“大模型原生”的；为了实现“大模型原生”，老师傅把底层的工具进行了全部改造，还把执行特定任务的大模型做了改造，相当于把整个系统按照新的范式重构了一个遍！ 3）只有进入“范式的重构”，把新技术按照新范式排列在一起，才能形成合力，在地层上扎牢根系，带领新世界一骑绝尘。说回我们的故事，所有这些做完，已经到了 2024 年 1 月。潘剑锋穿着“王子复仇”的华服，杀回到几家大企业客户那里：你们要的“技能”来啦，看看智能体究竟能帮你们的“铁柱”做多少事情！ 系统同时部署在几家企业里做测试。究竟能不能抓到黑客，其实潘剑锋心里也有点打鼓。。。这倒不是对技术没信心，而是万一在测试阶段没有黑客进攻，智能体只能做日常巡检，搞不了“大新闻”啊。也不知是幸运还是不幸，几天之后，在一家大型金融企业里，紧张的情节突然开始上演：这家企业的财务部同事收到一封邮件，标题显示，是有关“Paypal 海外支付”的。（当时用户并没有截图，内控制度也不允许截图，这是后来 360 老师傅根据现场复现的）由于这家企业有很多海外业务，收到 Paypal 的邮件再正常不过了，所以这个同事没有多想就点开了邮件附件。附件是一个 Word 文档，里面几乎都是韩文内容。这位同事觉得可能是 Paypal 发错了，或者后续还会有英文版内容发过来，也没多想。可是就在几秒钟后，部署在网络中的 360 本地安全大脑弹出了一条告警。
这条告警不仅推送给了企业安全运营团队，也同时推送给了时刻待命的 360 安全智能体。360 安全智能体用了十秒左右的时间对任务进行规划，然后按照规划一步步执行：1、它根据告警，找到了导致告警的病毒文件，并且把这个文件里的代码侵入这台主机的全过程日志都做了摘录。2、根据 360 的研判，记录下了它的全部行为特征：利用模板注入，投放宏病毒，将窃密模块注册为系统服务，收集敏感数据，通过网络传出。3、用这个行为特征去 360 的威胁情报库查询，结果是，它和 360 记录在案的一个位于朝鲜半岛的“高级威胁组织” APT-C-28 的相似度达到了 99%。4、智能体马上拿着这个高级威胁组织的行动特点，在企业的内网里开始拉网式搜寻，发现受感染的主机已经不止最初的那一个，而是扩散到了另外四个，分别是：“cmdb 资产161”、“DNS 服务器”、“GQQ”、“Web 服务器”。这些资产可都是和业务相关的！5、根据这些结果，用大模型自动书写一份调查报告，同时生成一份处置建议。6、调查报告和处置建议一起被发送给安全运营人员，他们做最终研判，可以点击按照处置建议执行，也可以修改或添加其他处置行动。7、至此，对这条告警的“围猎”结束，智能体回归待命状态。在最后的报告里，“安全智能体”追溯出了黑客完整的攻击路径。
这个故事里，让潘剑锋觉得骄傲的，不仅是 360 安全智能体正确操作了整个“威胁猎杀”的思维链，还有它完成整个操作的过程只有不到 1 分钟。我们不妨再回到攻击的开始，就在财务同事点开带毒文件的一瞬间，其实就像一个发令枪，安全人员和黑客开始了“夺命赛跑”。每一秒，黑客都在网络里冲杀，试图感染更重要的主机，尽可能把重要的信息传输出去。这些信息不一定是企业核心数据，更有可能是某些子系统的登录密码，网络拓扑结构等等。只要黑客拿到了这些信息，哪怕这波攻击被安全人员发现，杀掉了病毒进程，它依然是成功的——因为黑客可以利用窃取到的密码和网络结构信息，择良辰吉日卷土重来。黑客掌握的信息越多，就越不容易被安全系统发现。于是，很可能每一次黑客都可以在之前的“成果”上再推进一点点，直到最后拿到核心机密。而安全人员要做的事情，就是赶在黑客拿到某些信息并且把它传输出去之前就干掉病毒，并且把病毒构建的对外传输通道彻底堵死。这种攻守天平非常不稳定，每推迟一秒，都可能向黑客的方向倾斜。这种倾斜，是无可挽回的！由此，我们再回看整个威胁猎杀的过程，只用了不到 60 秒，你就能明白这个事实有多锋利。如果交给高级安全人员，当然也能分析出和智能体相同的报告，甚至比智能体发现更多的蛛丝马迹，报告写得更准确，但是有一点可以肯定：人类的用时必定超过安全智能体。真正的武林对决中，你的功夫再扎实，如果出拳太慢，还是会败，正所谓——“天下武功，唯快不破”。由此，智能体终于展现出了“大模型原生范式”的光芒。就在老师傅们为自己手造的奇迹欢呼时，在其他测试企业里，智能体也发现了其他的黑客进攻行为。他的意思是，虽然 360 的老师傅们做了很多努力，但是毕竟产品刚刚成熟，还要经历在客户运行环境中的磨合。况且潘剑锋觉得，安全智能体是一个非常有挑战的新技术，就在过去几个月间，团队克服了很多友商还在苦苦思索的难题，有了一定的优势，但如果潜心努力，优势还能进一步扩大，此时还是低调为妙。如果从天空俯瞰，这一轮人工智能大模型的爆发会重构千行百业，而重构的具体过程，就是通过千百个“智能体”来实现的。在网络安全领域，谁拿下了“智能体”的高地，就相当于拥有了降维打击的能力，这会影响至少未来 10 年的竞争格局，当然要审慎再审慎。如果说 360 数字安全的发展也有“剧本”的话，那我猜这帮老师傅给自己写的剧本就是——偷偷努力，然后惊艳世人。潘剑锋告诉我，如果未来大模型的能力进一步增强，那么规划的任务也可以脱离“预制剧本”，更多地交给模型去自动生成。在我看来，这就是规划层的“大模型原生”。走到这一步，智能体距离科幻电影就更近了一些。在他看来这是天经地义的，却猛地撬开了我思考的闸门。一个客户，可能买了 360 的主机防护系统，可能买了 360 的防火墙，也可能买了能汇集所有安全系统信息的“本地安全大脑”。这些系统完全可以完全没有“智能体”介入，由安全运营人员去操作；智能体也可以独立操作“主机防护系统”、“威胁情报系统”、“本地安全大脑”； 这个事情的奇妙之处在于：我们都知道“智能体”本来是一行行的代码，和那些同样由一行行代码组成的工具更为类似。但在生态位上，智能体却和人的地位更相近。正是这种生态位的相近，让智能体可以和人融合，把铁柱变成“铁柱 Plus”。看到这里，很多人会有警觉：铁柱 Plus 继续发展，会不会有一天铁柱没了，只剩下“Plus”？其实，从 360 的智能体里，我们已经可以看到一些端倪：潘剑锋他们把智能体的思维链做了个限制，最远只到：给出操作建议。为什么 AI 不直接操作网络安全系统直接把威胁给处置了呢？潘剑锋觉得，这里的主要原因不是 AI 的思维还不如人类准确，而是 AI 不具备像人一样承担责任的能力。可能很多浅友看到这里会撇嘴：不就是说还得让铁柱来背锅嘛！在我看来，它的本质不是背锅，而是人类试图在“人机协同”的未来世界里，寻找自己的地位。我们不妨回到那个金融企业遭受网络攻击的现场。问一个“白痴”的问题：为什么企业的安全人员发现了这场攻击之后，要进行阻止呢？如果他是被境外组织策反的“内鬼”，他当然不会阻止这次攻击，还会试图掩盖攻击的痕迹呢。上帝并不关心所谓的“正义”。A 集体攻击 B 集体，并不能证明 A 错 B 对，反之也不能证明 A 对 B 错。之所以我们坚信某些东西是“正义的”，恰恰因为我们有立场。我们中国人相信自己的价值观，是因为我们了解我们的历史；人类相信人类的价值观，也是因为了解人类共同的历史。从这个意义上说，正因为我们有特定的历史，才会有特定的立场，正是因为有立场，才会设定具体目标，而目标是否实现的最终责任，当然要由设定目标的人来承担。由此可见，“责任”是一种对自我存在的世界线的保护。在可预见的未来，无论智能体多么发达，铁柱一定会尽力把最终改造世界的按钮连同责任一起握在自己手里。告别潘剑锋，我突然想起我们认识大概有七八年了，每次跟他聊天让我印象最深刻的都是他的极端低调务实。潘剑锋是中国最早一代黑客的佼佼者，早在 20 年前他开发的冰刃就是探查系统中木马后门的利器。可以衣食无忧独善其身的他还是选择加入了 360，成为网络安全战线上的斗士。在云计算突飞猛进的年代，他带着同学们杀尽了技术难度最高的虚拟化安全战场，做出一套国际领先的基础设施。如今大模型智能体方兴未艾，他又带着同学们用最新的 AI 技术做出一整套安全运营的体系。我想强调的并非潘剑锋的个人履历，而是想说，在 360 有很多像潘剑锋一样的老师傅。他们就是现实世界的“大聪”。造出一个“网络安全智能体”，加持千万个铁柱，让他们不会成为被生活驱逐的“帕鲁”，也许是一种更缱绻的善意。最近经济并不如从前火热，网络安全的市场尤其经历低谷。此时，无数老师傅仍然在埋头苦干，用最先进的人工智能和智能体来武装前线的士兵。这种充沛的动力需要一个解释。我愿意相信，他们明白有些高地只有自己冲锋才有胜算，有些岁月只有他们亲自守卫才能放心。
授人以渔
|
