千方科技孙亚夫谈交通行业大模型

通用大模型、行业大模型

大模型概念层出不穷有何区别？

交通行业大模型如何构建？怎样落地？

千方的角色是什么？优势有哪些？

智慧交通ITS114专访千方科技副总裁孙亚夫

请亚夫总为我们上了一堂大模型课

问：我们应该如何理解大语言模型，以及大语言模型在交通领域有哪些可能应用场景？

答：从哲学上讲，人类基于概念理解世界，而大语言模型构建了理解世界的概念模型，因此具备了理解、分析、推理等能力，类似于一个接受过通识教育的大学生。

大语言模型的优势在于其强大的自然语言处理能力，可实现更高效的人机交互、跨应用交互、跨系统交互。在交通领域，大语言模型具备发现问题、分析问题和解决问题的能力。

举例来说，它可以协助开展交通运行状况监测，如图像和视频分析、自然语言处理和语音识别等。可被训练用于分析图像和视频，以检测和识别车辆、人或其他交通运行特征，赋能交通管理部门实时监测和分析车辆、道路、信号灯等信息，智能协调交通流量，减少交通拥堵、降低交通安全隐患，让交通更安全、更便捷、更智能。

问：交通领域对于大语言模型是否有强需求？大语言模型在现阶段可以扮演哪些角色？

答：大语言模型与以往的人工智能不同，它具备了通用智能，可以说应用范围近乎无限。凡是人们对专家需求强烈的地方，对人工智能亦然。

我们认为，现阶段大语言模型的角色相当于AI助理，它能够在原有业务系统、应用系统与客户之间充当辅助者、支撑者，根据指令执行任务，如写一篇稿件，生成一份分析报告。以交通运行协调中心TOCC场景为例，以往需要由技术人员操作系统，按需求生成分析报告，在应用大语言模型后，客户便可以从系统中自动生成各类分析报告。

问：什么是行业大模型？如何训练一个交通行业大模型？

答：我们可以把大模型分为两类，一类是通用大模型，如ChatGPT，具备各个领域的基础知识；另一类是基于通用大模型开发的行业大模型，如交通行业大模型，具备交通行业的深度知识、实践经验并经过验证优化。

行业大模型的训练，类似于将一个大学生培养为一位行业专家。对于交通行业大模型而言，首先，需要向大模型提供交通领域的专业知识。其次，将交通领域的案例、最佳实践和专家经验整理为训练材料，让模型不断学习。与此同时，将模型带入行业实践不断验证，并针对问题持续给与指导、优化。

问：如何解决交通行业大模型训练过程中的数据安全问题？您认为理想的训练、迭代模式是怎样的？

答：目前业内大多采用公有云部署进行训练，并将数据保留在本地的方式，这种方式既解决了数据安全问题，又为大模型训练提供了适当条件。当前行业大模型不会采用私有化部署，原因在于，其一，行业大模型部署需要较高的算力和成本，单个客户私有化部署的投入产出比较低，多客户共享服务可大大提升效益；其二，行业大模型处于持续演化的过程中，公有云部署便于客户实时、快速的反馈和互动，有利于行业大模型的快速迭代。其三，随着技术发展和行业大模型的成熟，通过对行业大模型进行微调，能够训练出特定场景的小模型，在算力需求减少且成本降低的情况下，可以考虑私有化部署。行业大模型的发展方向之一，就是私有化和小型化。

问：智能交通企业在交通行业大模型的应用进程中扮演什么角色？千方有哪些优势？

答：智能交通企业是交通行业大模型的创造者和提供者，如前所述，行业大模型有赖于行业深度知识，因此行业大模型必定由行业内的企业创造。提供通用大模型的企业不可能独自打造出交通行业大模型，而交通行业大模型也需要以通用大模型为基础。

构建行业大模型，对于企业的综合能力有很高要求，涉及行业理解、实践经验及技术能力等多方面。千方专注交通行业23年，业务场景覆盖全面，行业知识积淀深厚，已有200多位行业专家，拥有成熟的方法论和丰富的实践经验。自2015年起积极布局人工智能领域，建立了国际领先的人工智能团队，现已形成六类900余项全景AI算法，不断推出算法产品与解决方案。在交通领域，我们携手阿里云“通义千问”，共同推进大模型在行业内的应用落地。在AIoT领域，公司旗下宇视科技已推出行业大模型「梧桐」。

问：交通行业大模型的落地应用，面临哪些挑战？如何解决？

答：主要的挑战包括如何以最高效率和最低成本，在通用大模型的持续迭代中进行行业大模型的迭代。其次，需要培养客户对于交通行业大模型的理解和应用，以获得更多反馈。以及如何平衡投入成本高，初期产出相对较低的问题。

在解决这些问题时，需要考虑交通行业大模型的应用阶段。首先，数字化程度越高的行业，会越快产生行业大模型，而交通行业大模型的产出周期可能相对较长。其次，需要随着市场的发展逐步迭代和落地应用，这是更切实可行的方法。

问：您对于交通行业大模型的应用路径如何判断？是否会昙花一现？还是会成为行业必需品？

答：未来，AI就像水、电一样，是一个基础能力，所有行业都会被重新AI化一次。我们认为，交通行业大模型的应用可以分为四个阶段：

第一阶段，我们以通用大模型作为提升效率的工具。交通行业的业务系统偏To G、To B，需要大量定制开发，客户需求也是不断变化的，开发周期长、交付效率低，利用大模型可在客户前端快速编码，实现快速交付。

第二阶段，结合应用场景进行新产品开发。千方科技主要有两类场景，一类与视觉感知有关，另一类是交通场景，包含交通信号优化、调度场景、交通运输查违章等。原有的视觉AI模型缺乏对世界的理解，结合通用大模型后，可以快速根据场景进行落地应用。

第三阶段，在通用大模型基础上，结合行业知识与专家经验，形成交通行业大模型。这方面我们在做一些尝试，具体应用取决于行业、市场对它的理解，以及客户的接受程度，需要一个过程。它的渗透不会像消费市场那么快，但门槛非常高，一旦建立很难被跨越。

第四阶段，结合千方科技的前端感知设备、边侧智能设备和云端的行业大模型，我们有可能会把交通系统变成一个半无人或者由人监督的自动化运行系统，这是我们未来研发的目标。