知从科技：拥抱大模子时期，AGI赋能汽车基础软件

2024 年 10 月 24 日，在第十二届汽车与环境鼎新论坛上，上海知从科技有限公司交易征战总监曹守营暗示，不合应时期的居品正在被时期所清除。现时汽车产业正处于百年未有之大变局，并呈现出从"软件界说汽车"向" AI 界说汽车"的滚动。

算作专科从事汽车电子基础软件居品征战和关系时候工作的汽车软件公司，知从科技自成立之日起，就坚握基础软件，器具软件，功能安全，信息安全，FOTA 五条主要居品线，并提供相应的工程工作。曹守营指出，在汽车领域，咱们正在不断用大模子赋能汽车发展。

聚焦"知从大模子"的时候框架，曹守营具体共享了若何用大模子赋能汽车基础软件发展。并围绕需求治理机器东说念主、软件征战机器东说念主、软件测试机器东说念主、技俩治理机器东说念主进项了翔实先容与方法论的先容。

曹守营   | 上海知从科技有限公司 交易征战总监

以下为演讲内容整理：

AGI 与汽车行业的变革

滥觞，AGI 算作新兴的坐褥力，在竞争日趋热烈确当下，企业若要握续发展，采选 AGI 及大模子已成为必由之路。探讨 AGI 的必要性，咱们可以从手机行业的变革中窥豹一斑。从诺基亚的直板手机，到配备键盘的智高手机，再到如今普及的触屏手机，不外短短十几年间，智高手机已发生了揭地掀天的变化。那些未能跟上时期法子的居品，早已被市集淘汰，汽车行业亦面对着相似的变革。

以往，征战一款新车需耗时五六年，而今三年已足。广大 OEM 厂商每年都在发布新车型，异日这一周期甚而可能缩小至半年乃至三个月。咱们曾热议"软件界说汽车"，而今，" AI 界说汽车"已成为新的潮水。汽车行业的这一趋势也极地面影响了汽车基础软件的发展。以往说起汽车基础软件，东说念主们滥觞思到的是 AUTOSAR，而今，也要包括功能安全、信息安全和 FOTA。

咱们知从公司是全球惟逐个家能提供全栈车控基础软件治理决议的企业，咱们的软件不仅涵盖了基础软件、功能安全、信息安全，FOTA，还包括多款上位机器具，以及为此配套的工程工作。

再来看汽车基础软件架构的变迁。跟着 SOC 芯片的应用，咱们引入了安卓、QNX 等操作系统绝顶对应的生态软件。同期，AUTOSAR 也发布了 Adaptive AUTOSAR 范例。这一切都给汽车基础软件的征战带来了前所未有的挑战。不雅察 AUTOSAR 范例文档的变化，咱们不难发现，页码越来越多，内容也越来越丰富。和基础软件密切关系的还有芯片手册。以往，一个 MCU 的宇宙范例可能只需 500 页手册来形色，而今却需要上万页，内容量增长了 20 倍。

图源：知从科技

雷同地，和汽车行业关系的，还有整车范例，功能安全范例，信息安全范例，汽车软件征战历程范例等等。总之，范例在增多，范例的内容也在增多。面对这一挑战，增多东说念主手或者是咱们滥觞思到的治理决议。咱们需要更多的东说念主来帮咱们写代码，更多的东说念主帮咱们读文档，更多的东说念主帮咱们工作客户。而这，恰是咱们打算大模子所盼愿达到的见解和效果。

AGI 及大模子在汽车软件征战中的应用

在汽车基础软件的征战过程中，咱们碰到了诸多坚苦。但是，AGI 的发展却呈现出百花都放的态势。自 2022 年底 ChatGPT 3.5 发布以来，大模子的发展速过活益加速。不管国内照旧外洋，险些每天都有新的大模子问世，参数目也在握续增长，从领先的 200 亿增多到了面前的 5620 亿。大模子参数的增多意味着自学习才调的提高，准确性的提高，以及应用范围的拓宽。咱们看到了文本创作、问答、聊天、翻译、代码生成等万般化的应用场景。

跟着多模态大模子的应用，文生图、文生视频等功能也愈发普及。在汽车领域，大模子的应用通常庸俗。以智能驾驶和智能座舱为例，每个 OEM 厂商都有我方的治理决议，而具身智能更是引起了业界的庸俗蔼然。

底下初始先容一下咱们知从大模子的框架。在框架的底层，咱们使用了一些通用的大模子算作征战基础，如百川，ChatGPT，LLaMA3 等。咱们我方是莫得大模子征战警告的，是以咱们和头部企业合作，鉴戒于他们熟悉的警告来为咱们工作。在基础模子之上，咱们搭建了低代码智能体平台，主要集成了其他第三方的大模子应用，如向量大模子、向量数据库以及 LangChain 征战框架、LangSmith 监控资源使用情况的应用等。还有 GraphRAG，这是一种采选学问图谱的形状抒发实体绝顶之间的关系，通过图搜索的形状从数据库中检索学问，比拟传统的向量化方法更为准确。这是咱们异日蔼然的要点标的。此外，咱们还引入了第三方的应用，实在时搜索、文生图等。

在智能平台之上，咱们构建了智能体。智能体的底层是学问库，咱们凭证技俩脚色对学问进行了分类处理，搭建了不同的学问库。这些学问库是通过行业学问和技俩警告教训而成的，互相独处但又通过智能体互关系联。

学问库之上是智能体，我简要先容一下智能体的责任旨趣。对于传统学问库中的问题，问答机器东说念主可以径直从学问库中寻找谜底进行复兴。但是，对于更复杂的问题，如"今天的气温比昨天高了几度"，学问库中莫得现成的谜底，是以问答机器东说念主是复兴不出来的。这时，智能体就会将问题分解为多个门径，分袂获得今天和昨天的气温，然后进行计较得出谜底。对于获得指定日历的气温，学问库中也莫得现成的谜底，可以借助于第三方的应用来完了。如上所述，智能体具有任务分解，自我迭代，以及调用第三方应用的性情。

基于这么的性情，咱们构建了多个不同的智能体来完成不同的应用任务。智能体之上即是咱们的机器东说念主，它们能够治理咱们之前提到的阑珊东说念主手编写代码、阅读文档、工作客户等问题。

对于学问库的构建，人人可能会猜忌为什么咱们不将通盘学问存放在团结个学问库中，而是分红多个学问库进行存储。这是有原因的，咱们将学问上传后进行文档领悟、切片处理，然后运用向量化大模子对其进行向量化处理，将驱逐存储在向量数据库中。当用户建议问题时，咱们会对问题进行向量化处理，然后在向量数据库中检索相似的学问。这个检索过程是运用向量相似性进行检索的，会找出最接近的一些学问交给大模子进行推理和总结，终末反映给用户。

但本色上，人人在构建学问库的过程中，会碰到各式挑战，尤其是在最终履行阶段。举例，向量大模子的选型，采选不同的向量大模子，所得到的的谜底会有差异；而向量数据库的不同，也会影响检索的效率、效果及内容。此外，文档切片的形状、大小、重合度等身分，都会对最终驱逐产生影响。再者，文档领悟通常进击，对于当年文本，领悟方法大同小异；但对于图片、图表等结构化数据，处理方规章因方法不同而效果差异，这里触及到结构化文本泛化的问题，处理决议比较复杂。

基于咱们行业的学问和技俩警告，咱们对学问库进行了分类处理，并放在不同的学问库中进行细化。使用不同的向量大模子，竖立不同的参数，面前取得的效果还算可以，调回率褂讪在 85% 傍边，后续咱们将进一步优化。

治理学问库问题后，咱们再来看机器东说念主的搭建绝顶使用场景。以需求治理机器东说念主初始，它协助系统工程师进行需求治理，能够通过需求分析智能体从客户的文档（如 OEM 范例，芯片手册等）索要需求形色，甚而分析需务完了方法、考据方法及潜在风险等信息。同期，它还能设立需求之间的交互关联性，以便在需求变更时笃定最小影响范围。此外，需求治理机器东说念主在治理需求的同期，还需要设立质地治理需求形色文档，因为质地治理是相接于软件征战全人命周期的。

再来看软件征战机器东说念主，它协助软件征战，大模子在文档处理和代码征战方面均发达出色。但是，由于软件征战的特殊性，仍需较多东说念主工介入，如架构打算文档、软件打算形色文档等。非常是软件打算需明确界说函数接口、参数竖立及函数间的调用关系。单元代码 Agent 可凭证这些形色文档生成单元代码，并同期生成效劳考据代码及异常处理代码。随后，软件测试机器东说念主会团结握续集成工程进行测试，生成相应的测试论说。

值得隆重的是，AGI 编写的代码并非趁火攫取，反而可能存在初级很是。但 AGI 具有自我迭代才调，可凭证很是原因进行自我雠校。咱们前边曾经使用软件测试机器东说念主进行了单元代码的测试。由于测试用例打算是有方法论的，测试用例 Agent 可以运用这些方法论，打算测试用例项，并创建出测试项的前置要求、测试门径及预期驱逐。测试代码 Agent 可以据此编写测试代码，测试 Agent 则对测试代码进行测试，生成相应的测试论说。

此外，还有技俩治理机器东说念主，它协助进行技俩治理，应付需求变更导致的技俩筹谋和东说念主员养息。技俩监督 Agent 可凭证劣势输入动态养息技俩情景，而风险治理 Agent 可以凭证触发的风险项，进行风险分析，并团结历史警告建议合理化建议。问答机器东说念主则闲逸与客户交互，凭证用户输入判定见解，并通烦嚣题分类器将其交由不同学问库解答，这也体现了智能责任流的应用。

咱们将机器东说念主应用于本色技俩中，收用规模左右的技俩进行考据。在保握技俩质地的前提下，咱们成效将原来 25 周的工时缩小至 10 周，即从简了 60% 的资本，效果权贵。非常是在单元代码征战和单元测试方面，效果尤为杰出，与大模子适用于自动化测试和软件征战的特质相契合。

尽管咱们曾经取得了一定的驱逐，但对驱逐并不十足风景，因为咱们还有许多责任需要赓续优化。接下来，咱们筹谋从两个标的进行优化：一是优化学问库，采选学问图谱形状构建，并引入图数据库等时候；二是提高 Agent 的智能化水平，减少东说念主工参与，同期征战更多 Agent。此外，咱们还将尝试多智能体协同责任，以完了智能体间的互相监督、审批和互助。天然难度颇大，但趣味趣味超卓，一朝成效，将极大诽谤东说念主工依赖。

公司先容与居品展示

上海知从科技有限公司，辛劳于通过居品和工作提高汽车电子限制器的征战质地和速率，诽谤客户资本，增强居品的可珍爱性。咱们的愿景是成为全球卓绝的汽车基础软件公司，专注于汽车基础软件领域。咱们绝顶重视用中国传统文化打造咱们的企业文化，咱们公司的名字就来自易经中的一句话，"易则易知，简则易从"，取了每句话后头的字，咱们的 slogan "知从科技，易知简从"也来自这里，隐含着咱们要将咱们的居品作念到下里巴人，让客户容易使用。

同期，"知"这个字也蕴含了"知了"的含义，因此咱们的象征打算选用了蝉的形象，蝉也隐含着 BUG 的趣味，隐含着咱们的盼愿，咱们的居品中不要有 BUG。接下来先容咱们的征战历程，咱们辞退严格的范例进行软件征战，通过广大项见解本质，咱们在软件征战、文档治理以及质地治理领域积聚了深厚的警告，曾经通过了 ASPICE Level 3 的历程认证，咱们的功能安全库曾经经通过了 ASIL D 的居品认证。

以下展示的是咱们公司的三大中枢居品，其定名灵感源自中国传统的十二生肖，这么的定名政策赋予了居品高度的识别性。木牛居品内部包括木牛基础软件平台，包含 Autosar 中的各个模块；木牛功能安全库，这是用软件完了芯片的安全机制，幸免因为芯片很是导致汽车风险；木牛信息安全库，主要完了了 HSM 内部的固件，还有其他 Autosar 中庸加解密关系的模块；MCAL，这是微处理器概括层，咱们提供 MCAL 的征战，定制，以及竖立集成工作。

青龙居品，包括 Bootloader 系列 , 也包含了 SecureBoot 和 FOTA 居品。另外咱们还有玄武上位机软件，可以提供刷写，会诊和测试功能。木牛上位机竖立器具，配合木牛基础软件平台使用，可以对 Autosar 各个模块进行竖立生成。追思居品发展历程，咱们每年握续迭代升级，这一过程中积聚的技俩警告，有劲地讲授了居品的褂讪性与可靠性。

终末，对于公司的天资荣誉，咱们是经认证的高新时候企业，同期亦然上海地区"专精特新"企业代表，况且是包括 AUTOSAR 在内的多个行业定约的成员单元。

（以上内容来自上海知从科技有限公司交易征战总监曹守营于 2024 年 10 月 24 日在第十二届汽车与环境鼎新论坛发表的《拥抱大模子时期，AGI 赋能汽车基础软件》主题演讲。）