| 共 421 篇文章 |
|
[原]大模型系列之解读MoE 大模型系列之解读MoE1. MoE溯源。input_dim = X_train.shape[1]output_dim = len(np.unique(y_train))num_experts = 5moe_model = create_moe_model(input_dim, output_dim, num_experts)moe_model.compile(loss=''''''''sparse_categorical_crossentropy'''''''', optimizer... 阅3 转0 评0 公众公开 24-05-05 20:30 |
数据工程师常见的10个数据统计问题。如果没有看过数据，也没有形成一个假设，那么无法讨论哪种模型最有可能最好地捕捉数据的特征，就无法对问题建立模型。7. 不正确的外部样本检验: 截面数据和面板数据。例如，数据可能会延迟发布，当运行模型时，其他输入已经改变，而模型可能在使用错误的数据进行预测。实际上，在完成构建模型之后，可以尝试... 阅3 转0 评0 公众公开 24-04-28 20:30 |
论文标题：UniMS-RAG: A Unified Multi-source Retrieval-Augmented Generation for Personalized Dialogue Systems论文地址：https://arxiv.org/abs/2401.13256.如果希望对RAG的现状有一个相对完整的认识，论文《Retrieval-Augmented Generation for Large Language Models: A Survey》（https://arxiv.org/abs/2312.10997）或许是一个不错的... 阅15 转0 评0 公众公开 24-04-21 21:01 |
《Effective Java》在描述编程方法和技巧的时候采用了一种轻量级的方法论，采用“招式”的特点进行描述，招式之间可以交叉引用，由点及线进而形成编程技能的网络。在第三版中，增加了 Lambda 表达式、流、Optional 类、接口默认方法、try-with-resources、@SafeVarargs 注解、模块等 Java 7 及后续版本所引入的新特性，已经发展成为11招90式：... 阅6 转0 评0 公众公开 24-04-14 20:30 |
思维链模式可以引导语言模型按照法律逻辑生成辩护词，包括陈述事实、引用法律条文、提出论证和反驳对方观点，从而为案件提供强有力的辩护。这种模式通过将知识图谱或领域专业知识与模型结合，以提供更多背景信息和上下文，从而改善模型的理解能力和输出质量。通过问题精炼模式，开发人员可以与语言模型进行交互，不断改进模型的性能和效果，从... 阅10 转0 评0 公众公开 24-04-06 20:30 |
《基础设施即代码（IaC）》译者序。因此，基础设施即代码（Infrastructure as Code，简称IaC）的理念应运而生，逐渐成为新一代基础设施管理的主流方式。IaC是一种将基础设施管理过程自动化的方法，通过使用编程语言来描述和管理基础设施资源，实现对基础设施的快速部署、配置和管理。书中详细阐述了基础设施即代码的概念、原理、设计方法以及最... 阅2 转0 评0 公众公开 24-03-31 20:33 |
[原]浏览器架构的温故知新 总体而言，Chrome 插件（也被称为扩展）已经经历了3个主要版本的版本开发: Manifest V1、 Manifest V2和 Manifest V3。浏览器操作 API 和页面操作 API 发生了更改， chrome.extension 代替了 chrome.self 指向插件本身，chrome.tension.getTabContentses被 tension.getView 所替代，Port.tab替换为runtime.Port等。内容脚本无法访问大多数 Chro... 阅10 转0 评0 公众公开 24-03-17 20:30 |
双手沾泥，大模型应用并不神秘。面向大模型的应用开发也是一样的，理解大模型的基本原理，实际动手实践，在具体应用中对大模型进行微调，同样是一个循环迭代的过程。关于大模型的更多理解可以参考《老码农眼中的大模型（LLM）》。GPT-X等大模型充分利用了Transformer架构的潜力，而chatGPT可以看作融入了对话管理的大模型应用，背后的模型应该... 阅3 转0 评0 公众公开 24-03-10 20:33 |
《精益DevOps》译者序。不论是虚拟化还是分布式计算，都对软件工程中的研发效能提出了新的问题和挑战，于是DevOps 应运而生。我们很容易理解DevOps为IT服务交付带来的诸多益处，但对如何让DevOps 真正融入我们的软件工程中往往缺乏真正有意义的指导方法。精益思想是DevOps乃至敏捷开发的魂魄，也是指引DevOps及敏捷开发落地的灯塔。本书译者团... 阅2 转0 评0 公众公开 24-03-03 20:33 |
在大模型RAG系统中应用知识图谱。2.知识图谱在RAG各阶段的应用2.1 阶段一：查询增强。对于“阿尔茨海默氏症治疗的最新研究是什么?” 这个query，通过访问知识图谱，LLM 代理可以持续检索关于最新的阿尔茨海默病治疗的结构化数据，如“胆碱酯酶抑制剂”和“盐酸美金胺”，RAG 系统将进一步提出更具体的问题: “关于胆碱酯酶抑制剂和盐酸美金胺治... 阅35 转0 评0 公众公开 24-02-25 20:33 |
