| 共 85 篇文章 |
|
来自OpenAI 联合创始人兼首席科学家，机器学习研究清单！近日，一份网传 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 整理的一份机器学习研究文章清单火了。在 LSTM 方面，Ilya 推荐了 Anthropic 联合创始人、前 OpenAI 可解释性团队技术负责人 Christopher Olah 2015 年撰写的博客文章《Understanding LSTM Networks》，这篇文章全面细致地... 阅1 转0 评0 公众公开 24-05-11 19:44 |
核函数计算样本间的相似性，因此高斯函数可延伸为RBF 核函数：首先，它只适用于线性可分的数据，而对于非线性可分的数据，虽然大部分情况下可以通过核函数进行分类，但是若数据本身是包含噪声的非线性结构，导致这类数据偏离正常位置很远，通过硬间隔分类还是很难处理。支持向量机除了决策边界（超平面）外，还有各自类的超平面，如下图用虚线... 阅3 转0 评0 公众公开 24-04-26 14:57 |
批量学习又被称为离线学习，只有当新数据训练出的模型表现良好时，这些模型才会定期投入生产环境。在线学习是一种随着数据的顺序到达而更新模型的方法，与一次性使用全部训练数据集的批量学习技术形成对比。在线学习还适用于需要算法动态适应数据新模式的场景，比如随时间变化的数据，例如股票价格预测。在线学习的一个挑战在于必须持续监控输... 阅15 转2 评0 公众公开 24-04-15 14:59 |
综述：机器学习中的模型评价、模型选择与算法选择！1.1 性能评估：泛化性能 vs. 模型选择让我们考虑这个问题：「如何评估机器学习模型的性能？更具体地说，如果我们得到如下三个模型，这些模型的预测准确率如下：M2: 75% >M1: 70% >M3: 65如果我们添加了 10% 的性能偏差（低估），则三种模型的排序没有发生改变：M2: 65% >M1: 60% >... 阅1 转0 评0 公众公开 24-04-07 10:27 |
一文通俗讲解线性回归与柏松回归机器学习与线性回归。plt.scatter(x, y, color=''''''''blue'''''''', label=''''''''Actual Count Data'''''''')plt.plot(x_test, y_pred, color='''''... 阅3 转0 评0 公众公开 24-04-03 22:31 |
Mamba、Transformer，合体。Jamba由Transformer、Mamba和MoE层组成，可同时优化内存、吞吐量和性能。首先，Jamba可以在长上下文中提供3倍吞吐量，比Mixtral 8x7B等大小相当的Transformer模型都要高效。参考链接：[1]https://www.ai21.com/blog/announcing-jamba[2]https://www.ai21.com/jamba[3]https://twitter.com/AI21Labs/status/177335088... 阅6 转0 评0 公众公开 24-04-01 12:42 |
机器学习关键步骤：模型性能评估。注：图中有3个神经网络模型，分别用每一个模型在训练集上进行训练，会得到3组参数，将训练好的模型在验证集上进行验证，查看每一个模型的损失函数Jcv(w,b)，找到误差最小的模型，假设第二个模型在验证集上的损失最小，那么最后再把第二个模型放到测试集上进行测试。用训练集来训练模型，用验证集来评估模型预... 阅2 转0 评0 公众公开 24-03-30 17:50 |
选择系数的方法是使此损失函数最小化。模型复杂度的增加通过其系数的增加来表示，如果我们想要最小化上述函数，那么这些系数就需要很小。这些方程也被称为约束函数。这意味着Lasso系数在所有满足|β1|+|β2|≤ s的点上具有最小的RSS（损失函数）。在这种情况下，lasso和岭回归系数估计是通过椭圆首次接触约束区域的点给出的。然而，在Lasso的情... 阅1 转0 评0 公众公开 24-03-28 14:58 |
注：图中有3个神经网络模型，分别用每一个模型在训练集上进行训练，会得到3组参数，将训练好的模型在验证集上进行验证，查看每一个模型的损失函数Jcv(w,b)，找到误差最小的模型，假设第二个模型在验证集上的损失最小，那么最后再把第二个模型放到测试集上进行测试。用训练集来训练模型，用验证集来评估模型预测的好坏和选择模型及其对应的参数... 阅4 转0 评0 公众公开 24-03-24 19:17 |
大模型的对齐技术综述以及前沿讨论：个性化对齐和多模态对齐主要内容。大模型，是指在大量数据上训练并包含超过数十亿参数的神经模型，通常包括大型语言模型（LLMs）和大型多模态模型（LMMs）。随着大型语言模型在自然语言处理（NLP）中的革命性出现，研究发现，大型语言模型在特定提示配置下可以模拟出可靠和有效的个性，而且对于更大和经过指... 阅33 转0 评0 公众公开 24-03-15 12:50 |
