机器学习人工智能【免费下载链接】SurpriseA Python scikit for building and analyzing recommender systems项目地址https://gitcode.com/gh_mirrors/su/Surprise点击查看免费下载Surprise 是一个用于构建和分析推荐系统的 Python scikit。本文聚焦其核心文档 prediction_algorithms.rst 所讲解的主题——预测算法的统一基类体系以及决定算法精度的两大配置模块Baseline 估计baseline estimates与相似度度量similarity measure。读完本文你将掌握如何通过bsl_options与sim_options两个字典参数精确控制 ALS/SGD 基线偏差估计和 cosine/MSD/pearson/pearson_baseline 相似度计算并能结合源码理解每个配置项的底层作用。预测算法的统一基类与全局命名空间Surprise 提供了一批内置预测算法它们都派生自AlgoBase基类定义于 surprise/prediction_algorithms/algo_base.py。基类实现了所有算法共享的关键方法fit(trainset)在给定训练集上训练算法初始化内部结构并保存self.trainset返回self以支持链式调用algo.fit(trainset).test(testset)。predict(uid, iid, r_uiNone, clipTrue, verboseFalse)将原始用户/物品 id 转换为内部 id 后调用子类实现的estimate方法若预测不可能用户或物品未知则回退到default_prediction()默认返回训练集全局评分均值trainset.global_meanclipTrue时会把估计值裁剪回评分区间[lower_bound, higher_bound]。返回的Prediction对象包含原始 uid、iid、真实评分、估计评分及附加细节。test(testset, verboseFalse)对测试集中的全部评分逐一调用predict返回Prediction列表。compute_baselines()按bsl_options计算用户偏差bu与物品偏差bi见下文。compute_similarities()按sim_options构建相似度矩阵见下文。get_neighbors(iid, k)返回与指定内部 id 最相似的 k 个近邻k-NN 算法可直接调用。全部内置算法都直接暴露在 Surprise 的全局命名空间中无需深入子包导入例如from surprise import KNNBasic algo KNNBasic()可用算法的完整清单见 surprise/prediction_algorithms/init.py包括NormalPredictor、BaselineOnly、KNNBasic、KNNWithMeans、KNNWithZScore、KNNBaseline、SVD、SVDpp、NMF、SlopeOne、CoClustering另有Prediction、PredictionImpossible两个辅助类型。各算法的具体公式与参数可查阅 prediction_algorithms_package.rst 下挂载的 basic_algorithms.rst、knn_inspired.rst、matrix_factorization.rst、slope_one.rst、co_clustering.rst 等页面。部分算法会用到baseline 估计部分会用到相似度度量下面分别讲解如何配置。Baseline 估计配置bsl_options适用前提本节配置只适用于尝试最小化如下正则化平方误差或其等价形式的算法或相似度度量$$\sum_{r_{ui} \in R_{train}} \left(r_{ui} - (\mu b_u b_i)\right)^2 \lambda \left(b_u^2 b_i^2 \right)$$其中 $\mu$ 为全局均值$b_u$、$b_i$ 分别为用户、物品偏差。对于在其他目标函数中使用 baseline 的算法例如SVDbaseline 的配置方式不同且与具体算法相关需参阅各自文档。典型适用对象是BaselineOnly算法以及使用pearson_baseline相似度的 k-NN 算法。若不想自定义直接使用默认参数即可——bsl_options完全可选。Baseline 可以用两种方式估计随机梯度下降SGD交替最小二乘ALS通过算法构造时传入的bsl_options字典配置其中键method指定方法可选值为als默认与sgd。两种方法下用户/物品偏差$b_u$、$b_i$均初始化为零。ALS 参数当method: als时可用以下键参数含义对应文献记号默认值reg_i物品的正则化参数$\lambda_2$10reg_u用户的正则化参数$\lambda_3$15n_epochsALS 过程的迭代轮数注意 Koren 2010 原文描述的是单轮ALS—10SGD 参数当method: sgd时可用以下键参数含义对应文献记号默认值reg被优化代价函数的正则化参数$\lambda_1$0.02learning_rateSGD 的学习率$\gamma$0.005n_epochsSGD 过程的迭代轮数—20完整示例以下代码来自 examples/baselines_conf.py先加载 MovieLens-100k 内置数据集然后分别演示 ALS 与 SGD 配置可直接运行from surprise import BaselineOnly, Dataset, KNNBasic from surprise.model_selection import cross_validate # Load the movielens-100k dataset. data Dataset.load_builtin(ml-100k) # Example using ALS print(Using ALS) bsl_options {method: als, n_epochs: 5, reg_u: 12, reg_i: 5} algo BaselineOnly(bsl_optionsbsl_options) cross_validate(algo, data, verboseTrue) # Example using SGD print(Using SGD) bsl_options { method: sgd, learning_rate: 0.00005, } algo BaselineOnly(bsl_optionsbsl_options) cross_validate(algo, data, verboseTrue)源码级原理ALS 与 SGD 究竟在做什么Baseline 的两种优化实现在 surprise/prediction_algorithms/optimize_baselines.pyxCython 源码中baseline_als按n_epochs默认 10、reg_u默认 15、reg_i默认 10读取参数先固定用户偏差迭代更新物品偏差bi[i] dev_i / (reg_i len(ir[i]))再固定物品偏差更新用户偏差bu[u] dev_u / (reg_u len(ur[u]))即标准的坐标式交替最小二乘。baseline_sgd按n_epochs默认 20、reg默认 0.02、learning_rate默认 0.005读取参数对每个评分样本执行bu[u] lr * (err - reg * bu[u])、bi[i] lr * (err - reg * bi[i])即带正则化项的随机梯度下降。AlgoBase.compute_baselines内部通过字典{als: baseline_als, sgd: baseline_sgd}分发调用并会检查self.bu是否已计算以避免重复计算——例如pearson_baseline相似度在构建相似矩阵时会复用同一组 baseline。若传入非法method值会抛出ValueError提示可选值为als和sgd。该逻辑可由 tests/test_algorithms.py 中的 sanity check 佐证BaselineOnly()在 ml-100k 上期望 RMSE 为1.0268524031297395。相似度度量中复用 Baseline部分相似度度量如pearson_baseline也会使用 baseline 估计。无论 baseline 是否参与最终的评分预测 $\hat{r}_{ui}$配置方式完全一致例如# Some similarity measures may use baselines. It works just the same. print(Using ALS with pearson_baseline similarity) bsl_options { method: als, n_epochs: 20, } sim_options {name: pearson_baseline} algo KNNBasic(bsl_optionsbsl_options, sim_optionssim_options) cross_validate(algo, data, verboseTrue)这正是 examples/baselines_conf.py 第三段示例的完整内容。由于KNNBasic通过**kwargs透传bsl_options到AlgoBase任何使用相似度的 k-NN 算法都可以这样组合配置。相似度度量配置sim_options许多算法依赖相似度度量来估计评分其配置方式与 baseline 类似在算法构造时传入sim_options字典包含以下全部可选键参数含义默认值name要使用的相似度名称定义于 surprise/similarities.pyx 模块MSDuser_based相似度计算在用户间还是物品间进行True为用户间False为物品间。对预测算法性能影响巨大Truemin_support用户间相似度所需的最少共同物品数user_basedTrue时或物品间相似度所需的最少共同用户数user_basedFalse时。若 $I_{uv} \text{min_support}$则 $\text{sim}(u, v) 0$物品同理1由AlgoBase.compute_similarities中get(min_support, 1)给出shrinkage收缩参数仅对pearson_baseline相似度有效100四种内置相似度surprise/similarities.pyx 提供四种度量AlgoBase.compute_similarities中的分发字典{cosine, msd, pearson, pearson_baseline}确认了合法值cosine余弦相似度仅统计共同评分项 $$\text{cosine_sim}(u, v) \frac{\sum_{i \in I_{uv}} r_{ui} \cdot r_{vi}}{\sqrt{\sum_{i \in I_{uv}} r_{ui}^2} \cdot \sqrt{\sum_{i \in I_{uv}} r_{vi}^2}}$$msdMean Squared Difference先算平均平方差 $\text{msd}(u, v) \frac{1}{|I_{uv}|}\sum_{i \in I_{uv}}(r_{ui} - r_{vi})^2$再取 $\text{msd_sim} \frac{1}{\text{msd} 1}$1防止除零。pearson皮尔逊相关系数可视为均值中心化的余弦相似度无共同评分的对象对相似度为 0而非 -1。pearson_baseline用 baseline 估计$b_{ui} \mu b_u b_i$代替均值进行中心化的收缩皮尔逊系数 $$\hat{\rho}{uv} \frac{\sum{i \in I_{uv}}(r_{ui} - b_{ui})(r_{vi} - b_{vi})}{\sqrt{\sum_{i \in I_{uv}}(r_{ui} - b_{ui})^2}\sqrt{\sum_{i \in I_{uv}}(r_{vi} - b_{vi})^2}}$$ 收缩版本为 $\frac{|I_{uv}| - 1}{|I_{uv}| - 1 \text{shrinkage}} \cdot \hat{\rho}_{uv}$shrinkage0即不收缩。实现中还强制min_sprt max(2, min_sprt)因为支撑数为 1 时皮尔逊系数必然为 0。所有相似度实现均只统计共同评分项并在共同数量低于min_support时将该对相似度置 0相似矩阵为对称矩阵。使用示例以下代码来自 examples/similarity_conf.pyfrom surprise import Dataset, KNNBasic from surprise.model_selection import cross_validate # Load the movielens-100k dataset. data Dataset.load_builtin(ml-100k) # Example using cosine similarity sim_options { name: cosine, user_based: False, # compute similarities between items } algo KNNBasic(sim_optionssim_options) cross_validate(algo, data, verboseTrue) # Example using pearson_baseline similarity sim_options {name: pearson_baseline, shrinkage: 0} # no shrinkage algo KNNBasic(sim_optionssim_options) cross_validate(algo, data, verboseTrue)第一个示例把相似度切换为物品间item-item余弦第二个示例使用pearson_baseline并显式关闭收缩。源码级原理相似矩阵是如何构建的在 surprise/prediction_algorithms/algo_base.py 的compute_similarities中根据user_based选择维度用户间相似时n_x n_users且用trainset.ir每个物品的评分列表做 y 轴遍历物品间相似时n_x n_items且用trainset.ur。读取min_support默认 1与name默认msd大小写不敏感。仅当name pearson_baseline时才额外读取shrinkage默认 100、调用compute_baselines()获取偏差并按 user/item 方向交换bu/bi传入相似度函数。非法相似度名会抛出NameError列出合法值。k-NN 算法surprise/prediction_algorithms/knns.py在fit中调用compute_similarities()生成self.sim矩阵estimate阶段对目标 y 的评分列表按相似度取前k个邻居heapq.nlargest做加权聚合并统计actual_k若actual_k min_kKNNBasic直接抛PredictionImpossible预测回退为全局均值而KNNWithMeans/KNNBaseline/KNNWithZScore则将聚合项置 0、退回各自的均值或 baseline。这也解释了为什么文档强调user_based对算法性能影响巨大——用户间与物品间相似度的维度、邻居来源与聚合公式都完全不同。tests/test_algorithms.py 中的test_nearest_neighbors验证了同一算法在user_basedTrue与False下get_neighbors(0, k10)的结果确实不同而test_sanity_checks给出KNNBasic在四种相似度cosine/MSD/pearson/pearson_baseline下 ml-100k 的期望 RMSE可作为复现基线如KNNBasic(sim_options{name: cosine})→ 1.1495、MSD → 1.1337、pearson → 1.1219、pearson_baseline → 1.1242。调参建议与注意事项默认值即可用bsl_options与sim_options均完全可选不传时使用默认参数ALS reg_i10, reg_u15, n_epochs10MSD 相似度 user_basedTruemin_support1。ALS vs SGD 的选择ALS 迭代轮数默认 10、SGD 默认 20文献中 Koren 的 ALS 是单轮描述仓库实现做了多轮扩展。二者对reg/reg_u/reg_i与learning_rate的敏感度不同建议通过cross_validate在小数据集上先做粗调。pearson_baseline必须搭配bsl_options该相似度内部会调用compute_baselines()因此会额外引入 baseline 计算开销shrinkage默认 100 用于避免仅有少量共同评分时过拟合设为 0 即关闭收缩。min_support与冷启动min_support越大稀疏数据集上的相似对越多被置 0可能导致actual_k min_k而回退到全局均值或 baseline需与 k-NN 的k、min_k参数配合权衡。非法配置会直接报错baseline 方法名非法抛ValueError相似度名非法抛NameError且错误信息中均列出了合法取值便于快速修正。小结Surprise 把预测算法的配置收敛为两个字典bsl_options控制 baseline 的估计方式ALS/SGD 及其正则化、迭代参数sim_options控制相似度度量的选择cosine/MSD/pearson/pearson_baseline、计算方向user_based、最小支撑min_support与收缩shrinkage。所有配置均通过AlgoBase统一注入与具体算法解耦。掌握这两个字典的每个键及其源码层面的作用即可在 examples/baselines_conf.py 与 examples/similarity_conf.py 的基础上针对自己的数据集快速组合出高精度的基线方案与 k-NN 变体。赞分享机器学习人工智能【免费下载链接】SurpriseA Python scikit for building and analyzing recommender systems项目地址https://gitcode.com/gh_mirrors/su/Surprise点击查看免费下载相关推荐Surprise 自定义预测算法开发指南从 estimate 到 baselines 与相似度的完整实现Surprise 自定义预测算法开发指南从 estimate 到 baselines 与相似度的完整实现 Surprise 是一个基于 Python 的推荐系机器学习人工智能HanLP文本相似度计算语义匹配与相似度评估完整指南HanLP文本相似度计算语义匹配与相似度评估完整指南 在当今信息爆炸的时代如何从海量文本中快速找到相似内容成为了重要课题。HanLP作为一款强大的中文自然语人工智能NLP深度学习如何在10分钟内快速搭建传奇游戏服务器OpenMir2终极完整指南如何在10分钟内快速搭建传奇游戏服务器OpenMir2终极完整指南 想象一下你只需要10分钟就能拥有一个完全属于自己的传奇游戏服务器重温1.76经典版本的游戏开发后端上一篇如何为旧款Mac解锁最新macOS系统OpenCore Legacy Patcher终极实践指南下一篇PartyKit与Fireproof数据库集成构建去中心化多人应用的终极指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
