核心内容摘要
ThingsBoard实战指南：三种主流协议（HTTP/COAP/MQTT）设备接入详解
推荐系统为啥都长一个样聊聊「离线训练 在线召回 排序」这套大数据架构如果你干过推荐系统不管是内容推荐、电商、广告、资讯、短视频大概率都会发现一件事架构看起来都差不多但效果差距却能差出一个银河系。
我这些年看过、拆过、踩过的推荐系统不算少越到后面越有一个感受推荐系统拼到最后真不是算法多高级而是架构是不是“拧得顺”。
今天我们就掰开揉碎聊聊这套最经典、也最现实的推荐系统架构离线训练 在线召回 在线排序
先说结论为啥推荐系统一定要拆成三段一句话
总结不是为了优雅而是为了活命。
推荐系统天然就有三大矛盾数据量巨大全量用户 × 全量物品实时性要求极高几十毫秒内给结果模型又想越复杂越好这三件事你想一锅端结果只有一个系统崩、效果差、老板不开心所以业界最终形成了一个非常“工程味”的共识架构离线负责“想清楚” 在线负责“跑得快”拆开来看就是三段离线训练用大数据慢慢算在线召回快速缩小候选集在线排序精排出最终结果
离线训练推荐系统真正“聪明”的地方1️⃣ 离线训练到底在干嘛说人话版本用昨天甚至更早的数据训练一个“大概靠谱”的模型。
典型离线任务包括用户画像构建物品画像生成Embedding 训练user / item 向量召回模型、排序模型训练这一层的关键词只有一个全量 稳定 不着急所以技术选型一般是Spark / Flink BatchHive / HDFS / LakehouseTensorFlow / PyTorch 离线训练2️⃣ 一个很真实的例子Embedding 离线训练比如用户-物品 Embedding离线训练完之后# 伪代码离线训练 user/item embeddingmodelMatrixFactorization(user_cntnum_users,item_cntnum_items,dim
model.fit(user_item_interactions)# 训练完成后导出 embeddinguser_embeddingsmodel.get_user_embedding()item_embeddingsmodel.get_item_embedding()关键点不是代码而是输出物user_id → 向量item_id → 向量这些向量是后面在线召回和排序的“弹药库”。
在线召回推荐系统的“第一道生死线”1️⃣ 为啥一定要有召回你想象一个极端情况1 亿用户1 千万内容你如果在线直接算1 个用户 × 1000 万内容 1000 万次打分老板会很冷静地告诉你一句话“你这是在做压力测试不是在做推荐。
”所以召回的核心目标只有一个从海量内容中秒级挑出几十到几百个“可能有戏”的候选。
2️⃣ 常见的召回方式不追求多只追求稳现实项目里召回基本都是多路并行协同过滤召回Embedding 向量召回热门 / 新品 / 活跃召回规则召回关注、订阅、地理位置比如一个非常典型的向量召回defrecall_by_embedding(user_embedding,item_index,top_k
:# ANN 检索FAISS / HNSWitem_idsitem_index.search(user_embedding,top_k)returnitem_ids召回层最大的 KPI 不是“准”而是“不漏”。
这句话很重要。
很多新人一上来就追求召回精准度结果把后面排序的空间全杀死了。
在线排序真正决定“点不点”的地方1️⃣ 排序模型才是离用户最近的“刀锋”召回只是“候选”排序才是谁在第 1 位谁直接凉。
排序模型的输入通常是用户特征物品特征上下文特征时间、设备、位置用户 × 物品的交叉特征一个极简示意defrank(user,candidates):featuresbuild_features(user,candidates)scoresranking_model.predict(features)returnsorted(candidates,keylambdax:scores[x],reverseTrue)2️⃣ 为什么排序一定是在线的因为排序要用的东西太“新”了刚点过什么当前时间段最近几分钟行为实时上下文这些东西等你离线算完用户都下一个 App 了。
所以排序模型一定是轻量可快速推理延迟可控
这套架构真正的难点其实不在算法说点掏心窝子的。
我见过太多团队模型写得很漂亮论文指标很好看线上效果却一塌糊涂问题往往出在这几件事上1️⃣ 离线和在线特征不一致离线训练用 A 特征在线服务用 B 特征这是推荐系统里最经典、也最隐蔽的坑。
解决思路只有一个特征工程平台化一套代码多端复用2️⃣ 召回太“保守”怕脏、怕噪声、怕误点结果召回池里全是“老熟人”系统越来越无聊。
我个人非常认同一句话推荐系统一定要“允许犯错”否则永远不会进化。
3️⃣ 架构不是越复杂越好不是所有团队都需要10 路召回3 层排序强化学习在线调参很多时候一套干净、可解释、稳定的架构胜过一堆花活。
写在最后推荐系统其实很“人性化”做久了你会发现推荐系统不像传统算法那么“冷”。
它更像一个人离线训练 复盘昨天在线召回 快速想起可能的选项在线排序 临场判断真正好的推荐系统不是“算得最准”而是在算力、延迟、业务目标之间找到那个最现实的平衡点。