为在线推理系统提供特征,延迟是首要的技术约束。当一个请求到达模型服务时,必须在几十毫秒内完成特征获取、模型预测和响应返回的全过程。传统的特征工程通常依赖键值存储,通过用户ID或物品ID直接查找预计算好的特征向量。这种方式简单、快速,但对于需
2023-10-27