Big AI Data 时代下,小红书数据架构的演进


导读 小红书 App 是一个月活用户超过 3.5 亿人的生活兴趣社区。小红书围绕“社区+电商+商业化”为核心,通过 UGC 内容驱动“种草-拔草”的业务闭环,不断提升 APP 用户规模和用户粘性,与此同时,日志规模达到日均几千亿,并由此催生了大量的实时、离线的数据需求。
本文与大家分享在 Big AI Data 时代下,小红书的数据架构的演进,目前基于新一代通用增量计算替换现有 Lambda 架构,实现架构复杂度降低 1/3,资源成本降低到 1/3、开发成本降低到 1/3。并介绍了增量计算的定义与标准。


本文围绕下面内容展开:

1. 小红书数据框架的演进

2. 通用增量计算概述


01

小红书数据框架的演进

在小红书 APP 中,用户可以浏览社区笔记、与朋友进行互动、可以观看直播,也可以在商城购买商品,而这些都是强数据驱动的业务。小红书用户的体量以及其业务复杂度超高,因此对其数据平台对应的数据能力有着比较大的挑战。

1. 小红书业务及数据概览

Big AI Data 时代下,小红书数据架构的演进

目前,小红书的整体数据平台是采用业界通用的数仓标准和建模方式来进行维护管理的,包括但不限于自建的调度平台、运维平台、资产管理平台、治理平台、报表平台等一系列产品型工具能力,共同辅助数据资产在企业中发挥更大的价值。

其中,价值输出主要分为四类:

第一类是数据分析。例如支持面向高管的报表、支持一线运营及销售的自助分析产品;

第二类是数据产品。例如小红书面向广告主、商家、博主、内部需求方的数据平台;

第三类是数据服务。例如提供给推荐、搜索、算法团队的用户画像以及特征标签等;

第四类是 AI 相关。例如使用 AI 来帮助用户更轻量地获取数据洞察、生成数据报告和给出经营建议等;

2024 年,小红书的基础设施层从 AWS 迁移至阿里云,迁移数据 500PB,任务 11 万,参与人数 1500 人,涉及部门 40 多个,整体的迁移和改造的复杂度创下了业界记录。截至目前,小红书已有部分业务在自建云上试跑,未来将向混合云架构发展。

前沿技术大模型技术新闻资讯

深度体验TRAE SOLO 正式版,总结一点技巧(附完整可重现提示词和源码)

2026-3-10 3:03:12

前沿技术大模型技术新闻资讯

一句话,我用豆包 AI 做出《红楼梦》互动游戏

2026-3-10 5:06:13

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索