零售人脸识别翻车启示：电商AI要效率，更要边界感

美国第三大连锁药店之一 Rite Aid 被曝在全美约200家门店秘密部署人脸识别系统，持续时间超过8年，且设备更集中出现在低收入、有色人种占比更高的社区门店。最刺眼的不是“用了人脸识别”，而是“偷偷用、偏向性用、误伤式用”。

做电商和新零售的人看到这类事件，往往会有两种反应：一种是“国外监管环境不同”，另一种是“技术本身没错”。我更倾向第三种观点：零售AI的风险从来不在算法多强，而在业务目标与治理边界怎么设。尤其在2025年，线下客流回暖、即时零售和会员运营竞争更激烈，AI越用越深，越需要把“可用”与“可做”分清。

本文将围绕这起案例，拆解人脸识别在零售的真实工作方式与风险点，并对比国内电商平台更常见的“服务型AI”路径（个性化推荐、需求预测、智能仓储、动态定价），给出一套可以落地的AI合规与信任建设清单。

人脸识别在零售门店到底怎么“跑起来”的？

结论先说：门店人脸识别并不是一次性抓拍，而是一套持续采集、持续匹配、持续决策的流程。它的风险也因此被放大。

根据公开披露的信息，Rite Aid 的做法大致包含四步：

1. 进店采集与建档：顾客一进门就会被拍摄，系统生成“面部模板”（可理解为特征向量），并持续补充不同角度图像。
2. 人工触发的“可疑人员”入库：当店员或经理认为有人有犯罪或可疑动作，可搜索匹配并将其加入监视名单（通常需要经理批准）。
3. 二次进店自动预警：名单内人员再次进入门店，系统比对命中后向安保人员手机发出警报。
4. 现场处置：确认“匹配准确”后，要求顾客离店。

表面上它是“防损系统”，本质上它在做三件事：

• 把每个顾客当作潜在风险源来建档（即便只保存短期图像）；
• 把主观判断固化成长期标签（一旦入库，后续连锁反应会持续发生）；
• 把误识别成本转嫁给消费者（被拦、被赶走、被羞辱）。

零售场景很现实：店员忙、冲突多、光照复杂、摄像头角度刁钻。系统哪怕只有1%的误识别率，叠加高客流与长期运行，也会出现“看得见的冤案”。

为什么“针对某些社区部署更多”会引爆信任危机？

这不是公关问题，是经营逻辑问题。

当某项监控技术在低收入社区、特定族群聚居区密度更高时，消费者会自然得出结论：你把我当成更高风险的人。即使企业口径是“防盗”，社会感知也会变成“差别对待”。

更麻烦的是，政府研究已指出：在肤色更深的受试者上，部分人脸识别算法更容易出错。当“部署偏向”叠加“误差偏向”，就会形成最难解释的结果：越容易被误伤的人，越常处在监控密度更高的区域。

一句话概括：零售AI一旦被消费者理解为“监视我”，它产生的不是效率，而是长期的流失与对立。

从“防损AI”到“服务AI”：中美零售AI两条路

结论先说：零售AI不只有“识别谁”，更关键是“更懂你需要什么”。这也是国内电商与新零售更容易走通的方向。

在国内，AI最常见、也最能带来正向体验的三类应用是：

1）个性化推荐：从“盯人”变成“懂人”

推荐系统的价值不在于把用户画像做得多细，而在于减少选择成本：

• 用实时兴趣信号优化信息流排序
• 用多目标优化平衡点击率、复购率与退货率
• 在大促季（如双12、年货节）做场景化推荐：囤货、礼赠、冬季护理、家庭清洁等

好的推荐，会让用户感到“省时、省钱、省心”。差的推荐，才会让人觉得被“算计”。这里的区别不在算法，而在是否可解释、可控制：能否一键关闭个性化、能否明确告知推荐原因、能否减少“越看越窄”的信息茧房。

2）智能仓储与需求预测：AI的高价值区在“后台”

相比门店“前台监控”，我更看好“后台预测”这条路：

• 预测爆品与区域需求，降低缺货率
• 优化拣货路径与波次，提高履约效率
• 即时零售的关键是分钟级库存准确度，AI可以用销量、天气、节假日、商圈热度做动态补货

这类AI几乎不触碰个人敏感生物特征，却能产生直接的经营收益。对品牌而言，它是“降成本”；对消费者而言，它是“更快到货”。

3）动态定价与促销优化：要做“可被理解的公平”

动态定价一旦被理解为“杀熟”，比误识别更难挽回。

更稳妥的做法是：

• 把动态定价更多用于供需变化（临期、库存压力、区域运费差异）
• 对会员与老客优惠采用明确规则（等级权益、积分抵扣、固定折扣券）
• 对价格变化提供解释标签（例如“清仓”“临期”“限时补贴”）

零售AI的目标应该是“让交易更顺”，而不是“让用户更怕”。

人脸识别不是原罪，问题是“治理缺位”

结论先说：零售场景使用人脸识别，只要缺少透明、审计与申诉机制，就必然走向争议。这起事件里最致命的点有三个：

1）不透明：消费者不知道自己被采集、被比对

调查显示，部分门店甚至没有明显提示。对零售而言，这会直接触发“被监视”的心理反弹。

可行做法是：

• 入口显著提示：采集什么、用于什么、保存多久
• 在会员体系中提供“隐私控制面板”：关闭、删除、导出

2）标签化：把主观判断固化为黑名单

“可疑人员名单”一旦进入系统，就可能跨门店、跨时间影响用户。并且零售现场的“可疑”往往带有偏见与误判。

可行做法是：

• 黑名单入库必须满足证据门槛（例如多次明确盗损证据）
• 设定自动过期机制，以及“再评估”流程

3）误识别：损害由消费者承担

被误认一次，用户就可能永远不再来。更现实的是，它还会引发投诉、舆情、诉讼与监管介入。

可行做法是：

• 将人脸识别仅作为人工核验的辅助信号，不得自动驱离
• 全链路留痕：命中阈值、比对照片、审批人、处置结果
• 设定可量化KPI：误识别率、申诉成功率、处置耗时

电商与新零售团队：一份“AI边界感”落地清单

结论先说：想把AI用得久、用得稳，靠的不是“更强模型”，而是“可执行的制度与产品设计”。我建议从六个问题自查：

1. 最小化采集：这项AI是否必须使用生物特征？能否用非敏感数据替代？
2. 目的绑定：数据用途是否与用户可理解的服务目标一致？是否存在用途漂移？
3. 显性告知：用户是否在进入场景前就能看见、看懂、能选择？
4. 可控可退：能否关闭个性化、删除画像、撤回授权？
5. 可审计：是否有第三方或内部审计机制？是否能复盘每次“系统命中”的决策链？
6. 可申诉：被影响的用户是否有明确入口申诉？承诺多长时间给出结果？

如果你正在推进新零售数字化，我的立场很明确：优先把AI用在“履约、供应链、推荐与客服”这些服务型场景。它们更容易形成正反馈，也更能积累长期信任资产。

把AI做成“信任基础设施”，才有长期复利

Rite Aid 的案例提醒我们：零售AI最怕的不是技术不成熟，而是企业在“看得见的地方”把AI用成了监控工具。一次误识别、一次不透明部署，足以让多年会员运营和品牌口碑付诸东流。

回到《人工智能在电子商务与新零售》这个系列的主线，我更愿意把AI理解为一种效率工具 + 信任工具：推荐系统帮你更快找到想要的，智能仓储帮你更快收到货，需求预测让商家少压货、消费者少断货。它们都在回答同一个问题——AI能不能让交易更简单、更公平。

接下来你可以做一件很具体的事：把你团队正在使用的AI能力列出来，按“服务型/监控型”“前台/后台”“可解释/不可解释”分组。你会很快发现：真正能长期带来增长的，往往不是最“刺激”的功能，而是最“让人放心”的那一类。

你愿意让用户因为“更省心”而留下，还是因为“被盯着”而沉默？这是零售AI的分水岭。