Hongfei Ji

设计挑战

算法偏见通过准确的推荐为用户带来便利，但也有可能对其有害。抖音算法系统中的有害偏见如何影响用户体验？

问题陈述-抖音广告推送功能的可用性测试

我们测试了当前抖音功能的可用性，以发现目前存在的算法偏见问题。

种族偏见: 抖音只向资深用户推荐有关用户自己种族的视频，但会向新用户推荐其他种族的视频。一些受试者删除了其他种族的视频，因为他们觉得这些视频不符合他们的生活方式。
性别偏见: 男性受试者收到了有关运动鞋、游戏和性暗示的广告，而女性受试者则收到了有关化妆品和购物的广告。
品牌偏见: 抖音仅向受试者推荐某些品牌的产品，其中包括电子设备和食品。
需求偏见: 受试者不断收到有关他们不想或不需要购买的产品的广告。尽管受试者对这些商品表示 “不感兴趣”，但抖音仍然向他们推荐这些。
对偏见广告消极对待: 大多数受试者只在短时间停留在偏见广告上，然后将其划走。‍少部分受试者试图对他们看到的前几则偏见广告点击不感兴趣，但很快就放弃了。

研究目标

面对潜在的算法偏见，我们如何通过个性化广告设置来赋能用户？

定性分析

我们对3名受试者进行了三轮采访，采用了出声思维法，试点测试访谈，基于引导叙事的半结构化访谈等用户研究方法。我们记录了这些访谈，并对其使用亲和图和用户旅程图进行分析‍，以获得更普遍的见解。以下是我们最关注的几个问题：

“你对抖音上存在偏见的广告有何看法？”
“你对当前的广告设置用户流程有何看法？”
"“你希望抖音将来添加更多广告功能吗？为什么？你认为这如何有助于应对算法偏见并使算法满足你的需求？”
“你对刚才提到的潜在功能有疑虑吗？”
“你希望我们对广告设置界面/用户流程进行哪些改进？”

数据分析整合 - 笔记解读 + 亲和图

通过对采访笔记的解读，我们分析用户的需求、动机和行为，然后将他们分组并标记成亲和图，以第一人称视角整合见解。用户阐明了他们在抖音上的偏好、活动和发现，分享了他们的需求、建议、疑虑和关注点。

模型-用户旅程图

我们构建了模型 - 用户旅程图，以更好地帮助我们总结和理解用户的立场，为快速约会法提供了设计启示。

定量分析

我们还进行了问卷调查，包括3个类别的 13 个问题：应用功能、广告和购买行为。调查结果验证了我们从定性研究中得出的初步结论。我们总计收到了32 份回复, 这些结果帮助我们迭代了结论以及接下来的快速约会法。

大多数受试者介于22-25岁之间，使用抖音每天不到一小时。
该调查证实了我们在访谈中得出的关于当前广告设置的问题，以及人们对广告设置教程的强烈需求。广告设置应更容易找到，以及互动提示在受访者中很受欢迎。
该调查证实了人们尽管有时从未意识到，但在抖音上还是会遇到偏见广告，包括从广告中购买产品（有益偏见）和接收不当或虚假的广告（有害偏见）。
该调查揭示了受访者的对推荐广告的兴趣。

设计启示

有益与有害的算法偏见: 用户喜欢带有有益偏见的广告，但也承认算法偏见带来的相关问题，尽管有时他们没有意识到。
渴望消解偏见: 对感兴趣的类别进行个性化设置反映了用户希望通过控制他们遇到的广告类型来消解算法偏见。
多样的广告偏好设置: 用户对不同的广告偏好设置机制表达了兴趣，但更喜欢简单直观的机制。
改善指引界面: 广告相关操作和设置隐藏太深，为用户带来了繁琐的个性化体验，因此需要改进
无缝功能集成: 用户表达了使用抖音时的无缝体验需求，这需要整合个性化功能和现有功能。

低保真原型

快速约会法

我们基于设计洞察使用了快速约会法，帮助我们探索可能的未来情境、验证用户需求并识别潜在风险因素。其中第一个设计得到了大多数受访者的认可。

speed_dating_01 — 大多数参与者对来自抖音的实时反馈表示兴趣。
用户偏好简单直观的功能。
用户更喜欢在抖音 “为你推荐”页面上进行简单的交互。

speed_dating_02 — 我们原本预计用户会考虑添加插件以消除广告偏见，但多数人认为这个做法过于复杂且没有必要。

speed_dating_03 — 尽管“分享偏好”这个想法带来了惊喜，但用户大多觉得很怪异。
它激发了他们对隐私以及日常社交互动模式的不安。

低保真原型设计

在最初的快速约会概念基础上，我们使用低保真原型与7位参与者进行了一轮情境原型测试。在这轮测试中，我们识别出用户体验中的三个关键时刻：打开抖音的那一刻、连续滑动时、以及多次完整观看广告时。为了进一步探索这些时刻，我们为互动提示制作了物理叠加原型，并在用户通常使用抖音的真实环境中、直接在他们的手机上进行了测试。