2017 年 6 月的一天,麻省理工大学的跨性别学者 Sasha Costanza-Chock 在底特律机场被安检人员拦了下来,原因是安检处的扫描仪检测出“人员异常”。在系统自动识别身体为女性(仅有男女两个选项)后,显示屏马上出现了一块标黄的区域,对应着她的腹股部位,这表示她的身体被系统认定为“异常”。工作人员示意她离开队伍接受单独检查,接下来她必须做出一个对她来说并不太公平的选择题:选择同性别的安检员对她进行搜身。在喝止了一位打算强行搜身的男性安检员以后,一旁的女性安检员不情不愿地为她做了身体搜查。

作为在美国有相对特权(在高校工作的中产白人)的性少数群体,Sasha 称自己的经历远远称不上不幸,可是像这样被系统标记为“异常”、遭受“特殊待遇”的时刻,则是弱势群体的日常。她指出:技术系统的设计反映了现实社会对弱势群体的偏见,他们的种族、性别、年龄等特征成为了系统的“异数”,是没有或鲜少出现在训练集里的数据样本。

对边缘群体来说,每次在下拉列表里找不到的选项、过安检时机器的警告声、没有轮椅通道的建筑物,都是来自环境的无声拒绝。Sasha 在她的著作《设计正义:社区主导的设计实践如何创造我们需要的世界(Design Justice: Community-Led Practices to Build the Worlds We Need)》中提出了“设计正义”的理念,通过援引具体的设计案例揭露了产品设计中的不公正,呼吁让少数群体自己主导设计过程,创造出能够回馈社群、优先社群利益的设计。

她借用黑人女权主义批评中的交叉性理论 (intersectionality)和霸权矩阵(matrix of domination)讨论了权力和不平等是如何在社会技术系统中得到体现的,后者又如何加固了个体多重的弱势身份。

不同于许多学者对算法偏见的浮于理论层面的批评,Sasha 将设计作为讨论的关键词,通过设计价值、设计实践、设计叙事、设计场所、设计教育五个不同面向阐释了不平等和歧视是如何在具体的交互设计实践中产生的。在她看来,设计作为一种思维方法,深深地影响了人与物质世界交互和连接的方式人——通过媒介与广义上的社会系统进行互动,因此了解到自己的身份、位置与权力;设计同时是思辨的,是富有想象力的。通过指示某种体验,或者只是使一些互动成为可能,设计描绘出某种未来的样子。

可供性与不可供性:为谁而设计?

对设计理论、科学技术研究、社交媒体平台研究感兴趣的人,大概都听过“可供性(affordance)”这个概念。认知心理学家詹姆斯·吉布森(James Gibson)在1970年代末提出了这个词,并将其解释为“环境能够为动物所提供的好的或是坏的条件。”设计学家威廉·W·盖威(William W·Gaver)在他著名的《技术可供性》一文中讲这个概念推广到了人机交互领域。人机交互学者唐·诺曼(Don Norman)进一步将“可供性”定义为:“能够感知到的物体性能,而且往往是那些决定物体能被如何使用的性能。”

简单来说,椅子可供人坐,环形门把手可供旋转,鼠标可供移动和点击——但是你想拿鼠标当作书签、玩具或是桌面摆设都可以。可供性既不是由用户决定的主观属性,也不是由设计师决定的客观属性,而是两者的结合。通过察觉、判断物体的可供性,使用者做出相应的行为。可供性存在于人和环境的交互中,而非物体或者使用者本身。

但 Sasha 在书中批评了以上学者对于可供性的解释,指出他们忽略了可供性对于不同群体的可见程度(perceptibility)和可用程度(availability)。决定两者的不仅仅是文化、教育、过往经验综合形成的技术素养。有时候,可供性是否能被察觉,依赖的是身体的感官健全。色盲或色弱人群很难学会使用某个“用户友好”的软件,甚至很难分清超市不同的货架。而就算是有健康的双眼和双耳,知道某个东西要如何使用,也有因为自身条件不能使用(unavailable)的情况,比如一个坐在轮椅的残障人士移动到了楼梯面前。

与可供性的概念针锋相对,Sasha 在书里提出了设计的“不可供性(disaffordance)”和“误供性(dysaffordance)”,指出设计在暗示某些交互可能性的同时,也决定了人们不能做什么。比如,门锁只接纳有钥匙的人,栅栏的存在是为了防止人们进入某块领地。“误供性”则是不可供性的一个分支,指为了顺利实现某些功能,你必须要伪装成特定的人群。比如说文章开头 Sasha 需要选择一个性别通过机场的安检。鉴于技术的可供性对于不同人群的可见和可用程度都不同,一些人的可供性则是另一些人的不可供性。而物体/技术对一个人是否可供,则取决于 ta 在霸权矩阵中的位置,也就是 ta 多重个人身份所赋予 ta 的权力等级。

设计中的不公正是如何造成的?

那么,谁该为设计中的不公正负责?是设计师吗?绝大部分设计师应该都不会认为自己是恐同、厌女和种族主义者,尽管他们设计出来的产品成为了这些意识形态的温床。Sasha 认为,“设计正义”追究的不是设计的意图,而是设计的结果,最后呈现的设计结果强化了现有的权力分配、反映了歧视与偏见,而权力分明的技术系统反过来继续强化了现实社会的排他。

在书中,她进一步分析了设计的过程是如何造成这种“自我强化的螺旋(self-reinforcing spirals)”的。交互设计的原则之一是通过设计为用户减轻思考的负担,然而没有一种“普适的”设计是能为所有用户都减轻负担的。在设计产品不同功能的过程中,经常需要作出决定来优先照顾哪一部分用户群体。为了易用性做一些取舍,这本身并没有问题。问题在于:应该让用户在使用过程中了解到这一点。

“默认语言”的选择就是一个很好的例子,只讲西班牙语的人就不用再浪费时间去阅读一个只有英文的网站。但是因为这些初始设置筛选出了产品的主要用户群,对用户群的初筛会继续影响之后的 A/B 测试的结果,如果一开始设计的用户群是英文母语者,在之后的 A/B 测试中,更加英文母语者友好的界面也会自然地胜出。

简而言之,产品经理并不是在以用户为中心设计产品,而是通过设计来筛选、训练公司想象中的产品用户。而要不要加入新的功能、在哪里放按钮,这些往往都是产品部门的中高层才能决定的,就算设计师一心想要为用户设计,也可能遭到来自产品经理的反驳。

那么,如何从设计正义的角度思考这个问题?Sasha 倡导:在社区主导的设计实践中更加重视决策人和责任的分配——谁做了怎样的设计决策,选择了哪些用户群体。但的确,高度个人化的体验总是和普适的模型相冲突的,前者会有信息监视问题,让用户只浏览算法认为 ta 感兴趣的信息,后者难免又会忽略少数人,进入“自我强化的螺旋”。

Sasha 也提出了一个改进 A/B 测试的建议,即在不同的群体中做 A/B 测试(而不是只根据初步筛选出来的用户群做测试),观察不同群体的测试结果有没有明显的差异。如果没有,就不用围绕某个用户群去做接下来的设计决策,反之亦然。

劳动力多元化与参与式设计的迷思:谁来设计?

带有父权制色彩、健全至上主义(ableism)的设计思维常常被认为是白人男性主导科技行业的结果。毕竟,想象与自己相似的人的经验总是更加容易,白男科技从业者设想的潜在用户常常是和他们一样拥有特权的人,这种假设甚至往往是无意识的。

过去十年,来自学术界和媒体批评的声音越来越大,科技公司也做出了行动。回应批评最直接的做法就是组建更多元的团队,从少数群体中招聘更多员工。《 2021 谷歌多样性报告》中记录了谷歌自 2005 年开始设立多元化招聘主管至今的成果:截止 2020 年,谷歌累计为种族平等事业投入了 10.4 亿美元基金,2021 年谷歌全球女性员工占比达到 33.7% 。除了女性以外,他们的员工中的 LGBTQ 群体、残障人士、退伍军人人数也在增加。