从简单推荐在线搜索结果或社交媒体上“你可能认识”的朋友，到帮助医生预测你患癌症的风险，决定你是否能获得抵押贷款，或者预测暴力团伙犯罪和入室盗窃犯罪等更重要的问题，随处可见算法的身影。但是，它很难被发现，你甚至可能都没有注意到我们的生活在多大程度上受到它的影响。我们在脸书（Facebook）上消费的内容、Spotify上听的音乐、奈飞（Netflix）上观看的电影，都依赖于算法的预测建模。借助每次点击，算法学习将“投喂”个性化内容，并为我们推销最佳的体验。尽管许多算法用例由商业利益驱动，但它们也被用于公共领域，比如医疗保健、教育、刑事司法和税务管理。公共组织越来越多地使用新形式的数据分析来改善公共服务。我们发现，法官使用算法来决定刑事被告是否可能再次犯罪，市政当局使用算法来确定废物回收的最佳路线，学校用算法分配学生。算法正在被普遍接受并将继续帮助我们。算法是应对我们这个时代重大挑战如安全、公共服务、健康医疗和环境保护的一种良策。
我们生活在一场重大的生活变革中，虽然这是一个令人难以置信的时空，但我们必须警惕随之而来的影响。通过算法，我们的日常行为产生了数量惊人的数据，算法处理这些数据并对其进行操作，从而做出管理、控制和推动我们日常生活行为的决策。算法的使用不仅扩大了日常的管控和监督的可能性，而且引入了一种新的范式，即提高治理的合理性，转变权力的运作方式，以及闭合决策的程序。我们可以用“算法治理”或者社会学家称之的“算法官僚”来描述它，算法治理则代表用“黑箱”算法取代人性化、清晰可读和负责任的判断（2006，2009；Engin & Treleaven，2019）。“算法治理”一词表达的是三个独特但相互关联的要素，这些要素直接影响我们的行为。虽然决策自动化并非特别新鲜之事，但算法的影响在自动化、架构、预期应用这三个方面正变得越来越系统化。全自动化意味着人类代理几乎完全可以从决策程序中退出，尽管在实践中这种情况的程度有所差异。算法收集信息（输入）、处理信息（吞吐量）、应用信息（输出）并学习改善输出（反馈）（Zarsky，2013；Citron & Pasquale，2014；Danaher，2017等）。人工智能、数据库、网站和自动化程序正在从实际决策中取代人类代理（Henman，2010；Peeters & Widlak，2018；Van der Voort，2019等）。而且，决策成为一个分类问题，而不是个案判断问题（Peeters & Schuilenburg，2018）。因此，新的行动者或专家正在进入博弈，却通常未受过社会科学方面的培训。自由裁量权转移到了设计算法的IT专业人员和识别行为模式的数据分析师手中，在某种程度上也转移到了算法手中，它们辨别新模式，并通过机器学习相应地调整决策程序（Hannah Moffat，2019）。再者，算法不仅嵌入现有的组织实践或程序中，而且形成了信息架构的核心，在很大程度上决定了商业组织和公共服务的运作方式。算法的广泛使用符合组织运作数字化的历史发展。20世纪80年代，信息技术主要用于将组织文档转换为标准化和可打印的版本。接下来是通过数字化将文件和信息录入数据库，然后将其用于数字化形式的决策程序和组织分析。预先登记的纳税申报表就是这种发展变化的典型例子。因此，组织实践也相应地发生变化。电脑屏幕取代了纸张，系统级信息技术取代了基于正式法律程序的个人决策（Bovens & Zouridis，2002；Landsbergen，2004）。最新的发展是利用信息技术在网络组织之间共享数据。现在一个组织的自动化决策的作出可以基于来自另一个组织的信息，这不仅意味着技术的协调（Olson & Subodh，2010），还包括定义、分类和法律框架的协调（Widlak & Peeters，2018）。因此，算法作为数据共享和自动化决策程序的核心，应该被理解为更广泛的信息架构的一部分（参见Yeung，2011，2018）。超组织信息系统作为一种基础设施，允许信息自由流动，但也指导和限制其使用（Bowker & Star，2000；Cordella，2010）。最后，近年来基于算法的组织实践的应用范围逐渐扩大。更重要的是，算法不再仅仅被用于现有的内部自动化程序中，而且在形成新的社会治理模式过程中发挥关键作用。比如在上述示例中，算法用于预测、推动或约束人的行为（Danaher等，2017）。它们通过分数、排名、简况和范式来做到这一点。在《监控资本主义》（Zuboff，2019）一书中作者写道，信用卡公司以及脸书和谷歌等社交媒体平台，对客户行为进行分析和预测成为支撑他们数字王国的一种强大的商业模式，并且适用于电子商务（Mayer-Schoenberger & Cukier，2013）。关于公民的评分和排名的大量事务也延伸扩大至公共领域（Harcourt，2015：205），其中借助算法的风险评估用于制作禁飞名单、缓刑决定（Smith，Bennett Moses & Chan，2017：260）、确定警察监控资源分配（Bennett Moses & Chan，2018），或以大数据分析得出“其他”算法结论上的异常事物（Aradau & Blanke，2017）。此时，算法预测通过将抽象化的人和他们的行为变为一组变量——如年龄、性别、教育水平、消费者行为、犯罪记录和收入等——来突出行为模式和特征。个人已成为“分格”（Deleuze，1990），由描述和预测其行为的数据集定义。因此，自主和主权主体的范式不再是一个启发性的出发点。“分格”在不同的数据库中是具有许多角色的实体（Koopman，2019）。
（节选自《算法社会：技术、权力和知识》第1-4页）
扫码咨询