摘要：大数据算法的广泛应用带来诸多效益，但算法的非透明性、固有偏见以及对隐私的侵犯也引发广泛关注。鉴于大数据算法正快速渗透人类社会，建立算法的治理机制势在必行。本文通过分析监控资本主义时代大数据算法的特征，论证其治理的必要性，探讨治理的原则和方法，为建立健全我国大数据算法治理体系提供参考。

关键词：监控资本主义；大数据；算法；治理

随着信息技术的发展，大数据算法正在深刻影响和改变人类社会。它不仅为商业、医疗、交通等领域带来诸多便利，也引发了对个人隐私、就业和社会公平的担忧。监控资本主义时代，大数据算法的广泛应用加速了资本家对消费者的监控和操纵。这些算法往往是非透明和不可解释的，没有足够的监管和约束，很可能扩大社会的不平等现象。

一、监控资本主义时代大数据算法的特征

监控资本主义是美国哈佛大学商学院教授肖莎娜·祖博夫在其著作《监控资本主义时代》中提出的一个概念。祖博夫把监控资本主义定义为我们这个时代所面临的新形态资本主义运作模式，它“具有独一无二的资本累积逻辑。在其思维逻辑中，监控是将投资转化为利润的基础机制”。监控资本主义依靠高度复杂的算法技术来挖掘这些数据，并将其转化为企业利润。用户的每一个点击、每一次浏览都会被追踪记录，这些数字化的行为数据被系统化地使用和商品化。监控资本主义通过算法手段，将用户的隐私和自主性变现为资本积累的方式。

监控资本主义的提出打开人们认识新经济形态的视野，但要全面理解其内涵，还需进一步剖析监控资本主义时代大数据算法的基本特征。因为正是依靠云计算、人工智能、大数据算法等现代技术的支持才使资本主义“从传统‘单纯’监控转向‘数据+算法’监控”，才造就了它与工业资本主义和消费资本主义不同的运作方式。大数据算法的这些特征既包含了监控积累逻辑带来的新特质，也继承并放大了资本主义的一些传统属性。把握这些特征，才能对监控资本主义的运作模式形成深刻认识。

第一，大数据算法具有高效处理海量数据的能力。大数据算法可以利用MapReduce等分布式计算框架，在数万个节点上并行处理数据，显著减少了处理海量数据所需要的时间。例如一个复杂的机器学习模型，在单机上需要数周时间训练，通过分布式计算可在数小时内完成。模型迭代周期的缩短使得算法可以快速适应新的场景。

第二，大数据算法具有多源异构数据的整合能力。大数据算法通过多源异构数据的整合，形成了对问题的全景式认识。这克服了传统模型仅依赖单一数据集的局限性。例如预测用户购买行为不仅需要分析用户数据，还需要整合商品、价格、促销等其他类型数据，结果才会更准确。

第三，大数据算法具有预测未来趋势的能力。大数据算法的预测不仅可以判断未来趋势，还可以进行细粒度划分，例如对不同人群进行个性化预测。另外，可以建立动态更新的预测模型，使预测更加准确。

第四，大数据算法表现出越来越强的自主学习能力。通过深度强化学习等技术，算法的自主能力得到大幅提高。算法可以自主探索最优解决方案，而不需要详细的预设规则，因而可以处理更为复杂的环境，完成更艰巨的任务。

二、大数据算法在监控资本主义时代应用的效果

大数据算法具有高效、整合、预测、自主等显著特征，在社会、政治、商业等领域发挥重要作用。我们有理由对这一新兴技术保持审慎的乐观态度，但也应清醒地认识到：任何技术都不是中性的，它都蕴含着作为设计者的人类的假设与偏见。

（一）大数据算法的正面效果

大数据算法在监控资本主义时代的应用，无疑会带来积极的正面效果，它包括以下四个方面：

1. 智能决策和效率提升

大数据算法可以整合分布式异构数据，通过机器学习等技术发现规律和趋势，为企业和政府提供及时、准确的决策依据。例如，预测用户消费需求、优化公共资源配置、制定财务和投资方案等，都可以借助大数据分析实现更科学决策。这不仅节约时间成本，也使决策质量大幅提升，从而显著增强组织效率。

2. 个性化服务和用户体验改善

大数据算法使企业能够深入洞察用户需求和行为，进行精准用户画像和用户价值评估。这为设计差异化产品提供可能，企业可以因材施教，提供定制服务。同时，可以实时跟踪用户反馈，及时优化产品。例如，亚马逊在产品推荐系统中，就采集并分析了用户的历史购物车、浏览记录、评价行为等数据。

3. 疾病预防与健康管理

大数据算法助力智慧医疗的发展。医院可以收集病人的生理指标、病史、治疗反应等数据，建立健康大数据。运用机器学习等技术，可以实现疾病风险预测、药物匹配性分析、精准医疗等，大大提高疾病预防及治疗效果。这也使得远程健康管理成为可能。另外，大数据算法还可以分析药物和试验数据，加速新药研发。

4. 社会公益和灾害管理

对交通流量、气象水文等数据进行大数据分析，可以提前预测交通拥堵和极端天气。例如，可以通过分析交通流量和速度数据，进行最优路线规划，提高出行效率。针对不同时间段的交通状况数据，算法可以动态计算最快路径。一些导航软件正是基于这种交通大数据分析。相关部门可以利用气象水文模型结果，提前规划应对方案，大幅降低灾害损失。另外，公共卫生、犯罪防控等也可以利用大数据分析以保障社会公共利益。

（二）大数据算法的负面影响

虽然大数据算法在多个领域发挥了正面作用，但与此同时，我们也应该意识到，大数据算法的应用也带来了一些负面影响，需要引起足够重视。

1.隐私侵犯和个人信息泄露

监控资本主义时代中，个人在网络活动时产生的海量数据被企业和政府收集。海量用户数据中包含了人们的位置、通讯、健康等高度敏感信息。一旦算法训练过程中使用了这些原始私密数据，一不小心可能导致用户隐私泄露。

2.社会分化与信息不对称

掌握大数据技术的一些大公司和政府机构，获取了普通公众无法获得的信息和决策权力。这可能导致权力和资源向少数机构集中，加剧社会贫富差距。信息不对称也损害了公平竞争。数据寡头的产生将对社会稳定产生负面影响。

3.算法偏见和不透明

算法设计中可能内置了设计者的主观偏见， 其结果也会带有歧视，这将导致对某些群体在就业、贷款等方面的歧视。算法运作对外不透明，公众难以验证其判断依据是否公正。这种不被监督的算法偏见会导致不公平，削弱公众对算法公正性的信任。

4.人的替代和失业风险

依赖算法和自动化的工作将导致部分传统岗位被取代，如算法辅助的医疗诊断、语音客服等，都可能减少相应岗位的需求。根据麦肯锡的一项研究报告：到2030年，全球有4亿到8亿人可能会被自动化取代，需要寻找新的工作。这些被替代的工作主要集中在运输、食品服务、制造业等行业的低技能工作，这将对社会和经济造成冲击，如果处理不当，会导致社会动荡。

5.舆论操纵和价值引导

大数据算法还表现出强大的公共舆论操纵能力。它可以利用算法推荐等手段主导信息流向，通过加强“信息茧房”效应、排序置顶特定观点、进行个性化“微目标”推送等方式，有效控制用户接收的信息类型和观点倾向。与此同时，算法可以通过不断迭代和优化，进一步巩固这种操控效果。这种算法对公共领域的过滤化以及观点引导方面非常隐蔽，且它仅服务于算法运用方的利益，对社会公共讨论的开放性和理性化构成损害。因此，亟需建立算法审查制度，防止其操纵公共言论，影响民主社会的正常言论自由。

三、大数据算法治理的必要性

大数据算法正快速渗透到社会的各个领域，但管理与治理却严重落后，这使得算法的负面影响有扩大的风险。建立算法的监管体系，使其向着公平、透明、可解释的方向发展，已是迫切的时代课题。

第一，大数据算法缺乏透明性和可解释性。大数据算法由于技术复杂性，外界难以看清其内部运作。它就是一个黑箱系统。算法根据什么逻辑做出判断和决策，其中是否存在偏见，外界难以审查。例如，有研究发现，一些算法模型在判断罪犯的再犯风险时，对有色人种群体存在系统性歧视。但是缺乏模型解释，导致难以发现其歧视来源。因此，算法的不透明增强了其潜在风险，亟需治理。

第二，大数据算法可能扩大社会不平等。算法主要服务于资本利益，而非公平正义。算法会优化其商业目标，哪怕结果带来不公。例如，算法集中推送高消费金融产品，而非普惠金融；算法根据学历和学校排名判断求职者的能力，由此复制并扩大了教育不平等。可见大数据算法与现实社会的偏见互相强化，加剧了不公平。对算法过程实施监管，可以缓解这一负面影响。

第三，算法存在技术缺陷导致错误判断和决策，需要通过治理以减少算法故障。所有算法都不是100%准确，它们会在某些情况下做出错误输出。但是，“充斥着混淆和误导的算法正日益掌控着我们的生活”。另外，算法缺乏调试和检验机制，导致这些故障扩散应用后果严重。例如图像识别算法误判会导致自动驾驶汽车事故。

第四，算法可能被恶意攻击和操纵。有研究表明，添加一些微小噪声可以让算法产生完全不同的判断，这使得算法容易受到敌对攻击，输出可操纵的结果。 一些重要算法应用更需建立一个强大的安全防护机制。

第五，算法的创新应用需要进行风险评估。一些高风险算法应用，如基因编辑技术，其潜在风险尚不明确。算法创新需进行严格评估，防止不可控后果。

四、大数据算法治理的原则和方法

由于算法的不透明、缺乏问责制以及包含偏见等问题，建立大数据算法的治理机制势在必行。明确算法治理的基本原则是进行监管的前提。同时，算法治理是一个复杂的系统工程，需要社会各方面通力合作。

第一，在算法治理原则方面，公平原则要求算法对不同个人和群体应给予同等对待，不能将个体特征如性别、种族等作为判断的依据。公正原则要求算法判断标准和过程应向社会公开，接受公众监督。开放原则是算法系统采用开放接口和协议，便于进行安全审查。可审查原则要求算法应提供透明的文档和说明材料，以实现模型的外部检查。

第二，在政府监管方面，可以设立专门的算法监管机构，聘请相关领域专家进行人员组建。监管内容包括算法系统的安全审查、针对高风险应用的定期评估、事故调查及处理等。另外，建立算法使用者的信息公开制度也很重要，使用何种算法做出了何种判断都应向社会公开。

第三，在企业自律方面，可以建立算法伦理委员会进行内部审查，聘请外部专家进行算法审计。作为社会责任的一部分，企业应主动披露算法判断过程、接受调查等。同时建立举报通道，让用户对不公平或不透明的算法判断进行举报。

第四，在公众参与方面，可以从多个方面提高治理效果。公众参与可以聚集不同视角，平衡多方利益，使算法服务公共利益。公众参与能推动治理过程的透明开放，减少歧视。通过参与，公众可以提高自己的算法伦理意识，形成健康的社会价值判断。只有广泛参与和透明开放，算法治理才能以人为本，真正为社会所用。

第五，在技术创新方面，可以开发辅助算法审查的软件工具，自动检测算法中的偏见，研发算法可解释方法等。平台企业也应开放接口，使研究人员可以检验算法模型，防止算法操纵等技术威胁。

五、结论

建立算法治理体系、实现算法的负责任使用是这个时代的重要课题。

要构建负责任可信的算法治理体系，需要社会各界的共同努力。政府需要建立算法监管部门和相关法规制度，推动算法服务开放和透明。企业需要加强自律，建立内外部的算法审查和风险评估机制。学术界和技术界需要研发提高算法可解释性和可审查性的技术与工具。公众需要提高算法意识，对不透明不公正的算法使用行为说“不”。

只有让包括政府监管、企业自律、公众参与和技术创新等综合治理体系形成合力，才能推进算法向着开放、公平、可解释的方向健康发展。让算法成为造福人类的工具，而非制约人类发展的隐患，这是整个社会的共同责任，需要我们为之努力奋斗。

作者简介：吴保来，男，河南牧业经济学院马克思主义学院副教授，哲学博士

肖莎娜·祖博夫. 温泽远等译.监控资本主义时代（上卷）：基础与演进[M]. 台北：时报文化出版企业股份有限公司， 2020：97.

李宏伟 郝喜.算法监控的“行为剩余”资本谋划及其社会治理[J].河南师范大学学报（哲学社会科学版），2022（2）：46.

James Manyika，etc. Jobs Lost， Jobs Gained： Workforce Transitions In A Time of Automation. www.mckinsey.com/mgi.

凯西·奥尼尔.马青玲译.算法霸权[M].北京：中信出版集团，2018：159-160.