取消
搜索历史
热搜词
原创
活动
创新2.0
I T
产业
当前位置:首页 >人工智能 > 正文
要反互联网垄断,还得从算法共谋谈起
来源:中国社会科学网  作者:李振利 李毅 2020-12-14 11:38:49
人工智能时代的到来,推动了世界数字经济的迅猛发展。与此同时,人工智能的不当使用,特别是算法的广泛使用对经济、社会、法律等也造成了负...

人工智能时代的到来,推动了世界数字经济的迅猛发展。与此同时,人工智能的不当使用,特别是算法的广泛使用对经济、社会、法律等也造成了负面的影响,典型的案件包括顺菜事件、Topkins案件、谷歌滥用市场支配地位案件等。

数据、算力、算法是人工智能不可或缺的三要素。2016年以来围绕着人工智能大量宣传达到了反垄断法的范围。关于反垄断和人工智能出现的文献中普遍的思路是,把市场中算法增长的使用描述为游戏的改变者[1]。

2015年牛津大学法学教授Ariel Ezrachi和美国田纳西大学法学教授Maurice E.Stuckle提出了算法共谋[2]的理念。随后在2016年出版的《算法驱动经济的前景和风险》[3]详细地介绍了计算机共谋是危险的,虽然传统的反垄断法律阻止企业固定价格,数据驱动下的算法能迅速监控竞争对手的价格,并统一地调整价格。日益透明的价格看似对消费者有利,却讽刺性地以伤害其而告终。

正在改变的市场现实是把市场的定价的权力移交到少数的企业手中去了。

这就促使我们提出了亟待解决的问题:仍旧保留看不见的手摇摆到什么程度停下来?在人工智能和算法操纵的市场中,竞争定价是共谋吗?

现行的法律能保护消费者吗?

算法共谋的现状和危害性

(一)算法共谋的特征

共谋也叫有意识的平行行为,没有竞争者协议干预价格却达到限制竞争的结果(垄断高价)。算法共谋不会影响大多数市场,这样的默示共谋呈现如下三个主要的特点:

首先,涉及同类产品的集中市场中,算法能在足够程度上监控销售价格和销售的其他关键条件。在这样的市场里,极其容易引起算法共谋。当卖方很轻松地能监控到竞争者的竞争价格、销售关键条件和其他任何偏离现行平衡的行为时,大量的企业借助在线定价促使和稳定形成有意识的平行行为。在如此的环境中,算法价格能提供稳定和预测的工具,来执行对偏离者(竞争者)的可靠而有效的反击。假使这种软件来自超竞争或建议零售价格,在面临价格偏离时,软件可以用来报告和采取必要的报复行动。

第二个重要的市场条件是一旦价格偏离(打折),可信的威慑机制应运而生。快速的报复是算法环境的特色(执行威慑机制主义的速度与算法透明度争议有关。如果公司在拖延几天后才察觉竞争者的行为,反击也将拖延并影响到是否有足够的能力制止偏离)。计算机能快速迅速地控制偏离,计算出数个行为的牵连的利润额,并采取抵抗行动来惩罚偏离者[4]。这是传统垄断协议所做不到的一系列行为。计算回应的速度有效地剥夺了打折竞争者的明显的销售行为。速度意味着共谋能在几秒钟传递信号。初始的偏离者从打折获利的否定率越大[5],共谋的可能性就越大,这样一来,如果每个算法能快速地超过竞争者的打折,并减少起先打折者的激情,将来报复的威胁将促使协同行为持续下去。

第三个条件是共谋所期望的结果不会威胁到包括客户、不参与合谋的现在或将来的竞争者在内的共谋之外的局外人的反应。因而,在买方不能施加购买力量(或者怂恿卖方变节),销售交易趋于频率大、规律性强、规模相当小的集中市场里最有可能形成共谋,一般情况下,这样的市场具有高进入壁垒的障碍。

计算机算法不可能展示人类的偏见的事实加强了算法共谋的稳定性。当然,人类偏见也许反映在程序编码上,但是偏见不会根据一个个的案件影响决定:计算机不会害怕被发觉,也不怕处以罚金和监禁,它也不会生气。美国联邦贸易委员会委员Terrrel McSweeny说:“我们正在谈论不是真正由人决定的速度。所有的经济模式建立在人类的动机和我们认为人类将合理做的事情基础之上。完全有可能存在这样的情形:在一些市场上并不是所有的学习都是必须有应用价值的。”

以上的条件满足时,将会出现算法的共谋。重要的是,电子商务市场的本质、数据的可用性、相似算法的发展以及算法培育的稳定性和透明性,可能推动共谋领域外的市场产生互相的依赖性。

(二)算法的分类

1、信使类共谋

所谓信使类共谋,指计算机被用来执行人类共谋限制竞争的意愿,其身份类似人类的信使。在种情形中,人类共谋的目的是自愿达成卡特尔(编者注:卡特尔对应英文为Cartel,即一种垄断集团,很容易发生在少数资源被数个企业完全掌握的情况下,为了避免过度竞争导致的整体利益下跌,由一系列生产类似产品的企业组成的联盟,是卡特尔垄断组织的一种表现形式),利用计算机实施、监督和管理卡特尔,代替人类执行其命令。这种行为可能符合共谋的传统方式。人类借助计算机暗中勾结,同样也能达成协议或协同行为。

在这类合谋中,人类是卡特尔的操纵者,是主人,计算机算法只不过充当了“信使”的角色,其按照人设计的程序来帮助实施、监督卡特尔并惩罚偏离行为。在这类合谋中,证明存在反竞争协议的证据越充分,就越不需要证明存在合谋的意图。当然,卡特尔成员的意图在认定行为的违法性上发挥着重要的作用。在特定的行为中,法律会考虑行为人的意图。

2、轴辐类共谋

辐类共谋是指多家企业使用相同的计算机算法决定市场价格或对市场做出反应。此时,单一的纵向协议自身不可能产生限制竞争的效果,也未必折射出行为人扭曲市场价格的意图。但是,同行业众多竞争者同时达成了类似的纵向协议,就可能导致经典的轴辐类共谋(hub-and-spoke),这时凭借计算机算法研发者(作为“轴”)的帮助,可能形成全行业的合谋,导致价格上涨。

因为这些纵向协议竞争效果的证据相互交织在一起,有关合谋意图的证据能帮助竞争主管机关去评估协议的目的及可能产生的竞争效果。在轴辐类合谋中,算法的开发者和使用者之间不是具有横向竞争关系,因而他们之间的契约关系应定为纵向协议的性质。当竞争对手使用相同的算法时,他们不见得同意固定网约车服务价格或其他价格。带给反垄断法困惑的是同一算法在不同企业的平行使用。这种算法对传统的反垄断法的挑战是人们需要深入地研究此种算法的核心问题,并确认其设计意图是否即将或可能导致价格剥削。假如这种算法被计划用来促进使用者之间的共谋,竞争执法机关可以用典型的轴辐类合谋的理论。但如果算法缺乏如此的反竞争的意图,执法当局只能适用相对温和的合理原则,来分析算法使用中的纵向协议是否可能产生不利的结果。

3、预测类共谋

预测类共谋指计算机算法尽管由不同企业研发,但设计相似,其被用于监督市场活动,并能理性地实施价格跟随行为。这种情形下,缺乏足够的证据证明协议的存在(无论是横向协议还是纵向协议)。每个操纵者独自地研发机器算法,但也清楚其竞争对手也研发类似的机器算法。由于全行业采用相似的算法,加强了企业之间的依赖性,这有可能导致产生反竞争的效果。虽然不存在书面或口头的协议,但市场上存在默示共谋或有意识的平行行为的形成条件。因为默示共谋本身不属于违法,改变市场条件的意图证据在此类共谋尤为重要。

这种情形给反垄断法的执行带来很多挑战。本质上来说,有意识的平行行为会在两个层面上形成:首先,在设计计算机算法时,独立而又未曾进行共谋的每一方明白这一点,只要有可能,计算机算法的优势策略是跟随别人的价格上涨而提价。

其次,每一方懂得,如果他方设置了相似的程序,就会建立超过竞争水平的市场平衡。这种根据行为人标准划分的有意识的平行行为,会导致编程的计算机识别到市场上的有意识的平行行为。因此,在无须铤而走险达成协同行为或默示共谋的情况下,人类操纵的计算机可以监督市场以及探寻建立相互行为的可能性。同时,设计好程序的计算机也用来惩罚偏离默示协议的行为和识别背离市场均衡的异己企业。计算机对市场动态做出理性反应本身并不违法。在缺乏沟通与合谋时,即便这种行为导致了一种竞争水平之上的市场平衡,不一定引起反垄断法的干预。毕竟,人们不能谴责企业在市场上从事理性和独立的行为。

问题是,人们能否谴责人为创造出维系默示共谋市场条件的行为,这种市场条件主要指创造出利用计算机间实行的监督机制和惩罚机制的透明市场。通过运用高级的计算机算法人为地促成了默示共谋条件形成的行为,是否被认定为非法?竞争主管机关会将竞争者之间的默示共谋或协议,加罪于使用相似算法去抑制脱离监管的竞争吗?由于当事人不存在改变市场条件的协议,除集中控制外,大多数竞争主管机关缺乏其他的规制工具。集中控制可以有效处理通过计算机算法来改变市场条件进而达成默示共谋的行为。某些情况下,也可以考虑不需要存在证明协议的替代性规则。

4、自主类共谋

竞争者独立开发和使用计算机算法去实现既定的目标如利润最大化。通过自主学习和试验,计算机算法能独自地决定优化利润的方式。明显地,在这种共谋中,以意图限定的法律思维和协议都难以适用。根据自我学习和从市场上收集数据的反馈,计算机能执行其认为任何的最佳的策略。自主合谋对反垄断规制是最棘手的。

预测共谋因为不存在协议,限制了反垄断法实施工具的适用。在可预测的数字环境中,被智能计算机实施的这类行为是否应该受到法律的追究。与预测共谋不同的是,算法的使用者并未有意地促成有意识的平行行为,企业仅仅依赖人工智能而已。

随着计算机迅速调整以适应新的数据与竞争环境,算法的使用者和设计者也许知道这种行为会增加市场透明度,以及超竞争水平的价格有可能发生,但他们无法事先预测到何时发生、持续多久以及达到何种程度,类似于刑法中的不可抗力。

必须承认,数字市场上存在复杂不同的计算机算法、不同的智能体和市场经营者。与预测共谋一样,当市场上运行的智能体拥有类似的思维时,共谋的能力得到强化。自主学习机器很容易和其他相似的机器达成默示共谋,这些计算机也能更容易地预测和理解其他类似计算的行动。由于程序和计算机能轻而易举被复制,所以由相似思维的智能体操纵的市场的现实社会应该会出现。

为了清晰地识别以上四类共谋的区别,以便为提出良策规制人工智能的共谋,我们总结它们的区别如下:

(三)算法共谋的行为对竞争产生的危害性

1、共谋综述

人工智能为手段的共谋,是默示垄断协议的一种形式。根据达成垄断协议主体意思表达形式来看,可以将垄断协议划分为协议型垄断协议和默契型垄断协议[6]。这里的协议型垄断协议就是我们常说的明示垄断协议,是指行为主体相互间明显地故意地从事了通关书面形式或口头形式达成一致的协议以达到联合到限制、排除竞争目的的行为。

明示共谋是市场的经营者在市场经济的竞争中为了一部分群体的利益所达成的妥协的协议,这种协议可以通关观察经营者的行为或者查处一些书面证据,可以比较容易地判断行为者故意的主观意图和结果行为是否违反反垄断法。这种垄断协议对其参加垄断协议的成员来说,有其先天的不足之处,那就是对其成员的约束力不强,不能及时发现一些成员的偏离行为,以及随之对偏离者采取果断的反击策略。

默示共谋,指行为主体间未通过书面形式和口头形式达成协议关系,但当事人通过彼此间的相互依赖关系和心照不宣的意思推理,采取相同或相似的行为,达到实质限制竞争的目的。以人工智能为手段的默示共谋为垄断者提供了十分可靠的辅助手段,表面上是计算机和算法在进行协商达成垄断协议,实质上是反映背后操纵者不可告人的目的,机器会犯罪吗?我们能惩罚机器吗?这些可笑问题暗含的意味,值得学者和实务界进行深入的探索。

2、算法引起的默示共谋

反垄断法实施的主要目标是企业,法律是鉴于属人性去判定违法行为的性质,也就是法律规制的是人作为违法主体而实施的行为,法律不能把机器作为违法的主体。相应地,法律干预的重点是,相互勾结的企业之间是否达成了反映其一致意见的协议。当多个企业通过其雇员、董事、代理人、股东以及其他第三方,一致地限制或扭曲竞争时,便构成了违法行为。

默示共谋,有的专家称之为协同公告,有的称之为企业间信息交换行为。这种行为是经营者单边公告行为,不需要对方的书面或口头承诺。但单边公告经营者公告的目的具有隐蔽的协同行动的意味,只要竞争者采取了与公告经营者长期且一致的行为,单边经营者就达到了不可告人的目的。

当计算机算法和机器取代了中间第三人的角色时,可能的违法行为的范围大大超出了传统的共谋。计算机不仅通过协议或协同行为来限制竞争,还可以通过更微妙的方式来反竞争。例如,相同的计算机算法,会导致市场环境趋于稳定,如此一来,他们就能对其他计算机的反应与优势策略做出预判。这种数字化的市场更具有预测性,也更容易被控制。而且反垄断执法机关的行为控制措施很难对人工智能的共谋奏效,人工智能的共谋并不敏感反垄断执法机关对其实施的产生威慑的反垄断措施。

3、过度透明是算法共谋的环境条件

(1)透明度的优点

传统上,高度透明性作为驱使人类规制问责主要保护手段[7],受到人们的推崇。一般认为,公众详细地懂得政府行使权力的具体程序可以抵制政府的滥用权力和政府失灵。法官Louis Braneis说:“阳光据说是最好的防腐剂,电灯是最有效的警察[8]。”

已卸任的美国前总统奥巴马也这样说“民主需要问责,问责需要透明[9],”即使当算法在执行行政责任代替人类判断时,一些学者仍然宣称作为促进监督手段应加强透明性[10]。

(2)透明度的缺点

在现代民主社会里作为决定者最终的保护手段的透明度的普通思维模式持续不断地受到了挑战[11]。正如Mark Fenster所言,规制的透明度要花成本,阻碍了法律的执行和安全目标,抑制政府官员在缺乏伴随公共审查的必然压力下商讨政策事务的能力[12]。

并且,许多问题尚未明确,如规范的透明度如何取得实际效果,什么样的规制信息应该公开,这种信息如何呈现,透明度潜在的缺点如何避免等[13]。结果,靠仅有的透明度来监督代理机构和引起代理机构改变行为路线受到怀疑。

有四种原因来说明透明度不适合追究算法责任,一是阅读、跟踪和预测构成算法复杂的计算机编码比较困难;二是透明要求与易受商业秘密影响的算法监管的许多私人执行无关;三是算法监管如此的艰难,如果没有规范的透明度要求,要审查所有已经泄露的信息几乎不可能;四是当算法用来代替人类做出自由裁量的决定时,关于算法的输入(事实)和输出(结果)的透明度不能充分受到适度的监督,因为一个既定的法律判决结果不需要产生出判决结果背后关于推理的足够信息。

4、算法共谋铺平了接近完美的价格歧视的道路

如果透明度培育了默示共谋,秘密协议应该这些打破它的稳定性。我们所有很熟悉秘密协议(旅馆仅向你打折)和目标顾客得到提升。这些措施确实提供了一条重新引进竞争到易受算法共谋影响市场的有益通道。即使秘密协议在市场上失势,不会引起价格战,他们不仅对共谋平衡打了折扣,消费者同样也受益。确实,竞争代理机构也许青睐秘密打折、产品差异(因为它在成本和数量上引入公司中的信息不对称)和减弱的透明度。理想中一个持异议的公司提供秘密协议,这种协议削弱了协议价格,而后使默示平衡(共谋)产生动荡。

在不低估这些好处之时,政策制定者要当心两个额外的反竞争结果,即几乎完美的行为歧视和随之的混合歧视或混合共谋。在行为歧视方面,我们关注两个改变,一个是从三等价格歧视到一等价格歧视,另一个是使需求曲线向右改变,诱惑我们购买一般不需要的东西。

在数据驱动的经济里,动态定价和个性化服务继续进化直至导致操纵消费者。卖家利用人工智能编辑的关于消费者的数据,他能估计出诱惑赞助者需要的折扣数目,更好地接近消费者的付款意愿。

每个卖家的终极目标是把买家从竞争环境中移出(经常也称兼并买家),怂恿买家对卖家忠诚和信任,以达到把买家的财富转移至卖家的效果。我们称这种现象为杜鲁门秀,即在编辑数据时由于信息不对称和隐私保护下降创设一种竞争假象。买家没有意识到卖家收集他们的数据进行统计分析,继而卖家利用秘密协议给予买家价格歧视,买家仍旧认为卖家分析后给予买家的折扣价是市场价。凭借这种策略,动态的个性化价格在一定的市场下能持续上演,通过秘密协议增加买家福利的企图也许应该遭到抵制。

5。 混合共谋的情况

迄今为止我们设想两种市场,一种是稳定的算法共谋市场,另一种是在算法共谋与行为歧视之间变动的市场。重要的是,算法共谋与行为歧视也会同时发生。在混合共谋中也会发生竞争,例如竞争者在低价值的客户与低价值的客户之间有所区别,一个公司的懒惰是另一个公司的奖励。但是算法凭借数量大、种类多的个人数据利用试错方法来学习时,算法对每个客户进行不同的诱惑来赢得潜在的投资回报率。除非当经常去赌场或加油站时低价值客户的行为改变,人们期望算法聚焦在可能是懒惰者的身上。如果是这样的话,我们将会看到以忠实的沉睡者和低价值客户为基础的市场和由推销个性化服务策略吸引高价值客户的差别化和非透明市场的形成。

现行反垄断法规制的状态及不足

(一)算法共谋对传统反垄断法的挑战

1、消费者新的购买方式为人工智能的共谋创造了条件

计算机协议自动化程度的增强和技术的迅速发展已经改变了我们交往、交流和交易的方式。购物者带着买便宜货的冲动进入网络在线购物,手指轻轻一点就能找到许多种类不同的商品。电子商务、计算机、大数据、价格算法等方面的技术发展改变了我们的购物和交流方式。我们的购物选择局限在摆在货架上的受控产品的零售者、双方达成的协议和根据大量的信息做出决定的时代一去不复返了。在消费者从网络在线购物中获得极大好处的同时,个人数据在便利浏览网页时被网络平台所收集,继而通过复杂的算法和数据分析正在改变市场竞争的本质,并不总是对消费者有利。

2、算法的利弊分析

日益自动化和数字化的交易可以创造一个更加有效和透明的交易市场,在这个市场里可以更加有效分配资源,最好的产品或服务也能以最低的价格进行交易。除了这些促进竞争的积极效果外,在以数字化算法为基础的市场中,卖家能跟踪用户行为并收集行为数据。在数字市场的环境里,精明的参与者有能力监控客户活动,并以前所未有的速度对市场变化做出反应。计算机算法可能被用于优化行为广告、个性化促销和有针对性地实施差别定价。这也预示着数字卡特尔的到来。

20世纪90年代,美国司法部调查了几个大型航空公司,他们被指控利用详细的机票信息的数据库公开宣称重复的机票收费固定机制和快速的价格调整,卡特尔成员能利用第三方中心和复杂的信号机制秘密地达成一致的机票收费标准,以达到在线共谋的目的。然而,三年调查之后,这个案件以司法部和这些航空公司达成和解而告终,没有形成司法判例。以人工智能为手段的共谋使竞争执法机关不能根据现行的竞争法对其查出违法行为,逃脱了执法机关的监管,但并不等于他们的行为合法,只不过他们的违法行为从明显的违法转移到暗地的违法,违法行为更具有隐蔽性,同时也极大地间接损害了消费者的合法权益。我们不会容忍限制竞争的行为,不论其发生在烟雾缭绕的房间,还是在通过复杂的价格算法发生在互联网上。与线下市场类似,消费者有权享有自由而公平的在线市场环境。美国司法部反托拉斯局首席检察官助理Bill Baer宣布首次针对电子商务合谋提起刑事检控。因为引起竞争执法者关注的数字卡特尔仍旧很少,造就了许多公司有巨大的动机利用大数据搜寻各种方法达成共谋,特别是改进的反竞争实践在法庭上很难被发现和指控的情况下,更容易促使这些公司从事秘密的违法行为。

(二)计算机算法的反垄断规制窘境:垄断者之间更加公开的固定价格

一般情况下,反垄断法在处理垄断者的反竞争行为或固定价格不会留下监管空白,因为公司这样的行为符合通过交流或促进行为以达到某种反竞争协议的目的法律要求。在这种情况下,我们通常以囚徒困境分析,纳什均衡违背了卡特尔且削弱了彼此之间的力量,价格固定者需要达成协议避免出现更差的竞争价格结果。当然,因为竞争价格而不是共谋价格对社会有益,反垄断执法者想设法破坏解决卡特尔参与者面临囚徒困境的互利互惠和信任的发展。计算机算法的出现要求转变反垄断法一些基本原则的思路。反垄断法许久以来都是以假设的人为规制对象的,然而,计算机及其算法成为新的反垄断规制对象,它的力量和人的力量很接近,更容易反抗消除反垄断伤害所使用的现存的反垄断方法。

1、协议的扩大化解释

识别竞争者之间的“协议”是执行反垄断法反对共谋结-果的前提条件。但实践中,协议概念也许仍旧不能指导更多细微的交流形式,他们是否应该落在竞争规则应用的范围内。例如像单边公开宣示价格的传递信号机制被看作一种达成公共政策的一种邀请,但是如果在某种情况下等同一种协议,在现行的司法体制下这种判断方法受到质疑。随着算法的出现也引起了相似的挑战。

算法的不断发展允许竞争者之间利用复杂的代码作为中介以达到共同的目标,使用这样的手段他们可以进行快速而复杂的相互交流,协议的概念及其对数字经济应用愈加清晰:在竞争者达成固定价格被视为本身违法时,而允许快速公告和做出回应的计算机技术模糊了协议的含义,对反垄断执法机关区分公开的协议与竞争者之间的交流造成了困难(Borenstein,1997)。根据实现和执行公共政策的作用,有人提出这样的问题:为了体现在算法的辅助下达成众人的思想交流,我们是否应该重新考虑协议的定义。例如前面讨论的信号算法可能会导致快速的反复的价格变动,最终会促成统一的价格,相当于商人之间的实际谈判协商达成共谋协议。

竞争者对快速调整价格的反应直至形成共识等同于与协议吗?关于这一点,对于算法交流(也叫算法集会)是否应该和竞争法覆盖定义下的思想交流相似对待,仍旧很难下肯定的结论。然而,比较清晰的协议定义不仅要通过帮助企业知晓什么活动是非法的、什么活动是可以接受的,以减少较少概念的不确定性,而且还要潜在地强调与算法共谋相关的一些热点问题。因为在现行的法律标准内要证明诸如有意识的平行行为的纯粹单边行为构成限制竞争的协议是很困难的,特别是在司法制度内对协议解释非常狭窄的情况下,一些竞争执法部门有可能借助如不正当竞争法灵活地处理反垄断法目前不能解决的算法共谋行为。

2、主观意图

用反垄断法的法院关注意图的证据来判断是否违反了反垄断法,他们不会因为坏的意图而惩罚恶意。相反,他们用意图作为指引,来描述观察的行为的特征。在涉及排他行为和企图垄断的垄断案例中,法院采用测试法来衡量垄断者和企图垄断者的意图。法院依据传统意图的方法在数字经济时代显得非常困难。比利时安特卫普大学教授Jan Blockx[14]直接认为反垄断执法法机构根据竞争者之间意图和策略评价企业的行为并确立限制竞争的证据没必要或者不充分。

如果采用了无意图违法原则,反垄断法就不会出现监管空白。结果,通过网络爬虫收集的定价信息以便数据接收者获得竞争优势的事实,不能排除用非法的方法涨价或限制市场的竞争。因此,在支持竞争的意图下编写的算法、自我学习(或者不用)进行的竞争,不排除有限制竞争的嫌疑。

当然,意图证据放在具体的环境中也许有用。如果有证据证明以特殊的方式设计算法以达到软化竞争的目的,在评价算法是否能或者已经限制了竞争明显是非常有用的。鉴于在评价企业行为经济效果时存在很大的复杂性,企业的意图和策略能提供良好的视野,审查其行为追求的目的。在缺乏算法追求目的的证据下(主观意图),需要进行精细的效果分析,这样也许会阻碍反垄断的执法活动。

(三)谁应该承担算法共谋的责任

关于算法共谋的责任,算法共谋提出许多挑战性的问题,包括运用算法的计算机而不是人做出价格决定时,是否应该确立反垄断责任;如果定价机器共谋,谁应该对此承担责任?它应该是有问题算法开发者的责任还是使用者(受益者)的责任?他们根据什么样的基础各自承担责任?

诚如Mehra(2016)说的:“在处理计算机卖家采取反竞争的行为归责的问题上有三个选择:一是对计算机卖家本身承担;二是设计计算机程序的人承担;三是两者都不承担责任。”第三种无责任被认为不太现实,事实上就如同豁免了通过计算机算法的中介实施的反竞争的行为的责任。

争论的重点在于当商业策略委托给计算机算法而人类有没有能力影响采取这样决定的方法时,突出地显示出把反垄断责任归咎于某些人是否合理。当然,如今大多数的算法仍旧是以人设计的指令运行的,毫无疑问,人应该对算法做出的决定负责。随着算法向纵深发展,算法与人类的联系变得更加的微弱,自我行为和定价的算法的能力使从算法自我决定中获益的个别企业的责任受到怀疑。在这种情况下,决定责任主要依赖于手边的事实。竞争执法机构应该考虑人类控制算法活动的程度。很显然,算法是由人类设计的,但他们故意设计算法伤害消费者吗?责任能以连带责任或者各自责任的形式自动地指控算法的开发者、算法的使用者还是算法决定的受益者?即使反垄断执法机关发现了默示共谋,他们又能做什么呢?

在算法增加市场透明的情况下,被告经常对他们的行为独立地展开正当的商业合理性解释。由于对市场变化做出的单边合理反应导致的纯形式的默示共谋一般不会引发反垄断责任。但是,如果不当的一致行为传染或者促使了有意识的平行行为,也许会引发反垄断的干预。在某些情况下,行为的单边本质受到怀疑,有时可能推理出横向或纵向协议。受到谴责的行为也许包括发信号,信息交流,同意从事共同的战略,通过分享数据池和其他的共谋策略。在算法成为广泛共谋干预市场价格时,反垄断干预是很容易的。相似地,瞄准促使市场一致行为的弱形式的发信号行为可能纳入到反垄断监管的范围。

但是,我们仍旧有几个具有挑战性的问题:纯形式的有意识的平行行为应该受到责难吗?我们应该责备通过人工手段促进的默示共谋吗?我们应该责备一个企业的合理行为或者是在市场上相互运作时单边研发用于分析可用公众信息的算法的行为吗?解开这些谜团的唯一之路是把这些争端作为市场操控或者不公平的实践行为看待。

总而言之,企业有责任对他们发明或使用算法或者自我学习负责,他们有肯定的义务确信遵从反垄断法的规则,不能原谅他们的无知职员或者价格机器所作所为,就像员工被承认为了雇主的利益而违反了反垄断法,雇主要承担责任。如果雇主使用算法,企业要对定价机器的行为负责。即使出现企业没被发现疏忽企业如何监控雇员和价格机器的情况,反垄断执法机构也能通过周期性的罚款措施禁止共谋确保遵从反垄断法。

对算法共谋的规制建议

随着动态市场的演进,算法本身了解到占优势的合理策略就是默示共谋,公司应该在多大程度上对自我学习机器的行为负责?我们能采取什么样的制止和平衡措施来阻止机器改变动态市场呢?竞争立法者和执法者现在被这些争端所困扰着。

(一)规制算法的制度性选择

控制算法有几种选择可以规制算法,包括市场解决法和国家规制法等一系列方法。但每种方法都有各式各样的局限性,它们或多或少只适合强调发现的一种算法的风险,没有全面、综合地防控系统算法风险的能力。

在多种的监管选择中,有供需两边的市场解决方法。

首先,由竞争提供者组成,为了提供跨不同维度的更好的算法。

其次是和消费者相似采取积极的行动措施,例如拒绝使用某种服务或者依赖高级的技术来保护自己免遭算法的危险(如匿名工具或者阻止审核)。因为市场解决方法没有妨碍创新和阻止新进入者,所以市场解决方法是首要考虑的方法。然而如果以前提到过的市场解决方法不能奏效,可以采用其他的解决方法,包括自我组织(公司遵从一些善良原则和标准来提高自己的声誉),自我规制,共同规制和国家干预。

在国家干预选择的范围内,一些专家现在主张建立新的监管制度来规制数字经济。Gawer(2016)建议创建全球数字经济规制机关,这个中央独立的机构负责协调和监控因特网和数据的不同的规制方面。此外,为了防控算法和人工智能所带来的风险,其他人建议建立新型的人工智能规制体制:建议创制《人工智能发展法》,并建立相应的机构,主要任务是核实人工智能系统的安全性,不赋予这个新的机构像FDA的权力禁止企业生产它认为不安全的产品。在这部法律创设的责任体系中,经过该机构审核的设计者、生产者和卖方受到有限侵权责任的制约,而没有经过审核的用于商业销售或使用的项目将受到严格的共同和单独责任的影响(Scherer2016)。

(二)算法的透明化原则和追责的措施

最近讨论的监管规制措施聚焦在使算法透明化并对其产生的效果承担责任。美国的联邦贸易委员消费者保护局建立了崭新的技术研究和调查的办公室,负责在数个主题中进行独立的研究和提供指导意见,包括算法透明。

另外,美国计算机协会公共政策委员会对算法的透明化和责任推荐了一套原则,目的是既可以对算法的创新发展实现最小化伤害又可以实现算法决定的好处。这些原则包括:

意识原则:算法分析系统的所有者、设计者、使用者和其他的利益相关者在设计、执行、使用中应该意识到可能涉及的偏见以及偏见对社会和个人产生的伤害。

进入和救济原则:规制者应该鼓励采用系列的机制,利用这种机制能向算法通知决定负面影响的个人和群体提出问题和采取救济措施。

责任原则:算法开发机构应该对使用算法产生的算法决定负责,即使他们不能详细地解释算法如何产生结果。

解释原则:鼓励使用算法做决定的系统和机构鉴于算法跟随的程序和做出的特别决定做出解释。在公共政策背景下,这种解释非常重要。

数据出处原则:算法的构建者应该持续地描述收集目标数据的方式,同时要探测由人或算法收集数据过程引起的潜在的偏见。数据的公共审查为纠偏提供了机会。然而由于关涉个人隐私、保护商业秘密,或者分析结果的披露使邪恶的经营者可能钻制度的空子,限制进入有资格且授权批准的个人数据成为正当的理由。

审核原则:应该记录模型、算法、数据和决定,以便遇到不承认算法造成的损害时可以审核这些证据。

证实和测试原则:执法机构应该用严格的方法来验证他们的模型并记录那些方法和作用。特别地,他们应该常规地进行测算,以评价和决定模型是否产生歧视性损害,并鼓励这些执法机构公开这种测算的结果。

(三)规制算法共谋的具体措施

虽然我们承认机器学习算法的共谋很难发现,但以近两年数字市场飞快发展的速度,如果这种特殊的共谋成为现实市场的一部分,在将来期待考虑采取什么样的规制措施就显得尤为重要。以下是我们推荐的几种规制措施以及对竞争产生的风险。

1、黑匣子补漏器(black box tinkering)

隐蔽的算法逐渐控制我们日常行为越来越多的方面,包括管理在线网上行为和执行法律权利,使这些算法受到适当的审查是非常重要的。算法执行系统的消极透明驱动的监控局限在能审查涉及算法的非透明的实践行为,但应鼓励公众积极地从事挑战未知或者可能偏见的算法规制系统是竞争主管机关基本的任务。

黑匣补漏器是一种反向工程技术;它是利用本领域的知识和观察,通过严格的检验,探明一种系统的特殊性,进而演绎揭露那项系统如何起作用的过程。黑匣补漏法这个先发制人的方法能使研究者挑战我们周围的黑匣系统并暴露黑匣系统的不当行为。黑匣子补漏器允许我们在自动化盯准有问题的内容前核查平台是否考虑公平使用算法。通过制约执行算法的隐蔽实践活动,黑匣子补漏器在加强算法责任和促进公众积极参与方面提供重要的便利。

但黑匣子补漏器可能会受到一些挑战,比如说黑匣子补漏法等于违反不同的反黑客法和计算机侵入法,也许把黑匣子补漏器看作是非法侵入中间商网络。立法者应该考虑制定黑匣子补漏安全港法律,目的使黑匣子补漏器的研究者免予在研究黑匣子补漏法过程中有意图的而又最小违反法律的责任。制定法定的免责法将极大地促进公众从事揭露各种算法左右人类行为的隐蔽实践活动,鼓励公众审查及自然影响算法起作用的方式,最终增强算法的责任。

2、减速法

如果算法的价格调整的速度和频度促进共谋,一种破坏性的方法是降低卖家调整价格的速度或减少卖家调价的频率。为了减少数字市场中的高频交流,政策制定者可能实行调整价格的拖延或者要求企业对新的提价做出最小时间的让步(Ezrachi and Stuckle,2017)这种措施在奥地利和澳大利亚西部的燃料行业执行,在那里各个卖家限制多于一天一次的彼此的竞价能力。为了减少价格变动的数量,这种机制试图允许竞争者削减共谋价格并给卖家以打折者的美誉。在连续地监控竞争对手的价格和商业操控时,定价算法现在在价格变动上将面临一定时间的耽搁。

在这种情形下,如果耽搁的时间足够长,默示共谋的异议者从最初的垄断价格到打折可能会获利。无怪乎通过破坏性的算法或其他手段,市场上的国家干预也许会导致次优的结果。例如限制价格变动的速度也许会导致阻止卖家打折的状态。另一种选择是政府允许降价立即执行,但强制要求拖延一段时间涨价。

测试定价算法是否像人类一样会钻空子是非常有趣的。例如,一个具有支配地位的在任者通过削减价格来惩罚背叛者。背叛者可能不会立即提价,他反而被迫进一步地打折。基于这样的考虑,背叛者的算法在打折之前,可能会考虑在任者报复的可能性、打折的成本(包括损失的成本)、收益(如果竞争者立即与背叛者的低价竞赛,背叛者的收益会更少)。政府的定价拖延不是帮助背叛者和消费者,反倒是服务作为一种对偏离超竞争价格惩罚机制。因为减少了背叛者在可能报复的环境里打折的动机,政府定价拖延可能会助长无意的默示共谋。

3、减少对买方优势的透明度

政府能盯住助长默示共谋的公共政策,不需要提高买家的福利。例如在廉价交谈中,卖家可以从便宜的信息交流中获益,而买家不能获利[15]。超越这个简单的例子,一个明显的挑战是微调执行政策以便在没有损害竞争过程本身的前提下阻止对共谋平衡负责的多种因素。这样的干预也许导致了卖方和卖方之间的军备竞赛,卖方可能从资源和技术中获益。卖方能凭借高级的算法改变动态市场,并可能使用人工智能优化商业策略,竞争执法者能有效地发现和盯准这些策略吗?

但透明不是消费者和卖方在黑暗中或阳光下的电灯开关。诚如经济学文献所言,重要的不是什么东西被公司直接观察到,要紧的是公司能从有用的市场数据中推算出什么信息。在市场稳定时,推算出偏离共谋行为是比较容易的,要求少于市场波动时的市场数据。算法共谋孵化器里的测试,能使政府发现和微调保持什么样的秘密信息以便对算法来讲很难推断出竞争者在做什么事情。

在网络工业中,这也许证明是有问题的,因为它可能增加了消费者的成本。因此对于孵化器里的潜在的试验是定价仅通过不对称价格比较网站来传达(在那里消费者能很快地看到竞争者的价格,算法不能捕获定价信息),这种方法的风险是如果价格对比网站的市场力量增加,对买卖双方是有害的。为了减少透明度,政策制定者可以实行秘密打折制度或者对网上公布的信息强加限制。但这种政策有可能导致通过减少对消费者有用的信息量或者通过阻止快速调整价格以有效应对供需而限制竞争。

4、增加偏离的可能性

另外的抵制措施可能是通过促进进入、偏离者行为和偏离默示垄断协议的可能性来瞄准市场结构。

首先,我们探索一下通过促进偏离者的进入和减少规制进入障碍是否能破坏算法共谋的稳定性。算法孵化器能检验对于特殊的行业来说,一个企业的进入是否能足够破坏默示共谋的稳定性,之后还能检测出可以破坏多长时间。

另一种选择是在确保消费者有足够的有用信息(为了限制歧视)促成秘密协议。这种远离市场的协议能使企业利用和买家直接交流的手段削减市场价格。就像欧盟注意到的,市场需要足够的透明度允许协同的企业最大程度上监控其他公司是否偏离共谋价格,然后知道何时采取报复措施。透明度主要依赖市场交易在特定的市场如何发生。在评价市场透明度的程度时,关键因素是企业能从有用的信息中推算出其他公司的行为。执行威慑机制的速度与透明度的争议相关,如果在一定的耽搁之后仅能观察到竞争者的行动,那么采取报复措施也可能延迟,这可能影响到是否能足够地制止偏离。

算法共谋孵化器本来能检测出使散户购买者把他们的订单汇集成非经常、非可预测大订单,是否能产生出来自卖家算法的较好价格,结果却以巨大的利润回报给卖家,反而起到偏离共谋体制的目的。

5、算法设计的规制

政策制定者自然地能考虑制定限制算法设计方式的规则。如阿西莫夫的机器人学三定律的算法版本。如果我们制定的规则的目的是防止企业独立地促成反竞争的价格,规制措施可能禁止算法对需要维系默示共谋的特殊情况或市场变化做出反应。作为一个例子,算法能设计出不对价格的近期变化做出反应或者忽略其他个别公司的变化,但他们仍旧能解释企业中的平均价格。虽然这种解决方式不限制竞争,但它可能限制企业研发革新算法的能力。另外,规制算法设计也把监督企业是否有效遵守设计规则的重任加在了竞争执法机构的身上。

数字经济的近来发展挑战了反垄断立法和执法者依据已经确立的方法以达到保护竞争、保障市场信任和促进社会福祉的目的。现在实务届激烈讨论的最前沿问题是现代化商业模型中计算机算法普遍化的整合可能产生竞争法不可低估的风险。在不忽视自动化系统给我们带来巨大的便利之处时,应该密切关注算法在动态市场和动态竞争中所引发的默示共谋的不利后果。

基于算法多维度本质,反垄断立法者不能单独地应对如此复杂的局面,而应该和反垄断执法者、消费者保护机构、数据保护机构和在深度学习方面配备专家的计算机科学技术相关领域的规制者和组织进行密切的沟通和合作。在将来不管采取什么样的规制措施,都应该深度地评价和谨慎地采纳这些规制措施。

免责声明:本文系网络转载,版权归原作者所有。本文所用图片、文字如涉及作品版权问题,请联系删除!本文内容为原作者观点,并不代表本网站观点。
编辑:宋含怡
活动 直播间  | CIO智行社

分享到微信 ×

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

Baidu
map