行业资讯
如何不让算法“算计”消费者
中国青年报 | 来源:中国青年报 浏览次数:142 发布时间:2021年1月12日
摘要:

数字经济时代,看不见摸不到的算法时刻左右消费者的选择。

数字经济时代,看不见摸不到的算法时刻左右消费者的选择。

近年来,随着互联网平台经济的快速发展,从网络购物、交通出行、旅游住宿、订餐外卖到网络游戏等生活消费领域,都出现了大型的互联网平台企业。

一些平台通过大数据、人工智能等手段为消费者提供了更丰富的产品或服务,为社会创造了价值。

但与此同时,也存在一些侵害消费者权益行为:大数据杀熟、网络游戏抽奖概率不明、网络直播推送违反法律规定内容、刷好评隐差评……

这些问题的背后,是不公平的算法技术对消费者的“算计”。

在大数据杀熟上消费者需要集体救济机制

2020年,安徽省一家网络科技有限公司在一年内被大量消费者投诉,有关部门接到投诉举报953件。

其中,反映该公司在网络游戏抽奖概率及规则设置上存在问题的举报数量最多,占总数的40.8%。

安徽省消费者权益保护委员会在调查时发现,对于抽奖概率的合法合规问题并不好判断。当地消保委组织召开了市区两级市场监管部门、文旅部门、公安部门等相关部门的联合处理推进会,共同对这家公司存在的概率等问题进行调查核实。

因为对概率规则等问题缺乏专业的认定能力,找不到权威第三方机构进行认定,调查受到一定阻碍。

“这个问题目前也没有得到很好的解决。”在日前中国消费者协会(以下简称“中消协”)举办的网络消费领域算法规制与消费者保护座谈会上,安徽省消费者权益保护委员会秘书长丁涛正苦恼于如何找到解决办法。

抽奖概率的背后包含着一套算法的执行。中消协根据消费者投诉、有关调查和相关报道,归纳了六种当前网络领域涉及消费者权益的算法应用问题,包括推荐算法、价格算法、评价算法、排名算法、概率算法和流量算法。

其中,概率算法的问题体现在:一些线上经营者开展有奖销售、抽奖兑换,特别是部分网络游戏公司经常性推送游戏道具抽奖活动,虽然公示了中奖(掉落)概率,但是其算法程序不透明,实际中奖概率缺乏管控,屡遭消费者诟病。

在北京市消费者协会副秘书长陈凤翔看来,算法本质是互联网的一种编程技术,这种编程技术有一定的人为参与和输入,有的编程者不懂得法律,编制过程中侵害消费者权利。

北京计算机学会数字经济专委会秘书长王娟前不久在乘坐网约车时发现,当车辆驶进日常她很熟悉的路线时,网约车平台导航却给出一条又堵又长的路线。

中国政法大学副校长时建中也有类似遭遇,在他看来,平台导航给出一条绕远的行驶路线,算法背后存在某种动机,但消费者很难取证,有时也没有办法保存相关证据。

“大数据一旦杀熟,针对的是该种消费模式下的所有消费者,而不是针对具体的消费者。”时建中认为,在大数据杀熟问题上的消费者权益保护,更需要集体救济机制。

应针对有垄断行为的企业进行反制措施的算法研究

“十四五”规划中提出,改善消费环境,强化消费者权益保护。

在对外经济贸易大学法学院教授苏号朋看来,不公平的算法对消费者所造成的侵害,体现在三方面——公平交易权的侵害、选择权的侵害和知情权的侵害。

他认为,在特定领域,如侵害消费者权益的“二选一”问题、大数据杀熟问题上,可以通过加强对个案的监管,引导更多企业在算法领域提高消费者保护水平。

此外,算法在某种程度上看也是商家垄断的一种权利,可以考虑设置权限,从技术上让消费者有权关闭算法,并且将这样一种权利在法律中作出规定,从技术角度实现商家和消费者之间的平衡。

在清华大学法学院副院长、教授程啸看来,维护消费者权益,很多问题可以通过技术解决。如针对有市场垄断行为的企业,进行反制措施的算法研究,“用算法针对算法,算法之间就会产生相互的竞争关系,从而重塑市场竞争机制”。

对于侵害消费者权益的算法,他还建议,要采取事先预防措施。针对大数据杀熟、价格歧视类的问题,监管部门可以要求平台标识出对用户所显示的定价,是否为针对消费者个人推送的个性化定价。

北京工商大学法学院教授、商法研究中心主任吕来明指出,提高监管技术水平已经迫在眉睫。但对于算法的规制,是事前监管还是事中、事后监管,要不要进行伦理审查,目前社会上还存在分歧。

在他看来,首先应确立一个原则,在事前规范上或者事中规范上,对于算法的目标进行规制,同时要进行伦理审查。但也要对不同的算法,进行分层监管,从而确定不同的监管等级和尺度。

中消协指出,如果任由不公平的算法应用无序发展,一方面不利于市场经济的公平有序竞争,不利于经济可持续发展;另一方面也会使消费者面临数据算法压榨,成为技术欺凌的对象,甚至被算法扭曲价值取向和道德观念,沦为平台经营者的掌中“玩物”。

“算法应用不公针对的是普遍的社会大众,每个人都可能成为潜在的受害者。”中消协副秘书长栗元广提出,下一步应加强算法应用的有效规制。

“在个人信息保护法、反垄断法、反不正当竞争法、价格法等相关法律中,建议增加算法应用的相关规定。”栗元广建议,国家应设立算法伦理专门机构,负责算法应用伦理、规则、标准制定,不公平算法应用调查、处理等,并指定相关政府部门负责,加强对算法应用的有效监管。

同时,应明确经营者使用算法应做到可知、可查、可逆。一旦发生争议,负有向有关行政部门、司法机关、第三方机构提供算法、后台数据、相关资料及进行说明的义务,做到算法应用的可验证、可解释、可追责,强化算法实施方的举证责任,明确其伪造、篡改证据的责任和后果,解决消费者举证难、鉴定难的问题。

“要加强监管协作和机制建设。”栗元广指出,互联网领域算法应用十分广泛,建议有关行政部门加强相互协调,细化监管职责;完善执法依据,做好规章废改衔接;加强对算法应用的分级标识和分类管理,对涉及公共利益、生命健康、财产权利等的算法应用强化监管,对具有市场支配地位的平台经营者的算法应用强化监管,对涉及价值观、道德观,特别是未成年人教育的算法应用强化监管。

栗元广建议,应建立算法投诉审评机制,保障消费者和社会各界的投诉、监督权,“培育第三方技术鉴定机构,强化对算法应用的技术审核力量”。

同时,栗元广认为,有关司法机关应加强对算法应用案件的分析研究,推动出台有关司法解释,加强对算法应用问题的实质审查,通过司法判例强化对消费者权益的保护。

特别声明:
转载上述内容请注明出处并加链接。上述内容仅代表作者或发布者的观点,与中国电子商会官网的立场无关。如有任何疑问或了解更多,请与我们联系。电话:4008 900 668 邮箱:service@cecc.org.cn

中国电子商会 China electronics Chamber of Commerce
京ICP备13044805号
电话:010-68256762  E-mail:service@cecc.org.cn
Copyright CECC.org.cn All rights reserved
地址:北京市海淀区翠微中里15号楼