“脸书”事件之后,你还敢随便点“测性格”么?
3月17日BBC的报道中,剑桥大学的心理学讲师Aleksandr Kogan通过一款用于科研目的的Facebook “心理测试”小程序app收集了约27万用户在Facebook上的数据记录,Facebook宣称Aleksandr Kogan后来将这些数据转手卖给了第三方,其中就包括“著名”的Cambridge Analytica公司。这家公司因为辅助“特朗普大选”和“英国脱欧”而名声大噪:他们通过选民的Facebook数据分析出他们的心理特点,进而有针对性地为特朗普投放竞选广告。随后几天,事件在媒体和网络上持续发酵,报道中遭到个人数据泄露的用户数量在不断放大,甚至有媒体宣称挖到了“通俄”线索,Facebook股价也随之大跌,一时众说纷纭,好不热闹。
在热闹与震惊背后,Facebook事件触及了在以社交网络为代表的大数据时代,人工智能该如何应用的几个关键问题。其实这几个问题最早是在近年的社交网络心理学研究中暴露出来,在学术界也已有若干讨论与共识。巧合的是,这次事件的起源恰恰有可能与对科研伦理的违背有关。下面我们来逐一分析。
我在社交网络上没有留下真实姓名、电话、身份证号、银行卡号等任何个人敏感信息,我的隐私还可能泄露吗?
我们在社交网络上的一举一动,都是我们性格特点与内心状态的某种反映。不需要我们在社交网络上直接写下“我是**性格的人”,只要我们对社交网络的日常使用积累到一定数量,科学家就能够运用人工智能技术,通过我们在社交网络上日常展示的信息来计算出我们的性格特点。这些心理特征可能对许多应用有重要的指导作用,比如可以根据用户的心理特征来推荐他感兴趣的内容,带来更佳的用户体验;又比如可以根据这些心理特征有针对性地投放广告,提高宣传的效果,而这正是Cambridge Analytica公司据称在2016美国大选中所做的事情。
利用人工智能技术算出某人心理特征的前提,是掌握了此人足够多的数据。人们可以在社交网络平台上为自己所展示的内容设定不同的私密等级,比如把有些内容设置为只有好友可见,这样一来,如果没有我们的授权,陌生人就不能获得这些数据。因此通常而言,在社交网络上获得大量用户的、足够准确计算其中每个人心理特征的数据,并不是一件容易的事。
为何Facebook会允许收集用户数据的app存在?社交网络的用户数据应当被允许利用吗?
社交网络上的第三方app为收集用户行为数据提供了重要渠道。这些app的一个共同特点,就是需要用户授权,授权app服务的提供者(比如本次事件中的Aleksandr Kogan团队)访问用户在社交网络上的各种行为记录。
为什么Facebook事件是一起丑闻?怎样利用这些数据才是可以接受的?
关键在于用户的授权与知情同意。
如果Aleksandr Kogan对用户声称只用于科研目的而获得了用户的授权,但之后卖给第三方做其他用途,则明显违背了科研伦理,应当为之承担责任。
在Aleksandr Kogan的最新声明中,他宣称曾向Facebook更新了对数据利用的说明,告知Facebook他收集的数据将不限于科研用途。如果Facebook得知出于科研目的获取的数据可能被用作他用,而没有及时采取有效措施,则也应当承担相应责任。
怎样避免类似事件再次发生?
网络的使用是大势所趋,我们不能因噎废食,因为存在这样的个人隐私泄露而废止社交网络。研究人员在利用公开的网络数据开展研究的过程中,一方面谨遵保密原则,不能把研究数据随意外泄;另一方面,利用这些数据形成的研究结果发表论文,更要确保读者无法根据发表论文中的内容溯源识别研究对象,也就是要确保研究对象的个人隐私。
原则上说,用于研究的数据应该只用于研究,而不应该将研究数据任意转介,尤其是有商业机构的参与,更是需谨慎处理。
如何让人工智能更好地造福于人,而不是带来烦恼甚至危险,这需要持续深入的讨论,并在实践中不断修正。
最后
现在关于Facebook的报道很多,结合最新的报道,觉得各有责任:
Kogan的责任在于通过好友网络,未获得好友的知情同意就抓取个人隐私信息;将这些本用于研究的数据转手商业公司;可能存在假借研究之名,实则为商业收集数据之嫌。
Facebook的责任在于系统上的漏洞,个人隐私信息可以通过好友抓取;在获得有关用户数据被滥用的报告后,没有及时采取措施追查数据的去向并强制销毁。
相关研究:
“无助、想死”的时候,TA会找你聊聊