大数据63

算法,曾被描述为一件相当温和的事情――计算过程明确,步骤可控,结果一目了然。近年来,算法通常与大数据结合,通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系,进行自动化推荐。搜索引擎中的网页呈现,电子商务中的商品推荐,社交网络中“你可能认识的好友”,内容推荐引擎中的新闻推荐等,都是算法应用的丰富场景。

然而,算法的广泛应用也引发一些问题。不久前,英国伯明翰地方警局表示正在研发一套名为“国家数据分析方案”的系统,旨在通过对居民个人数据资料的分析,预测公民的“犯罪指数”,引导警方提前干预。尽管警方一再强调不会仅根据风险指数就进行逮捕,但这个消息还是引发了广泛争议。

由于算法具有技术门槛,很多时候出现问题难以追责,造成伤害无从补偿。如何让数据分析系统自证其算法“公平有效”,这是人们十分关心的问题,也是一道现实难题。2015年,美国芝加哥法院使用的犯罪风险评估算法就被证明对黑人造成了系统性歧视:黑人更有可能被这个系统错误地标记为具有高犯罪风险,从而被法官判处更长的刑期。另外,数百万人由于该算法无法获得保险、贷款和租房等服务,如同被算法“囚禁”。美国皮尤研究中心发布的《公众对计算机算法的态度》报告则显示,58%的受访者认为,算法和其他计算机程序总会包含偏见。

显然,算法的设计、目的、数据使用等都是设计开发者的主观选择,其主观偏见有可能被嵌入算法系统。数据的有效性和准确性,也会影响整个算法决策和预测的准确性。正是由于设计偏向、数据缺陷,再加上无法公开透明的“算法黑箱”,使得算法过滤、算法偏见、算法歧视和算法操控的情况屡屡发生。近几年,全球互联网平台纷纷开发智能推荐系统,大多数都是根据用户使用痕迹进行关联推荐。算法越智能,越能使用户被“安排”进所谓“信息茧房”,即陷入为其量身定制的信息之中。久而久之,用户处于信息“自我禁锢”困境,从而失去了解更大范围事物的机会。其后果,有可能就是导致人们视野日趋偏狭,思想日趋封闭、僵化甚至极化。

大数据背景下,解决算法智能带来的麻烦已是不可回避的课题。越来越多人提出着手研究算法治理的主张,虽然注定是十分艰巨的事情,但也当属值得迈出的一步。

相关阅读:

人工智能以及大数据将这样改变生活  

大数据“云惩戒”破解“信用惩戒难”  

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2019-01-07 19:37:14
大数据资讯 【预见】中国移动集中化大数据平台起航了,意义深远!
“2018年12月29日,这一年的最后一个工作日,中国移动通信集团信息技术公司在大数据领域取得了18年度重要的压轴性成果—西藏、宁夏、天津三省正式入驻集中化大数据平台—也 <详情>
2019-01-07 13:55:00
大数据 医疗行业用好大数据和AI 能“赚”10万亿美元!
想让大数据和AI在医疗系统中充分发挥潜力,面临哪些挑战?大数据和人工智能医疗前景有多大?“天下好医”一文带你了解。 <详情>
2019-01-07 13:53:32
大数据 李奇霖:大数据盘点银行理财
银行理财从2004年第一只“阳光理财A计划”面世之后,经过十几年的快速发展,成为中国式“影子银行”的老大。 <详情>
2019-01-07 11:50:42
大数据应用 大力发展沙产业和大数据产业 中卫变黄沙戈壁为创新发展新热土
中卫市向沙漠要产出,向戈壁要效益,通过治理沙漠、发展沙产业和大数据产业,将黄沙戈壁变为创新发展新热土,其做法被列为国务院第五次大督查发现的宁夏4个典型经验做法之 <详情>
2019-01-07 11:33:54
大数据资讯 大数据包围下的2019:中国战略该如何选择?
大数据,或称巨量资料,是指所涉及的资料量规模巨大,以致无法通过目前主流软件工具在合理时间内撷取、管理、处理并整理成为帮助企业达致经营决策目的的资讯。大数据技术不 <详情>