算法黑箱

随着算法的复杂性不断增强,不可避免地会产生以技术形态出现的“算法黑箱”， 人工智能做出的决策日益影响着人类生活和社会发展,然而其代码设计和运作逻辑却日益神秘化。互联网连接一一切的技术特质在很大程度上解决了生产资料之间的信息不对称,而作为信息中介的人工智能却变得不透明,成为信息技术时代的新型黑箱。

技术黑箱的存在,意味着网络平台上生产性资源的配置、用户行为更多的受到互联网公司内部规则的规制,而非国家法律。

商业性歧视

算法日益将某种交易或服务代码化,技术理性带来商业性歧视这一系统性风险。未能积累个人信息的主体，即所谓的数据穷人( data-poor) , 将被排除在更多的商业服务之中，尤其是当某一服务的信用评分和更多的服务结合起来的时候。例如支付宝在推出校园圈子这一功能之时，规定芝麻信用达到750分以上的用户方能评论。另一方面，算法精确地根据各类信息识别社会主体的各类身份，并将他们困在各自数据产生的茧房之中，这不仅造成了人们在消费机会上的不平等，也会给公共生活带来分裂的潜在隐忧。

人工智能的系统需要大量的数据集进行训练，为了避免数据缺失而带来偏见的影响，须确保数据的全面性。目前大数据仍然不是“全”数据，用户不同的行为数据掌握在不同的互联网巨头手中。

转自：“新传记忆面包”微信公众号

如有侵权，请联系本站删除！