社交媒体的个性化推荐资讯让你欲罢不能？个性化推荐购物让你的钱包不知不觉瘪光光？网络后台的“个性化推荐算法”似乎正在牢牢地掌控着人们的时间、钱包、激发人们的消费欲望？这到底是好事还是坏事？

6月25日，美国参议院通信、技术、创新和互联网小组委员会召开了一场听证会，目的是帮助参议员们理解人工智能技术并讨论立法。

小组主席、共和党参议员图恩（John Thune）在听证会上表示：“召开这次听证会的目的之一，是为我正在进行的立法工作提供信息。该法律要求互联网平台为消费者提供选择权，使消费者可以规避（企业）用其个人数据训练出的算法。”

换句话说，美国参院共和党第二号人物正考虑用法律手段赋予消费者拒绝个性化内容推送的权利。而这将对科技公司的广告和营利模式带来颠覆性的影响。

图恩说：“这些平台旨在提高用户参与度和用户粘性的强大机制，可以影响数十亿人的思想和行为。国会需要确保企业有创新的自由，但更要确保消费者的利益和福祉始终是进步的核心。”

他还表示：“消费者应该有不被（经个人数据驱动的）算法所操纵的权利。特别是如果这些算法对普通用户来说完全不透明的话。”

彭博新闻社评论表示，图恩的言论代表了美国国会对大型科技企业影响的新关注点，那就是算法。

在人工智能机器学习的语境中，算法是指在数据基础上用计算机语言编写的用于自动化决策的逻辑表达式。

听证会上的专家之一哈里斯（Tristan Harris）表示：“你在这些网络生态系统中花费的时间越长，机器学习就越能根据用户的喜好优化算法。”案例表明，这种“优化”和人们所设想的结果相去甚远。

曾在谷歌工作的哈里斯举例说：“算法可以知道给你看什么内容才能得到最高的用户参与度。结果是愤怒，尤其是道德上的愤怒。研究发现，你在推文中每添加一个义愤填膺的词汇，转发率就提高17%。换句话说，社会的两极分化实际上是商业模式的一部分。”

哈里斯。图片来源：TED

算法不仅在用户参与和粘合度上不断优化，更会使用户删除应用变得越发艰难。

哈里斯说，如果人们想删除自己的Facebook账户，系统会自动提示“你确定要删除你的Facebook账户吗？下面的朋友会想念你”。而这时候算法正在做什么呢？它正在计算哪五张脸最有可能让你点击“取消”键。

科技媒体Gizmodo报道说，当天最惊世骇俗的评论来源于蒙大拿州参议员泰斯特（Jon Tester）。也许是对算法的负面效应过于吃惊，这位参议员说：“要是有一天人工智能搞成这样的话（this shit comes to fruition），我想我死了也是一种幸运”。

事实上，这并不是美国的国会议员们第一次尝试对人工智能算法作出规制。4月10日，美国民主党参议员布克（Cory Booker）和怀登（Ron Wyden）联合提出了《2019算法问责制法案》（Algorithmic Accountability Act of 2019），试图对机器学习中的偏见和个人敏感信息问题进行约束。对人工智能的负面性进行约束似乎正在逐渐成为美国国会两党共识。

在计算机行业拥有40余年从业经验的专家沃尔弗拉姆（Stephen Wolfram）在听证会上表示，除了企业和社会因素以外，人工智能算法有根深蒂固的科学性问题，且是行业共识。例如数据可推断性（Data Deducibility）、计算不可划归性（Computational Irreducibility）、不可解释性（Non-explainability）和伦理不全性（Ethical Incompleteness）等等。

沃尔弗拉姆认为，目前这些问题都不是算法本身可以解决的。所以他的建议之一是根据自动化内容推送的过程对科技企业进行拆分和限制。