OBT商业科技观察

密码学开始讲“道德”?他们要重塑学科文化

     每年8月国际密码研究协会举办的密码会议有一个亮点节目是“特约谈话”:抽出一个小时,邀请业界一位杰出的学者分享一个关于协议、算法和数学问题的伟大想法或新观点,这些问题是尖端加密应用的基石。通常,这会是一场技术性很强的狂欢节目,但今年的节目很特别。布朗大学密码学家塞纳·卡马拉在公式和定理之外,还提出了新想法。

"我在这里做什么?"卡马拉问现场观众。“如果不谈论技术问题,为什么我要在密码会议上做演讲?但是,我来到这里,还因为艾哈迈德·阿贝瑞在2月份被杀,因为布莱翁纳·泰勒在3月份被一名警察杀害,因为乔治·弗洛伊德也在5月份被警察杀害。”

8月19日,他做了一场名为“为人民加密”的演讲,探讨了谁真正受益于加密技术和加密研究进展问题。


密码学研究为谁服务?

“为人民加密”,这听起来像是在呼吁业界重新审视”如今在很大程度上服务于政府和企业利益的密码学研究,而不是服务于边缘化人群,无论他们是少数民族、移民、女性、LGBTQ群体,还是其他人”。

作为一名移民和美国黑人——也是世界上为数不多的黑人学术密码学家之一,卡马拉指出,即使是开源社区和像赛弗朋克这样的运动,在很大程度上也不能直接满足这些需求。他们专注于从企业手中夺取权力,开发技术来保护人们免受大规模政府监视和数字入侵,但通常不会开发加密技术和抽象理论的新领域,这些新领域是由服务不足的社区需求所特别推动的。

卡马拉表示:“我在密码学和计算机科学领域学习和工作了大约20年,我一直很清楚,我自己的工作、别人的工作与我们的生活经历是脱节的。这可能会对人们的整体隐私造成影响,在我13岁或15岁、在纽约市长大的时候,我不会在意这些事情。但这种脱节一直困扰着我。”

如此多的密码学研究是关于抽象的和数学方面的——脱离现实世界的条件——以至于简单地让所有的探索只存在于那个理论空间,这是相对容易的。卡马拉认为,即使加密技术被带入服务不足的社区,它们也是从其他研究项目中改造而来的,而不是基于弱势群体的需求和他们面临的具体威胁而设计的。

“存在于边缘化群体的特有问题和对抗模式,这些问题没有获得调查研究。”

布朗大学塞纳·卡马拉

纽约大学宏观经济学研究员阿卜杜拉耶·恩迪亚耶(Abdoulaye Ndiaye)在Twitter上发现了卡马拉的秘密谈话。他说:“作为研究政策问题的学者,我们在研究拨款申请等方面的工作时,总是主张拨款给某种程度上有利于人民的研究。然而,我们研究的消费者是其他学术机构、政府机构,以及在某些领域的企业。这是一个潜在的假设,即这些实体将实施这项研究,并且这项研究将渗透到得不到充分服务的人群中”。Kamara博士强调,在密码学领域,政府和企业的激励措施不一定与服务水平低下的人群相一致,这是涓滴效应中缺失的一环。

加密技术确实为世界各地的弱势群体提供了保护,如政治异见人士、活动家和记者。然而,卡马拉的演讲说明了一个事实,即专门构建的加密技术可以完成更多的工作。

例如,在他自己于布朗大学的研究中,卡马拉和他的同事们在美国执法数据库的激励下完成了一些工作,这些数据库可以追踪像帮派成员这样的犯罪嫌疑人。例如,在2015年对加州一个名为CalGang的平台的审计中,进入数据库的42人的年龄都在1岁以下。在来自数据库的100个样本中,被代表的人中有13个根本不应该出现在数据库中,并且针对100个人使用的563个证据点中有131个不被支持。

因此,卡马拉一直致力于开发安全的数据库方案,在该方案中,数据可以被私下、透明地审计和检查,不允许数据被导出或复制,并且在给定时间后自动删除条目,无需像法官这样的权威机构的特别授权。

卡马拉说:“在传统加密技术和隐私之间有一个交叉点,我称之为‘为人民加密’。有研究、有工具,可以有益于大部分人,如加密信息应用信号。但是也有边缘化群体特有的问题和对抗模式,这些问题没有获得调查研究。例如,并非所有人都进入了帮派数据库,当然也很少有密码学家或学术计算机科学研究人员进入帮派数据库。”

卡马拉还主张借助他终身教授职位的影响力,来拓展密码研究的范围——包括他自己的演讲。他说:“到目前为止,业界反应非常积极。肯定还有很多人不同意,不喜欢这个谈话,但迄今为止,他们还没有人反对。”


密码学中的伦理道德问题

密码学中由来已久的道德问题很少被提到前台,甚至在学术界内部也是如此。在爱德华·斯诺登2013年揭露国家安全局的大规模数字监控之后,尤其是在加州大学戴维斯分校(UC Davis)密码学家菲利普·罗加威(Phillip Rogaway)2015年发表了一篇具有开创性的论文之后,这种讨论开始爆发。该论文认为,密码学是“一种内在的政治工具”,具有“内在的道德层面。”

罗加威写道:“我呼吁重塑我们的学科文化,不仅要关注谜题和数学,还要关注我们工作的社会影响。”

五年后,他没有看到大多数密码学家正在做的研究或他们在会议上讨论的话题有多少变化。但他补充说,他对卡马拉的讲话以及推进对话所采取的步骤印象深刻。他说,罗加威在2015年写的文章,现在将不仅包括保护大众免受大规模监控的道德需要的讨论,还恳求学术界将更多的工作重点放在为边缘化群体服务上。

罗加韦表示:“我们不是在真空中工作,我们也不是纯粹的数学家。尽管某些密码学家希望看到自己在某种探索中从事纯数学研究,但这并不是对我们现状的恰当描述。这个领域确实有这些非常强大的政治联系和权力联系。如果我们只是说,‘哦,那不是我的领域,’这本身就是一个真正的政治立场,一个历史观点,最终相当精英。”

如今,部分由于社交网络和通信平台上反滥用工作的迅速扩大,隐私技术中的伦理要求已经成为主流。但是密码学中的大部分实际工作仍然是抽象的。确实存在的实际应用,通常源于狭窄的视野。

专注于反滥用和隐私的密码学家和安全工程师Lea Kissner在一系列关于卡马拉言论的推文中写道:“构建你一直在做的东西,但声称它是为处于边缘社区的人设计的,这与‘以人为中心的威胁建模’是两码事。”

卡马拉所描述的那种量身定制的、针对具体威胁的研究,需要深入了解边缘化群体的实际、微妙的需求。卡马拉在他的演讲中强调,如果密码学社区想要帮助弱势群体,就需要更具包容性和代表性。研究人员需要寻求第一手的专业知识,以便逐案深入了解。

“我们难以想象这种情况的唯一原因是,事实上,我们已经接受了40年的企业研究培训,”卡马拉说:“所以我们缺乏想象力、技能和知识来‘为人民’做研究。但多样性至关重要。”

在布莱娜·泰勒、乔治·弗洛伊德和雅各布·布莱克被枪杀后,卡马拉说,密码学家和其他计算机科学家已经和他联系,讨论可以通过技术解决方案来帮助减少警察暴力的系统性变化。卡马拉表示,他欢迎这些讨论,“但是这些人中的大多数人从来没有被警察袭击过。他们不理解当五个警察向你跑来时你所承受的心理压力和你所经历的困惑。这些细节很重要。”

这需要进行严格的价值分析,每一个金融科技的动作都要回到ROE、创造价值,看能不能给股东、银行和社会创造价值,可以用杜邦分析方法,时间关系不仔细展开。

【本文来源于英文版wired】