企业使命和人工智能的未来,第二部分

T他过去几年快速增长的发展和扩张数字平台和人工智能领域的数据科学伦理。数字平台属于一些世界上最大的科技公司,统称为一组大型科技股:字母(谷歌),亚马逊,苹果,元(脸谱网),微软。

通过数字平台,大型科技股increasingly调节和影响我们购买的产品,我们使用的服务和娱乐我们消费。这些上市公司网络创建全球数字平台和数据共享基础设施平台生态系统前所未有的规模、社会影响和经济价值。为读者好奇数字平台如何利用的原则行为主义心理学和强化学习基于个性化修改人类用户的“环境”,明白了我的一部分企业使命系列。

因为对上市公司依靠公共金融市场来获得更多的资金,为未来的项目,他们最终必须能够响应全球的wealth-seeking要求股东和债券持有人,他们所谓的剩余索取人。由此产生的法律因素约束的推理和行为公司和对我们的道德评价他们的行为方式产生影响,特别是操作数字平台,如谷歌、亚马逊和脸谱。我尤其担心工具理性的企业部署工具理性RL代理没有监督。

注意,关于法律约束和工具理性的许多问题也适用于私人股本和风险资本,正越来越多地用于燃料早期新科技公司的增长。

大型科技公司在推动人工智能研究中,扮演越来越重要的角色分配政治新闻,教育公民,公共卫生和传播信息。这些后者功能与正式系统传统上由公共机构和政府的道德和政治责任。

尽管记者经常谴责大科技的垄断行为,我想关注一个稍微不同的问题。企业拥有平台逐渐成为数字千斤顶的交易,一个问:个人和社会真正受益于这样的安排吗?考虑到他们新发现的及在现代生活中,是什么和应该是全球化公司的角色在我们的社会?

在一个一系列有影响力的论文在企业社会责任、商业伦理学家圭多宫殿和安德烈亚斯•谢勒认为,全球化需要新的道德理由公司的巨大的社会角色。这些道德理由必须超越务实增加便利或生产效率的原因。此外,考虑到企业经营的全球化,他们必须在各民族国家和文化吸引人。也就是说,他们还必须考虑价值多元主义:合理的事实来自不同文化背景的人可能有冲突的观念好。

宫殿和谢勒提出参与式,公共领域民主的讨论来表达道德原因证明全球公司的新发现的社会角色和责任。一旦这种民主机制,像谷歌和Facebook这样的公司真的可以谈论做“数据科学对社会好。”

数字平台和人工智能技术开发和拥有的企业在于复杂的嵌套和相辅相成的社会结构。

股东与公司的关系也将在企业和合同法和执行法院判决,它们本身的发展普通法的先例。当然,法官都是政治领导人任命的,或在某些情况下,由选民直接选举产生。最后,伦理性考量证明选票,如何以及在什么年龄。伦理性考量至关重要的是提供规范合法性的政治进程的结果。我们都同意腊肠犬不投票,他们的政治观点,但是可爱的他们,在道德上无关紧要。现在,至少。

上面的图表说明了企业拥有的嵌套自然数字平台,开辟新的合法性在不同层次的问题。虽然我们经常想当然地认为企业结构,在现实中,新自由主义理论强调,它需要一个复杂的和健全的法律和政治体系为了茁壮成长。例如,在经济体制层面,capitalism是指私有生产资料。在资本主义制度,公司需要一定的机构和概念存在。私有财产的概念是必要的。合同必须进入,由法院强制执行。合并规则必须由立法机构起草,等等。

资本主义作为一个经济系统,本身依赖于一个更大的政治背景和基本理论。政治理论是实现政治规则和程序,把规范行使政治权力的合法性,即民主选举的总统。这些民主程序是合理的,例如,道德值平等、公正和透明。,在原则比如,“一人一票”法治,这使得公民只有那些公开颁布的法律责任。

每一层都有自己的理由和各级可能有冲突,特别是在不稳定的社会制度。这些理由底在哪里?我跟随维特根斯坦相信系统的道德——事实上正式系统本身最终基于任意形式的生命,“不是终极真理或宏大叙事。

数字平台结合利益驱动组织的概念与AI / ML-based自动化。AI系统,我的意思是系统数字平台旨在生成个性化推荐使用的形式和算法强化学习(RL)。

虽然自动化决策似乎是一个自然的方式来实现更有效的资源分配在社会,数字平台概念是伦理有关。为什么?因为它结合了粗略的道德记录两件事:AI系统和被称为一个虚构的法律实体公司。虽然肯定擅长高效地生产产品和服务,企业也有历史:

奇怪的是,这两个RL-agents和企业遭受道德缺陷由于他们狭隘的工具理性管理他们的行为。我们可以从RL-agents因此预计类似的伦理问题由企业部署代理。更糟的是,结合这两个工具理性的代理人可能比单独通过数字平台。

为了更好地理解为什么大型科技公司的行为是如此有争议(导致法律一样欧盟GDPR),它有助于在脑子里的一个公司到底是什么。这是默认的MBA视图。

公司的人是一个法制建设,旨在解决问题独立调节的目标不同股东的利益。它们形成时组自然人同意“合并”和池资源以实现一个共同的目标。因此我们总是听到正统经济学家讲现代公司的合同关系合理利己主义的政党之间的分布在时间和空间。

美国公司法以一个经济的角度看,假定企业的决策是在服务完成的合理利己主义的股东的偏好更高的市场价值。股东权利是为了确保企业管理者尊重股东的“主要利益”,实现最大的投资回报。公司经理说有一个“受托责任”股东采取行动的方式最有利于他们的财务利益。至少在理论上,经理代理受合同执行的命令主要的股东。甚至慈善捐款的企业必须是有限的和支持长期财富最大化的目标。

公司,作为一个合法建造集体决策机构,享有一定的经济利益的法律和正式结构。公司的创建,将个人的其他各方利益,创造一个债券和培养公司内部的信任,使内部交易成本更低比涉及外部市场。此外,公司允许的行为资本附近的无限数量的不同的股东集中,把一个奇异的目标。例如,有限责任公司的股东意味着个人只能失去他们所拥有的个人投资的合资企业。然而有限责任还可以创建一个场景的道德风险投资者比他们应该承担更多的风险,因为他们只负责一部分的缺点。

这是公司的另一个视图。在一个有影响力的文章,哲学家约翰·拉德认为,企业正式的组织。他们是基本上goal-pursuing机器的功能部分是由个体组成的演员。组织理论家和艾城的先驱赫伯特西蒙同意,把正式组织是“决策结构。”

从形而上学的角度讲,企业不同于其他集体,如家庭。虽然个人数据科学家或股东可能在集体行动,行动是归因于组织,而不是个人构成。员工在一个公司可以解雇和返聘不改变企业的身份。这与家庭相比较。个别成员的身份是不可替代的,你的家人就不再是你的家人当你切换奶奶与疯狂的老太太在你楼上的公寓里。

公司是看不见的,但是真正的在某种意义上是有原因地有效。这听起来可能有些奇怪,但这是人类独有的能力应对的结果规范法律就像身体的。举个例子,你可能会有人保护你的战斗荣誉。荣誉如果不是一个无形的概念是什么在你的脑海中,然而有原因地解释你的行为呢?

考虑这一点。你可以身体踢一个建筑或一张桌子在公司总部,但你会努力,你不能踢一个公司。这是因为他们存在于我们的集体思想当某些机构的法律和政治合法性声明它们存在于我们的社会现实。如果定义一个函数在一个Python脚本,我们让现实如此,宣布我们判断函数的“正确性”的因果效力在解决我们的问题。

哲学家约翰塞尔调用这些规范行为”声明言语行为”的合法性是基于“状态函数“我们作为一个社会同意把选择的机构。例如,当一个牧师在正确的设置说“我现在宣布你们成为夫妻”你从而成为结婚了。他的言语行为创造了它所代表的现实。

公司为了实现特定的存在,法律效力周前我们目标,通常在其宪章拼出。作为纯粹的虚构的法律实体,然而,企业受制于他们的组织结构和美国公司法在工具理性的行为的方式。拉德认为,这种正式的组织结构列出了语言游戏定义什么是一个正式的组织。任何不适合意味着最终工具理性不能进入决策过程,通过定义。

工具理性或理由是什么?工具理性是选择技术手段最有利于法律所施加的利润最大化。作为赫伯特西蒙解释说,

什么是作为一个纯粹的工具理性的道德影响代理商吗?受到正式组织结构,公司不能因此被视为道德代理人。借鉴康德拉德称,公司不能运动道德自由因为他们可以原因只有手段,而不是最终目的。因此他们缺乏道德责任的能力。虽然我们可能在正常话语指责或赞扬的行为公司如果他们能采取行动否则,我们是犯了张冠李戴的错误。

所以存在的公司就像一个不道德的弗兰肯斯坦边界以外的人类道德共同体,必须放在和正式或法律约束其行为,如果我们希望保持安全。

这听起来像什么价值定位问题在RL吗?

公司正式代理在抽象的意义上,他们感知的州(收集输入数据)环境通过传感器和行为(决策、执行操作)通过致动器和这样做修改(计算)环境-我们的社会。数字平台为企业提供技术基础设施来执行在数字环境中感知和行动。

令人担忧的是,这两个RL-agents和企业受仪器推理的局限性是由于他们的基础数值优化预先确定目标函数。预先确定目标公司的最大利润或股东财富了美国公司法所要求的。RL-agents在数字平台上也同样肩负着累积折扣回报最大化作为自己的目标。

如上所述,作者等尼克·博斯特罗姆,工具理性可以导致RL-agents矛盾的非理性行为。重要的理论家马克斯•霍克描述了工具理性的

工具理性也可以解释企业贪婪。最近的泄漏的潘多拉的论文揭示了超级富豪如何把大量的金钱藏在避税天堂世界各地利用空壳公司和信托隐藏他们的身份。利润最大化的工具性目标诱导许多大公司采取行为的政策似乎道德败坏人类公民。但是法律力量的手中。股东的合法权利起诉董事会,如果他们相信他们已经在执行他们的职责疏忽的财富最大化。工具理性和carrot-stick所有行为心理学。

就像一些美国公民生气主要科技公司不支付其应缴的税款,数据和AI伦理学家担心的数字“环境”影响工具优化基于行为的奖励功能参与——包括离线的潜力“泄漏”的政治制度和心理健康。经济学家把这些影响的原因外部性,但它们的代谢废物经济主体的企业。

但是,也许我们都只是把我们的期望太高。也许错不在于公司结构本身,而是我们想象方式的企业道德情感的人。

现代企业投入巨大的资源为品牌和营销活动。为什么?这样创建代理这些经济主体的个性和培养与消费者情感纽带,雇主,和监管机构。认为Facebook的口号”把世界更紧密地联系在一起麦当劳”,或者“我就喜欢。“更多的嘲讽意味的是,人们称之为一种战略操纵的经济代理更好的实现其目标。

不同的企业发展不同的“文化”,“政策”,和“业务流程”的独特的环境。更成功的通过试验和错误学习采取更有效的行动给美国的商业环境。他们的行为政策的有效性的定义是相对于一个目标函数。在公司的情况下,法律定义了目标函数。旁注:特拉华州公司法一直在有影响力的定义公司的目的。特拉华州的小国拥有o100万年版本业务实体和66%的财富500强企业。相比之下,对于数字平台,数据科学家指定奖励函数,让它与企业目标函数。成功RL-agents和企业学习独特的“个性”或行为的政策,帮助他们“控制”他们的特定环境和最大的回报/利润积累。

奇怪的是,美国法律倾向于阅读宪法的某些方面申请公司及自然人。汤姆·哈特曼解释说,美国最高法院支持的应用第十四条修正案企业和自然人。公司现在可以索赔的自然人在美国宪法的权利,如言论自由。所以我们给予公司许多民权尽管他们既不是道德代理人/病人也不是有意识的实体(尽管单独由聚合有意识的人)。

企业品牌进一步鼓励法人与自然人的错误的类比。如果企业和自然人一样,似乎自然责任或——要表扬他们有意的立场并赋予他们各种有意的州如信仰,希望,和欲望来理解他们的行为。但在这一过程中,我们容易被操纵,如果我们不仔细思考。

举个例子Facebook的“道歉”为人工智能标记的照片如何黑人“灵长类动物。”Facebook已经学会散发出道歉的行为壳来实现的战略目标恢复信任和社会和谐,这是一个国家相关的商业环境有很多未来的利润。这些外部动作只是人类可理解的副作用有目的的试验和错误的追求更大的投资回报。

Facebook的公司道歉因此奸诈。Facebook本身没有经验有意的州定义的恐惧和痛苦的经历道歉,给它道德价值(我们倾向于惩罚那些宣布他们的罪恶感更少)。没有是什么样子的Facebook体验后悔、内疚或耻辱,只有真诚的歉意的经验数据科学家、经理和董事会成员。

别误会我。公司偶尔在道德上值得称赞的行为方式,即使我们犯了张冠李戴的错误在赞扬他们。例如,鸿海和台积电,两个世界上最大的电子/芯片制造商,捐赠1000万剂COVID-19疫苗帮助疫苗接种在台湾工作。

但即使理性自利的经济人将展示什么出现是altruistically-motivated行为如果是他们的长期生存所必需的。经过仔细观察,这种利他行为选择的长期效用,不是出于任何内部罪责感,悔恨,或仁慈。

企业无疑提高了材料数百万世界各地的生活标准,但这些好处的分布不均匀。的爆炸避税天堂和离岸金融中心英国殖民地自治化后并没有帮助。尽管取得了一些进步,政治理论家认为提高的生活标准是不够的自动证明公司爬到之前的生活领域参加由国家演员。国家,不像现代全球公司,可以点实质性的道德和政治理由底层社会力量。

相当于道德理由大型科技股社会力量的数字平台?