观点:一条需要遵守ESG的“狗”

时间:2022-07-28 16:54:35       来源:36氪

四足机器狗有什么用?


(资料图)

如今,智能仿生机器狗已经不算是十足新鲜的玩意儿,从电商上就可以买到。它可以陪你跑步、跳舞,或者帮你驮快递。

图: 波士顿动力的机器狗Spot的表演视频

在多数人眼中,机器狗还只是个昂贵的玩物,缺少“杀手级”的应用。

没料到,有人转念一想:真的让机器狗成为“杀手”又如何?

近日,这个背枪机器狗的视频在网上流传。视频中,一个改装后的民用机器狗背上驾着一支冲锋枪,执行着射击、巡逻等任务。

视频中很难确认射击场地的具体信息。不过,根据网友的考证,视频是由一个名叫Alexander Atamanov的人最先传到Youtube上的。Atamanov本人是个技术创业者,有俄罗斯和美国的居住史。

视频背景中的装甲车,为前苏联制BRDM-2A或BDRM-2M装甲车。枪的型号为俄制的PP-19-01“勇士”冲锋枪。

而机器狗的型号,非常像是宇树科技的Go1机器狗。该款机器狗在国内售价16000元,并且通过多个渠道向国外销售。

图: 宇树科技Go1机器狗来源:宇树科技官网

图: Atamanov在社交网络发布的背枪机器狗照片

如果网友分析属实的话,宇树科技被迫做了一回“军工产品”。

这肯定不是什么好事,是一个急需企业警惕的ESG风险。

01 ESG投资禁区

企业一旦真的成为军工供应商,很可能导致持ESG策略的投资机构撤资。这是因为,军工行业被ESG视为一个“争议行业”。

根据联合国责任投资原则组织(UNPRI,ESG的主要发起机构之一)的建议,ESG投资者应远离具有负面道德色彩的行业,例如军工、烟草、博彩、酒类、成人娱乐、化石能源等。

这些行业的特点主要是,它们产生社会/生态上的负价值,或依靠人性的弱点、成瘾性来盈利。

这并不是说,这些行业是全然“罪恶”的行业,但它们一定是存在争议的行业。争议,就意味着难以预测的非财务风险。

在操作中,通常ESG评级机构、ESG基金并不会简单粗暴地把军工、酒类、化石能源等行业全盘否定,而是在政策中更明确地定义自己的伦理诉求。

比如,ESG投资机构会在军工行业中区分国防工业和军火生意,认为后者是真正意义上的“负面行业”;而企业与军方进行安保方面的合作,属于正常的商业行为。

标普ESG指数出于禁枪的考虑,从指数中剔除了美国的民用枪支生产商。

再比如,酒类之所以被列为争议行业,是因为一些宗教信仰禁止饮酒或醉酒,于是持相应信仰的投资者就不愿投资酒类行业。而在中国的ESG投资领域,酒类行业的争议不大。

总之,ESG“争议行业”里面的是非纠葛更多,企业如果没有战略上的必要,应该避免牵涉其中。

02 制造“负责任机器人”

具体到“军用机器人”这个细分行业,ESG的态度又如何呢?

“军用机器人”在军事和国际法的术语上,称为“致命自主武器系统”(Lethal Autonomous Weapon Systems, LAWS)。

2017年,埃隆·马斯克和硅谷AI科学家穆斯塔法·苏莱曼(Mustafa Suleyman)曾率领116位行业科学家,呼吁联合国禁止各国进行“杀人机器人”的研发。当时还在世的斯蒂芬·霍金也参与了相关的宣传活动。

随后,也有国家(如比利时)开始立法禁止“杀人机器人”的研发。

人们把最终解决的希望,寄托在五年一度的联合国日内瓦《特定常规武器公约》(CCW)会议上。历史上,CCW会议禁掉了很多非人道的武器,包括汽油弹、集束炸弹等。

会议于2021年12月召开。会上,代表们还讨论到利比亚内战,这场战争中可能首次出现了死于机器人武器的死者。

令人惋惜的是,会议并未达成一致意见。各国已经在机器人武器研发上投入了大量资金,没有协商出一个国际统一的管控措施。

但国际社会对“杀人机器人”的抗争仍在继续。

ESG是一种重要的抗争方式。比如,晨星旗下的ESG评级机构Sustainalytics就表示,接受有关“杀人机器人”公司业务的举报,且会在全球资本市场对相关业务进行曝光和质询。

正如文章开篇的“持枪机器狗”案例,机器人企业可能会“被迫”成为机器人武器的“供应商”。

它们确实值得同情和理解,不过另一方面,从业者也可以参考现行的“负责任AI”、“负责任机器人”原则,积极处理智能产品的治理问题。

2019年6月,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》。文件提出了“负责任AI”的8个治理原则,值得相关从业者参考。

例如文件提出了“共担责任”原则,要求AI的研发者、使用者和其他相关方,应具有高度社会责任感,共同防范不法分子利用AI进行犯罪活动。

这一原则可以适用于“持枪机器狗”的案例。

03 如何应对“被军工”‍‍

例子中的宇树科技,是国内仿生机器人方面的领先创业公司。宇树科技也是世界上为数不多的实现机器狗商业化的企业之一。

著名的企业比如波士顿动力,其主力产品是Spot机器狗,售价高达74000美元。这一售价,或许构成了阻止产品被非法使用的真正壁垒。

而国内的宇树科技和小米( HK:01810 ),把仿生机器狗产品的售价压到了万元人民币的水平。其相对低廉的售价引起了国际市场的关注。

图: 小米出品的机器狗“铁蛋”

民用机器狗是智能时代的新产品,在商业化探索的同时,也需要探索履行社会责任、管控产品风险的新途径。

制造商虽然从初衷上希望科技行善,但难免要对产品的不道德使用,采取一些防范措施。

这些措施从被动到主动,包含多个层次。

首先,企业的态度要明确。

比如,波士顿动力在Spot机器狗产品使用说明中,规定了五类禁止的用途,包括“禁止故意使用本产品伤害、恐吓任何人或动物;禁止将本产品用作武器,或用于操控武器”。

在表明“禁止”态度的同时,企业也不能忘记“责任”的态度。

这方面,宇树科技的做法就值得商榷。公司机器狗产品的《免责声明》称:“使用者承诺仅出于正当目的使用本产品……宇树科技不承担因用户未按照本指引、《用户操作手册》使用产品所引发的一切损失及后果。”

这种“本公司概不负责”的立场,显然没有考虑到产品被用于非法目的的情况,也有违“共担责任”的原则。

企业可以采取更为积极的责任立场,声明对产品的非法用途、非官方军事用途的反对态度,并且采取措施阻止相关的使用。比如,企业可以改善产品设计,使之难以被改装。

在明确立场之后,企业可以进一步采取主动的产品治理措施。

04 丰田和波士顿动力的实践经验

这方面,丰田汽车( NYSE:TM )拥有一些实践经验。

丰田是世界第一大汽车生产商。丰田皮卡由于性能坚实可靠,适用于崎岖地形,尤其受到军队、国际组织、维和部队的青睐。

但另一方面,丰田也挡不住各种非法军事组织同样喜爱丰田皮卡。并且丰田皮卡容易进行军事化改装,频频在中东各地的军事冲突中露脸。

图: 乍得-利比亚冲突(又称“丰田战争”)中的丰田皮卡

对丰田的社会形象打击最大的是,它的皮卡经常出现在恐怖组织的影像里。

公司首先从销售环节采取措施,来消弱这部分负面形象。

丰田严格控制汽车产品在中东地区的销售,拒绝将汽车卖给可能将其用于军事目的、或对其进行军事化改装的客户。

2022年,丰田的新款Land Rover在日本发售之后,购车者收到的合同中还包含这样一份承诺书附件。

承诺书开宗明义,要求“客户同意此次交易不是以‘出口’和‘转卖’为目的的购买”;同时解释说,出口和转卖“可能导致全球安全方面的重大风险”。

这实质上是为了防止汽车通过非正规渠道落入非法军事组织手中。同时,丰田也要求经销商在严格的合规范围内销售公司产品。

此外,丰田还与各国政府合作,追踪车辆的全球流向,打击车辆的走私渠道。

波士顿动力作为重要的机器人研发商,也在为产品的ESG风险寻求对策。

在机器狗Spot刚刚推出不久,马萨诸塞州警局就引进了一只Spot,装备在防爆小队,开始与警察配合进行拆弹方面的演练。

图: 马萨诸塞州警局训练Spot打开房门

这还是引发了居民的反对。一些民间组织指出,警方应该公布Spot的执法原则,确保Spot在执法中保护公民的各项合法权益。

当然,这一要求不是马萨诸塞州警局能做到的,甚至也不是波士顿动力能做到的。它需要系统地改革人类政治制度,确保机器人按照人类的道德行事。

波士顿动力只能在力所能及的范围内做出改进。

业务发展副总裁Michael Perry指出,公司在考虑采用租赁的方式来实现机器狗的商用落地。

这样,公司能够把机器狗的所有权握在自己手里,对产品保持更严密的控制。一旦发现误用,就立即收回。

05 总结与启示

总结起来,“持枪机器狗”的案例,在ESG“争议行业”方面带给我们启示是:

如果企业没有在战略上笃定进入所谓的“争议行业”,那么还是在产品治理和公关管理上多加注意,与这些行业保持距离,防范相应的风险。

这要求企业不断更新对自身产品责任的认识,并制定与时俱进的策略。

具体到机器人的研发,企业或许也难以预料产品将以怎样的方式被社会接受,是否会以合法的方式被使用。毕竟,新技术产品的责任治理,正在超出企业的能力范围。

新科技的ESG治理,需要企业发挥社会责任方面的创造力,并且寻求各个利益相关方的合作。这些利益相关方包括政府、社会机构,也包括持ESG理念的资管机构。

也正是如此,在智能产品治理的探索中担任领导力量,也将成为企业的一种优势。

关键词: 杀人机器人 马萨诸塞