取消
搜索历史
热搜词
原创
活动
转型理念
ENI专访
当前位置:首页 >文章发布 > 正文
数字时代,机器与人的新关系
来源:ENI经济和信息化网  作者: 王泽麒 2024-08-02 13:55:00
自工业革命以来,机器逐步成为社会生产力的主角,随着持续的技术进步,机器的自动化和智能化的持续升级,在生产和生活中,机器发挥着越来越重要的作用,不仅可以承担人类如法胜任的工作,甚至开始涌现出类人的智慧,一般称它们为机器人,从商场、酒店、家庭到工厂,越来越多。

自工业革命以来,机器逐步成为社会生产力的主角,随着持续的技术进步,机器的自动化和智能化的持续升级,在生产和生活中,机器发挥着越来越重要的作用,不仅可以承担人类如法胜任的工作,甚至开始涌现出类人的智慧,一般称它们为机器人,从商场、酒店、家庭到工厂,越来越多。

当前是数字时代的前夜,人们对于机器与人的关系有了新的欣喜、焦虑和期待。机器人从有形到无形,人工智能开始弥漫在我们身边的方方面面,确定的会是什么?不确定性的又有哪些?

我们的关切自此而来!

机器人(Robot)一词来源于捷克斯洛伐克作家卡雷尔·萨佩克于 1921 年创作的名为《罗萨姆万能机器人》的剧本。

在剧本中,萨佩克把在罗萨姆万能机器人公司生产劳动的那些家伙取名为“Robot”(汉语音译为“罗伯特”),其意为“不知疲倦地劳动”。萨佩克把机器人定义为服务于人类的家伙。后来,机器人一词频繁出现在现代科幻小说和电影中。

随着现代科技的不断前进,机器人这一概念逐步演变成现实。在现代工业的发展过程中,机器人逐渐融合了机械、电子、运动、动力、控制、传感检测、计算技术等多门学科,成为现代科技发展极为重要的组成部分。

虽然机器人面世已有几十年的时间,但仍然没有一个统一的定义。其原因之一就是机器人还在不断地发展,新的机型、新的功能不断涌现。

一般说来机器人应具有以下几个基本特征:

一、特定的机械结构。

二、从事各种工作的通用性能。

三、具有感知、学习、计算、决策等智能。

四、相对独立性。

其实无论是机器还是人,其工作本质都是什么时候做什么。如图一所示,这是一个人工控制水位保持恒定的供水系统,其水池里的水不断流出供用户使用。随着用水量增加,水池里的水位必然下降。若要保持水位不变就得打开进水阀门补充。上述操作步骤是:

一、将水位要求的值牢记在操作者的脑中,通过眼睛和测量工具测量出水位的值。

二、将期望水位与实际水位进行比较,计算,得出误差值。

三、根据误差的大小和正负性质进行比较计算,由大脑指挥手正确地调节水阀门。

图片

图一:人工控制水位系统

图二则是一个简单的水位自动控制系统,其原理与人来控制的一样。在这里,用浮子代替人的眼睛,作为测量水位高低之用;另用一套杠杆机构代替人的大脑和手作为计算误差和执行控制操作之用。工作步骤可归纳为:

一、用连杆的长度标定好水位的期望值。

二、当水位偏离期望值时,其水位误差被浮子检测出来,并通过杠杆作用于进水阀,从而产生控制作用。

三、按减少误差方向控制水阀开关。

图片

图二:一种水位自动控制系统

无论是人工控制还是自动控制,都体现了“什么时候该做什么”这个基本原则。在这个例子中,就是水位下降要加水,水位上升到规定值要停止加水。我们关注的人工智能系统也同样如此。

关于人工智能,一个典型的例子是互联网购票。每个用户通过计算机或者移动设备购票时,都要填写出发地和目的地,以及出发时间等资料。这样,就会产生巨量的购票记录,这些数据可以帮助交通运输单位分析各种出行数据,包括哪些线路较为繁忙,哪些线路运力过剩,从而有助于通过调整车次等措施来优化运输策略,获得更高的效益。

尽管人工智能很强大,但他无法冒充人类,除非人类对自己大脑的工作机制有了非常充分地了解,否则依然不会有什么大的进展。专家们也认同这一点,所以才提出了机器学习的概念。让机器模拟人类大脑的学习过程,程序员可以把自己的思维过程变成指令来让处理器代替人工过程。随着处理器的速度越来越快,数据存储量也越来越大,人类可以用更多的数据让计算机做出更加精细的判断处理(决策);同时,还可以编写程序,让机器在与外部环境的交互过程中,根据外部的反应来积累有用的“经验”数据,这就是机器学习。

比如,我们要教机器人把纸巾盒拿过来。我们告诉机器人:“纸巾盒就是一个装了一些纸的盒子”。这时,机器人可能会拿来一盒扑克牌。因为扑克牌也是“一个装了一些纸的盒子”,但人的表达能力是有限的,很难把一个物体的本质特征非常具体地描述。这时就要靠机器人的智能学习能力了,我们告诉机器人,现在它拿的是扑克牌而不是纸巾盒,机器人就知道这种“装了很多纸的盒子”不是纸巾盒。关于更多物体识别的智能学习过程同样如此。有了学习 的经验,机器人就可以记住一些物体的本质特征,并运用到以后的实践当中。

正是因为引入了智能学习,人类历史上遇到的机器人与人的标志性的“战斗”在围棋领域发生了。2016 年 3 月,由谷歌旗下团队开发的 阿尔法狗与围棋世界冠军、职业九段棋手李世石进行围棋人机大战,以 4 比 1 的总比分获胜;2017年 5 月,在中国乌镇围棋峰会上,它与世界围棋冠军柯洁对战,以 3 比 0的总比分获胜,并引发了新一轮的人工智能热潮。

显然人工智能的快速发展给我们带来了许多欣喜。

《哆啦A梦》是我们熟悉的动漫之一,哆啦A梦口袋里无数神奇的道具给我们带来无限幻想。随着人工智能的高速发展,一些曾经是幻想的神奇道具,也逐步成为现实,并应用到我们生活中。

其中一集《无线的有线电话》,哆啦A梦拿出了两个纸杯模样的玩意,这就是一种无线电话,两个“纸杯”可以像现在的手机一样远程通信。这在现在看来平平无奇,但《哆啦A梦》这部动漫创作于20世纪70年代,那时候无线通信技术还不成熟,根本没有那么轻巧的手机。只有那种两斤多重,售价数千美元的“大哥大”,以至于大雄见了连连称奇。

还有一集《听写打字机》,提到了听写打字机这个道具,它能将说出的话转化成文字并打印出来。如今,通过语音识别技术与打印机这个道具也已经变为现实。

在《追踪徽章》一集,大雄需要获取自己同学的位置,于是将徽章发给了自己同学,然后通过监视器即可获取同学们的实时位置了,这场景是不是十分熟悉?就是我们在微信里经常用的位置共享!

而成熟的无线通信技术、语音识别技术、还有位置共享功能现在都在我们日常使用的智能手机当中。可以说,我们司空见惯的智能手机都集成了一些哆啦A梦的道具。以前的幻想已经变为现实,甚至还更进了一步,这不是人工智能给我们带来最大的欣喜吗?

图片

哆啦A梦的追踪徽章

图片

位置共享

当然,凡事有利就有弊,人工智能在给我们带来欣喜的同时,也给我们带来了一些焦虑。在生活中,偶尔我们的手机会出现屏幕乱闪,控制失灵等现象,然而类似这样的事情同样发生在特斯拉汽车身上。特斯拉汽车在行驶过程中,出现突然加速或者是刹车失灵这样的新闻已经不是第一次了。无论是哪种形式的人工智能:智能手机或者是特斯拉汽车都离不开各种电子元件,这些电子元件对空气中的各种电磁辐射都很敏感。所以一旦设计不完善就容易受到感干扰导致系统失控,造成事故。当然,除了系统会受到干扰外,程序本身的设计有缺陷,同样会造成事故。而如何避免人工智能系统出现差错,正是我们需要迫切解决的问题。

有些人会担心人工智能的快速发展,会导致人类过度依赖机器人,但《哆啦A梦》告诉我们,这种担心是多余的。

在《哆啦A梦》的剧情中,人工智能高度发展的22世纪虽然很多活都由机器人胜任,但社会依然十分稳定,人们一点都不像因过度依赖机器人而出现身体退化的迹象。在《哆啦A梦》的世界中,未来有这么一条法律:人类不能把机器人当奴隶,不能过度依赖机器人。这条法律不但是保护那些已经有自我意识的机器人,也是为了保护人类,以防人类出现过度依赖机器人而产生的不良现象。

作为人工智能的哆啦A梦,有些观众觉得,哆啦A梦是过度帮助大雄了,这是对大雄不利。其实,哆啦A梦也注意自己对待大雄的方式。哆啦A梦虽然有任意门,但不会让大雄每次上学都使用它。哆啦A梦虽然有那种可以自动完成作业的笔,但也不允许大雄靠他来写作业完成考试。因为哆啦A梦知道,这么做会让大雄逐渐变废。对于大雄的懒散厌学,哆啦A梦也会有积极正面的引导,在这样的引导下,大雄也会发自内心的努力念书,最终取得很大的进步。大雄长大以后,哆啦A梦是否继续陪伴着大雄,剧中没有明确地表示。但大雄最终凭借自己的努力找到了一份稳定的工作,与从小就喜欢的静香组成了一个家庭,过着平淡而美好的生活。

《哆啦A梦》这部动漫,许多很多感人的剧情往往都是围绕着人与机器人的感情展开的。对于机器人的感情,《哆啦A梦》这部动漫片是这么解释的:机器人在实践中不断学习,不断进化智慧,最终也进化出与人类一样的感情意识。就好比生命最开始是氨基酸,然后逐渐演变成细胞,最后进化成了有感情与意识的智慧生物。届时机器人将拥有与人类一样的法律地位与人格尊严。哆啦A梦,作为育儿型机器人,他的任务就是融入家庭,陪伴家人。帮助家人分担家务,分享快乐。这也应该成为未来机器人发展的一大方向。在《哆啦A梦》的剧情中,大雄一家看待哆啦A梦,就跟看自己的家人一样。同样会有做错事的责备,同样会有一些嘘寒问暖。

在哆啦A梦电影《大雄与机器人王国》中,大雄等人帮助一个机器人回到自己的家乡,途中遇到一群准备逮捕机器人的军队。后来大雄从查贝克博士那里听到:

人类对待机器人,就像对待自己的朋友与谈天的对象。机器人的人工智慧也极速进化,终于与人类一样,有着同样的心与感情。不过珍娜女王(珍娜女王在剧中是人类)却把机器人当做是奴隶。把他们(机器人)当成了只听从人类的命令使用的道具,所以就开始了机器人改造计划。

在这里机器人一旦被改造就会变得失去已经拥有像人类一样的感情与意识。所以,在场的得知珍娜女王的做法都感到十分愤慨。有一次,珍娜女王与往常一样准备去捉拿其他机器人。途中她在一场风暴当中受了伤害,昏了过去。后来,波克机器人发现了珍娜女王。波克机器人与珍娜女王在小时候是一对很好的伙伴,他与珍娜女王感情很深,他相信,珍娜女王不是那种内心深处就很坏的人。珍娜女王只是因为一时的愚蠢想法冲破了头脑,她一定会醒悟过来的。于是波克机器人毅然选择了救珍娜女王。珍娜女王因此十分感动也感受到了人与机器人之间的真挚感情,认识到自己行为的愚蠢,于是终止了机器人改造计划。

这真是一部感人的电影。然而,从某种意义来说,制造这种有感情、有意识的“机器人”,就是一种形式的克隆人,也是不符合现在的法律道德的。

假如某一天,机器人突然有了感情,那么机器人三原则将会失效。因为机器人一旦有了感情,在法律地位方面,就与普通人没有区别。他将拥有普通人类所拥有的各项权利。

关于第一条

机器人不能伤害别人,也不能旁观别人被伤害,在人类世界中,有“正当防卫”这么一说,但显然违背了“机器人三原则”。

关于第二条

机器人必须无条件服从人类命令,除非与第一条违背: 联系实际生活,现在人们都在反对那些“996”的工作模式,但对于七乘二十四小时工作的机器人,却没觉得有什么。原因是现实中的人们坚持认为,机器人是不会有感情与意识的,所以让机器人不停地工作也不违背现实中人们的道德与法律。

与现实不同的是,影片中的机器人是像人类一样,有感情,有意识。这些机器人除了运行原理与人类不同,其他方面与人毫无区别。换句话来说,与其说是“机器人”还不如说是“机器原理的人”或则是“法律意义上的人”与机器的集合体。把他们的自我意识消除,把他们当奴隶,当然是不符合我们的法律道德。

关于第三条

机器人必须在满足前两条的前提下保护自己。这意味着机器人必须接受人类提出的任何要求,包括会伤害自己的要求。显然也不符合人类的道德。

我们正是利用了机器人没有与人类一样情感这一特点,可以让机器人工作时长不限,不需要考虑给机器人与人类一样的待遇,给我们带来更大的价值。但有人认为,由于目前机器人不能有与人类一样的意识,所以机器人不能有着与人类一样的灵活思维,只能用固定的程序生搬硬套;机器人要想有人类一样灵活的思维能力就必须要有与人类一样的意识。但我认为,从编程的角度来讲,人类对事情的决策同样离不开程序。如果有一天人类破解了大脑的秘密是不是就可以制造出与人类一样有灵活思维的机器。我相信很多人会持这样乐观的态度,但要想成为现实则需要一个过程。也许在未来,我们可以制造出与人类一样有灵活思维的机器人,但那种有情感有自我意识的机器人也许只能出现在科幻片里。

机器人的各种应用

目前,人与机器人最大的不同就是“思维方式”的不同。人类的思维是往往偏向于感性,而机器的“思维”则是只能按固定程序走。这两种思维方式,不能说谁好谁不好,它们都有各自的优缺点。

在教育工作中,选择人类当老师而不是机器人,正是利用了人的感性思维。教育,要根据学生的特点与教师的思想认知来制定最合适的教案。这一点,是现在的机器人不可替代的。同样,研发类工作也不能完全由机器人代替,毕竟,研发要的是一个好的团队,每个人都要提出自己的想法,与大家一起讨论交流,结合每个人的思想与实验,最终确定一个最优方案。

而在许多企业里,装配、涂装、搬运等工作均由机器人完成,工人只要监控机器状态,偶尔补充一下物料就可以了。这正是利用了机器人“只按固定模式走”的思维。上述工作,要求有统一的工作标准。比如以一牛顿的力把一号零件压入二号零件的孔内。对于一牛顿的力有多大,工人容易凭借自己的感觉经验来把握。不同的人,甚至是同一个人在不同的时候都有不同的感受,实际工作交付也只能“大差不差”。但是机器人却可以很好地解决这个问题。在传感器的帮助下,一牛顿的力始终就是那么大,保证每次都是同一标准。但一旦出现异常情况,机器人也会有差错,比如,零件的孔内有异物,但机器意识不到,依然走固定程序。这时,就需要人工介入,随时监控机器人的运行状态,排除出现的问题。

由此可见,机器人与人各有特点,在具体的场景中,互相合作,各司其职,最终完成交付。机器人作业在遇到例外情况的时候,是不是一定需要人来干预呢?能不能产生新的应对策略,自主排除,恢复正常秩序呢?这就涉及我们普遍关注的人工智能了。

制造业方面,生产一批产品只要按固定的程序执行即可。而在服务业,重点在于快速有效地完成顾客提出的任务。比如,客人要求把餐桌上的盘子换作干净的盘子,服务员就迅速知道应该怎么做,但对于目前的人工智能来讲,要独自完成这个任务就显得尤其困难。除了机器没有与人类一样灵活的关节机构外,对于客人提的要求也不能准确的理解掌握。我们知道,当我们与语音助手(一种人工智能)对话的时候,语音助手很多时候回答得让人觉得不自然,甚至答非所问。

显然,在服务业机器还比人欠缺很多,但目前依然有餐厅用机器人当“服务员”。在这里,机器人的最主要目的还是为了吸引顾客。虽然看起来是机器人在服务,但在这背后依然有一些人工在维护或者监控机器人,对于机器人不能解决的问题,还要人工来干预。所以这样的机器人的主要作用是利用人对新鲜事物兴趣的心理,很多人来这家餐厅吃饭,主要目的并不是吃饭本身,而是来体验有机器人的餐厅究竟有什么不同。

同样,在20世纪初期,那时候人们在街上见到最多的还是马车或人力车,而汽车很少。对于那时的人来说, 汽车就是新鲜事物,要是路上来了辆汽车必然会引起众人观望。而现在,人们对汽车已经司空见惯了,有些人会选择花几十元在旅游景区体验坐马车这样的新鲜事物。我们可以想象,假如将来机器人技术足够发达,服务业以机器为主流,到那时候,人工服务又将成为一个新的“卖点”。

在教育领域,人工智能的典型应用就是“作业帮”这样的软件。当你拍下一道题,就会有答案和解析,在很多时候对学习还是有一定帮助的。当然,这类软件有时也搜不到想要的题。这是因为“作业帮”这样的软件的解题方法与人完全不同。人解决作业上的题目,就题目本身进行思考。而“作业帮”这样的软件,识别被拍题目的关键词,并在系统的题库中搜索,遇到题库中没有的题目自然无能为力了。

教育,不仅仅答疑这一方面,更重要的是激发学生学习的兴趣与热情。对于学生存在的思想问题要及时引导纠正。而这些,都是目前人工智能解决不了的。

我们再来看看各种学习机,有广告都宣称他们可以提高孩子的学习兴趣,提升学习成绩。很多孩子一开始在这样的学习机前玩得不亦乐乎,然而一段时间后就束之高阁了。这种快乐并不是因为知识本身而觉得快乐,只是被学习的形式感兴趣,等“这样的形式”玩腻了自然就失去兴趣了。这并不能称得上是真正意义上对学习感兴趣。而一个教学水平优良的老师,能通过他巧妙的教学方法让学生发自内心地爱上一门学科。

如果我们聚焦到智能家居这个领域,或许可以容易看出人工智能在场景化的应用中的一些“窘境”与突破,也更有助于我们理解数字时代机器人与人的关系。

早在几十年前,人们就幻想将来智能家居会“飞入寻常百姓家”。然而,很遗憾并没有。究其原因有以下几点:

01 真正的智能功能,诸如识别、决策、分析,现在处于蹒跚学步状态。高效智能算法所需要的高速计算、海量存储等均没有得到解决,没有这部分支持,智能技术不能发挥作用,就得不到用户满意地体验。

试想当你要开灯关灯的时候要先掏出手机打开App输入指令,进行一系列操作,完成的只不过是以前按一下开关的功能,这样的"智能"产品有什么用?而对于那些真正费力的家务活,买菜烧饭,收拾房间等,这些都是智能家居不能独自胜任的。可见,目前很多智能家居并不能真正的满足用户方“让生活更加方便”的需求。

02 语音控制就是智能家居中的重要技术之一,但有些语音识别技术不佳,必须较大的声音才能让模块接受。这下好了,假如你的家人想用它来控制一个家电,结果说话声音太大,把正在专心看书的你吓一跳,甚至还能引起家人之间的矛盾。有些语音识别模块必须用较为标准的普通话才能让它听懂,这对于普通话不标准的人来说十分麻烦,你想开个灯,要说好几遍语音模块才能听懂并执行,有这个功夫用普通的开关早就打开了。可见有缺陷的智能家居一点也不人性化,不如不要。

可许多智能家居产品的使用是有一定的局限性的。就算是高质量的语音识别在一些需要特别安静的场合也是不宜安装的,比如多人休息的卧室,你肯定不希望为了控制一个家电,而把别人吵醒。当然,语音控制使用得当在生活中应用得当还是有很多好处的。比如在厨房很忙的时候,这时又想打开一样家电,用语音控制就很方便了。当你在餐桌前吃饭,吃得满手是油,这时需要打开某家电,用传统的开关必须先把手洗干净,以免弄脏开关,但用语音控制只要说出就行了。

03 尊重人性的设计,其价值是远大于智能技术的,但在细腻的家庭生活场景中,在便利与尊重之间,还有差距。我们要知道“智能”并不是目的,只是一种手段方法。以卧室开关的设计为例,便利的开关设计远大于诸如语音控制技术的应用。

有人认为,在卧室应当安装智能开关,因为他们觉得晚上开灯关灯很不方便。关于这一点,在我的家是不存在这个问题的,并不是我安装了智能开关,而是我们家的开关布置十分合理。在床头就有灯的开关,躺在床上,只要一伸手就能摸到开关。夜里想上厕所,尽管房间比较暗,也是很容易打开开关的,就算是夏天隔着蚊帐也不例外。有些业主的卧室开关设计就很不合理,灯的开关离床很远,开灯关灯自然麻烦多了,夏天还有蚊帐就更麻烦了。由此可见就算是没有智能开关,设计足够合理,也是很方便的,相反,设计不合理的智能开关反而不利于人们的生活。

有些业内人士认为现在的智能家居还不能算是真正的智能家居。真正的智能家居除了智能外,还应有互联,感知学习等功能。

互联,既要实现家庭终端的互联互通,还要从某个层面上实现整个社区的互联互通。比如,智能空调除了要有自动控制功能之外,还应结合其他家庭,整个社区的用电情况决定空调开不开,开多少度。当自己的冰箱里缺少食物,冰箱就会自动联系配送中心补充食物,当配送员到了家门口,人脸识别系统通过互联网提供的数据认出配送员,自动开门。为了防止配送员走错路线,智能监控也要连接成网。这听起来十分的高级,然而实现起来却是困难重重。除了科技水平不够外,更重要的是这些互联是否真的安全?是否会泄露用户的隐私?一旦隐私泄露将给用户带来无限的麻烦。

下面我们再讨论一下智能空调,它是一种自动控制技术,它能根据外界的天气条件,及时自动打开制冷、制热、去湿或者空气净化等功能。如果家里有些人因某种原因不能吹空调的,智能空调才不管这些,当温度达到设定值就会自动打开。

这也反映了目前智能家居一个问题:一些智能家居只能根据既有算法去判断应该如何操作,却不能根据人的实际需要来决定,用一句俗话来说就是“自作主张”。所以这些自动控制的智能家居还应配有手动控制功能。此外,智能家居的设计者还应考虑家里有老人,残疾人之类的情况。对于行动不便的他们,夜里起床上厕所要开灯是个难题,可以通过安装自动照明装置解决。

智能家居要想给用户带来最佳体验就必须引入智能学习。在多数情况下,智能家居还是要结合人的意见,不能自作主张。比如系统认为现在应该开灯,智能家居就会说“房间有点暗,建议立即开灯”。如业主说“同意”就执行开灯方案,但业主不同意,就告诉智能家居“现在不要开灯”,于是开灯方案取消。并且智能家居就知道这种情况下就不要开灯了(这也是智能学习的一种)。

当然,每次开灯前都要向业主确认,就变成没有决策能力的智能家居了。这时候,智能学习就起到作用了。当它经过较多的学习,就能总结出更适合业主的方案。就可以不经过确认就直接给出方案,业主会有极高的满意度。就算业主不满意,直接提醒纠正就行了,但这种情况将会是很少的。

当然,在有危害业主身体健康的情况出现时,智能家居就可以不考虑业主想法,而只遵循自己方案。比如某业主沉迷于网络游戏,已经是夜里12点了,业主仍然玩得不亦乐乎。如果继续下去就会危害健康。在这种情况下,智能家居就没必要再问业主,要不要关电脑,而是当机立断地把电脑关掉,并且还要想办法让他戒掉网瘾。这看上去有点“强人所难”,业主反过来将智能家居的电给掐了怎么办?一种陪伴与监督的“机器力量”如何进入家庭秩序,也将是未来的一个重要伦理课题。

我们还可以想象一下这样一个场景:有小偷试图从窗户闯入房屋,如果打开窗户,无疑会让小偷更易入侵。正在这个时候,系统还检测到房间里的温湿度,应该开窗通风,它应该怎么办呢?如果执行预定的策略,那不就是“引狼入室”了?应该当机立断不执行开窗任务,同时启动较高级别的安防系统,毕竟人身安全更为重要。用一句俗话说就是 “两利相权取其重,两害相权取其轻”。

智能家居要融入我们的生活还有很长的路要走,智能家居相关程序、场景设计有待优化,关于各种用户隐私泄露的问题还有待解决。我们需要将更多的社会学、伦理学内容和科技做结合,才能产生出更有利于家庭和谐、便利和生机的智能应用来。

回望当下,数字化浪潮拍面而来,在有些行业,业务的数字化比重甚至已经超过50%,未来社会经济的发展必将越来越依靠数字化。如何客观冷静地看待机器与人的新关系,成为我们绕不开的一个话题,甚至是命题。希望本文的一些梳理和思考,对大家更加客观、更加主动地认知机器与人的新关系,有所帮助。也希望我们通过ENI经济与信息化网进行更加深入的地交流。

编辑:刘婧
活动 直播间  | CIO智行社

分享到微信 ×

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

Baidu
map