6特刊

2020年7月11日 星期六www.jfdaily.com

智能办公软件能识别单据完成报销等

“机器人白领”

即将大批上岗本报讯 （记者 栾吟之）在

昨天世界人工智能大会的“智能时代，‘语’你同行”行业论坛上，

提供各类场景办公机器人的上海人工智能企业“达观数据”，发布了银行信贷机器人、证券机器人、财税机器人和运营商机器人等智能办公机器人集群。这些机器人是一款款软件产品，能模仿人完成文件资料阅读、 填写、分析等工作，标志着“机器人白领”

开始走上工作岗位。

达观数据创始人兼 CEO 陈运文，在现场演示了机器人工作的场景： 企业常见的报销事项，

员工要填写很多表、粘贴很多单据，对应的财务人员要审核大量文档资料和票据。这个过程繁琐而低效。如今，机器人可以自动完成整个费用报销工作，自动填写单据、 自动识别单据内容、自动判断填写内容是否合法合规，

工作效率提升 6倍以上。 此外，

银行里的贷款报告，原来靠客户经理填写数据， 错误率颇高，如今机器人可以大幅度提高效率，

非常受基层员工欢迎。

这些“机器人白领”有一共性， 都拥有强大的文本处理能力。人工智能可以从技术层面分

为三方面，图像处理、文本处理和语音识别。其中文本处理是难度很高、应用却很广阔的一个领域。怎样让机器人像人一样理解文字，帮助我们阅读写作、审核文件、分析纠错？ 达观数据挖掘了超过 2000

亿字的资料库，让计算机学习人脑日常工作， 通过大量文件归纳总结、掌握其中规律。机器阅读的文件数量越多，就会变得越聪明。

一旦掌握文字运用规律以后，

“机器人白领” 带来的效益也非常巨大———缩短 70%的耗时， 降低95%错误率，节省 50%人力。如今，

这些机器人“开箱即用”，它们被安装进电脑后，可以模拟人类对键盘和鼠标进行操作，也会使用各种各样的办公软件。 在处理文件时，他对原有系统非常友好，还会越来越熟悉日常办公流程。

目前， 达观数据联合北京大学、复旦大学、上海交通大学等进行技术攻关，推进语言智能的核心技术研究、不断刷新对各行各业文档的理解能力。 陈运文预计：“未来，会有越来越多的企事业单位部署智能文本处理系统，让人和计算机协作。十年之内有超过 50%的日常办公工作，可以由机器人代替人类完成，这个目标并不遥远。”

洛天依会抢走李佳琦的“饭碗”吗？

与其视为对手不如用作帮手

本报讯 （记者 李晔）继今年 4

月洛天依空降李佳琦直播间之后，

在昨天世界人工智能大会“青少年人工智能创新发展论坛”上，“带货一哥” 与当红虚拟歌手再度相逢。

双方以相互夸赞为开头， 以约定“下次一起唱歌跳舞玩出直播新玩法”为结束。尽管双方客客气气，但今年以来洛天依、乐正绫、初音未来等虚拟偶像纷纷涉足电商带货领域， 它们是否会抢走李佳琦、薇娅等主播的 “饭碗”， 再次引发讨论。

洛天依成名比李佳琦早。2012

年，洛天依由上海禾念制作推出。8

年里，青少年对于二次元的热情将洛天依奉为国内最出名的虚拟偶像之一。今年 4 月，洛天依进入李佳琦直播间。5月 1日，洛天依首次在淘宝平台试水跨界带货，销售美瞳、电池、沐浴啫喱等产品。

虚拟偶像虽非真人，但由于被人工智能加持， 可与真人顺畅对答，且其人设、性格、外表等更趋完美，还突破了真人偶像的局限———

虚拟偶像既可避免出现真人主播现场“翻车”或人设崩塌等突发情况，也无需解决档期冲突等难点问题。不过，“虚拟”也有短板，即无法在镜头前真正为观众进行商品测

评，与观众“注入灵魂”的交流力也相对逊色。

在李佳琦之前，中国围棋九段棋手柯洁已经历了来自人工智能AlphaGo 的“暴击”。在昨天的论坛现场， 播放了柯洁回顾 2017年他被 AlphaGo战胜后的心路视频。尽管柯洁坦言“AI未来一定会稳稳战胜人类”， 但后来他想明白了，“人工智能有跳过人类常规思维的东西， 我们应该去理解和尝试 AI超越人类的想法， 这是一个很好的点。我羡慕现在的青少年，他们能比我少走许多弯路。AI通过大量计算与模拟，将我们曾经走过的弯路无限缩短。”

用 AI帮助竞技训练， 在更短时间内实现技能进阶，这也启发了李佳琦们， 与其将之视为竞争对手，不如用好、用足人工智能。李佳琦曾在 5小时内试色 380支口红，

但借助人工智能，他有望摆脱“试到嘴皮发麻”的局面。他对洛天依说：

“机器可以帮助我们更好地收集、学习女生们的需求和反馈， 让我们得以为大家提供更好的产品和服务。

大家甚至可以借助人工智能， 一边看直播，一边通过手机屏幕直接试取口红的颜色、底妆等。这会让佳琦直播间变得更精彩哦！”

电竞冠军训练AI，成果有望应用于自动驾驶

复杂策略游戏还需多久攻克

本报讯 （记者 俞陶然）如今，

人工智能系统已能击败围棋和国际象棋的世界冠军，但还不敢挑战网络游戏《星际争霸Ⅱ》的顶尖电子竞技选手。 昨天举行的 2020世界人工智能大会“大爱无疆·致远”

人工智能企业论坛上，8次《星际争霸Ⅱ》全国比赛冠军、商汤科技研究员周航，商汤科技副总裁、商汤研究院副院长闫俊杰博士，复旦大学副教授、《最强大脑》主持人蒋昌建等人展开了一场对话。

“我看到有新闻说，人工智能系统在《星际争霸Ⅱ》比赛上，两度战胜了国际一流的电竞选手，是这样吗？”对于蒋昌建的这个问题，已退出电竞江湖、加盟商汤的周航给出了否定的回答。他澄清说，人工智能打败的并不是顶尖电竞选手，

而是水平较高的电竞选手。

为什么 AI选手能在复杂度极高的围棋游戏中胜出，但还不能称霸策略型电子游戏？ 闫俊杰分析说，围棋虽然复杂度很高，但是规则比较简单，而且是一个封闭的游戏体系，所以经过多年技术迭代和棋谱训练 ， 以阿尔法元 （Alpha

Zero） 为代表的人工智能系统已能够不学习人类棋谱，只凭借围棋规则进行学习推演，就可成长为人类

几乎无法战胜的顶尖高手。与围棋相比，策略型游戏《星际争霸Ⅱ》的规则更为复杂，需要选择并操作多个兵种、技能、建筑等游戏对象，通过排兵布阵等各种策略进行对抗，

所以作为游戏体系，它的开放性也高于围棋。

在训练机器玩 《星际争霸Ⅱ》

过程中，商汤研发人员也发现了人工智能的劣势： 一是思维比较单一，不具备人脑学习综合性知识的能力；二是抽象能力弱，难以在处理具体问题的基础上抽象出普遍规律。 可能正是因为这两个劣势，

人工智能至今无法击败《星际争霸Ⅱ》的顶尖选手。

不过， 正在训练 AI电竞选手的周航对人工智能充满信心：“我估计在未来 3年内，人工智能将战胜国际顶尖的 《星际争霸Ⅱ》选手。”这也意味着，未来 3 年内，人工智能处理复杂系统的能力有望实现跨越式发展。

这种能力可不会局限在电竞领域。商汤科技研发执行总监石建萍说，“比如在前方车辆行驶较慢的情况下，自动驾驶的汽车是选择超车，还是跟随策略？这是一个颇为复杂的问题，不确定性很强。我们希望早日攻克这类AI决策难题。”

充分发挥“安全”对 AI的赋能作用伴随这次突发的疫情，业界普遍认为整

个社会加深了对人工智能的认知， 人工智能的应用也将向纵深推进。 但正如科技是一把“双刃剑”，我们也面临着如何规避人工智能在安全、伦理上的风险。只有深刻认识这些潜在的“危险”，才能更好地舞好人工智能之剑。

疫情期间，上海城市运行“一网统管”大平台上，以人工智能为代表的新兴科技有效地解决了疫情联防联控、资源调配、经济秩序恢复、民生保障等诸多领域的问题。

然而，机遇和风险永远是并存的。尤其是疫情期间，相关技术的应用也引发了社会对数据安全、个人信息保护等相关议题的广泛关注。比如，

现在的“万码奔腾，码上加码”，让大家在这次疫情中感触很深。 政府 A部门发了码，B部门也发码，学校发码，社区也发码，所有的码都要重新填报，一次次把个人隐私信息暴露给后端的机构和平台。

可以说，数据安全已经成为人工智能发展必须要解决的瓶颈问题。比如，数据处理方面，数据污染是人工智能典型的场景，攻击会造成人工智能模型计算的偏差和无法期望的结果。

正因为认识到数据一旦不能保证安全底线，

将对人工智能未来带来不可知性， 不仅在中国， 各国都在战略层面非常重视数据安全，包括美国、欧盟在各种人工智能倡议、伦理规范中都强调针对数据安全的应对措施。

安全是为人工智能更可靠、更有效地发展服务，而非阻碍人工智能发展。今年 2月，中央网信办发布了关于做好个人信息保护利用、大数据支撑联防联控工作的通知。 业界呼吁，在国家立法层面，需要进一步加快数据安全立法以及人工智能标准化立法。

充分发挥“安全”对人工智能的赋能作用，

才能保证人工智能的发展可以给人类带来更光明、美好和安全的未来。

本报讯 （记者 刘锟）随着人工智能在产业和技术上加快度过“探索期”，逐步进入“成长期”，人工智能与数据安全更加深度交织。数据安全问题，已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。7 月 10 日，

2020世界人工智能大会举办了一场以“在线经济，安全赋能”为主题的论坛，各方业界专家和行业企业家共话智能时代的机遇与挑战，深入研讨人工智能安全的战略、 技术与产业图景，

护航在线新经济健康发展。

原国家信息化专家咨询委员会常务副主任周宏仁判断， 当前信息技术的创新性发展，

正在形成全球信息化发展的第二个拐点，即信息化转向以智能化为中心，构造一个人工智能驱动的世界。他提醒说，在这一关键拐点应避免人工智能发展的片面性，重视安全研究的科学性，处理好安全与发展的关系。

疫情期间，在以人工智能技术为代表的新

型科技在医疗物资运输、居民生活保障、疫情联防联控、安全复工复产等方面都发挥了不可替代的作用。但机遇和风险总是并存的。中国互联网发展基金会理事长马利表示，既要集中力量挖掘人工智能的潜力， 也不忽视放任人工智能的隐患。“当前，人工智能由弱到强逐步转变，做好安全风险的前瞻预判和战略部署尤为重要。”

只有安全的人工智能才能为数字经济注入持续动能。论坛上，中国科学院院士何积丰阐述了人工智能与人类社会的共生关系。他通过对人工智能带来的数据安全、算法安全等安全风险的全面评估，提出算法可解释性、隐私保护、公平建模、可信验证、主动防御、伦理法律、系统伦理等七条人工智能安全对策。

观安信息首席技术官胡绍勇认为，随着人工智能发展与数据安全更加深度地交织融合，数据安全问题已然成为人工智能突破关键转轨期必须解决的重要制约瓶颈。网络安全能力建设应该

从策略、模型到能力中台的方向进化，能力中台是业务前台与数据后端的枢纽，健全的安全能力中台包括识别、防御、检测和响应等四体系。

论坛上，赛博研究院和上海观安信息共同发布《人工智能数据安全治理报告》。报告分析了数据采集、数据处理、数据流动和数据使用阶段突出的数据安全问题，结合当前全球人工智能数据安全治理现状和动态，构建了综合性的人工智能数据安全治理框架。

本次论坛还启动了“人工智能数据安全风险评估平台”。平台包括风险评估、数据集管理、知识库管理、威胁情报等功能，用于对特定人工智能应用场景中的数据安全风险进行总体评估和评级，以及数据集管理和知识库建设。同时，该平台设定了安全基线， 开发用于敏感数据探测、数据质量检测、数据差异检测、漏洞检测以及脆弱性检测的工具。这一平台，为当前上海火热的人工智能发展插上安全的翅膀。

上海 AI治理协同行动 9条发布

让人工智能近人情负责任

如果我们问人工智能系统要如何消灭新冠病毒，而系统给出的答案是“杀死所有人类”；如果有一天， 人工智能自我学习能力增强，

创造出自己的语言，人类都不知道它们在想什么……我们该怎么办？

“为之于未有，治之于未乱”，

发展负责任的人工智能，这是 2020

世界人工智能大会治理论坛给出的方案。7月 10日下午，2020世界人工智能大会治理论坛在线上举行，数十位国内外专家围绕人工智能发展中出现的问题及如何解决难题，发表了精彩观点。

中国科学院院士何积丰介绍，

人类社会和人工智能技术目前的关系可以被概括为四类： 辅助关系、人机合作、互动关系和竞争关系，其中暗藏人工智能给人类社会带来的风险。 例如在人机合作中，

主刀医生在计算机上看到达芬奇机器人视觉系统反映的情况，但有时机器人视觉系统受到污染，就可能出事故。

图灵奖获得者约翰·霍普克罗夫特（John Hopcroft）举例解释了人工智能“不近人情”的一面。如果我们问人工智能系统要如何消灭新冠病毒疫情，系统可能给出的答案是 “杀死所有人类”。“这显然不是

我们想要的解决方案”。

人工智能看似独立公正，事实上却隐含着各种歧视，这是众多与会专家关注的焦点。 约翰·霍普克罗夫特表示，当前大多高层职位都由男性担任，人工智能程序在执行高层职位人员选聘流程时往往会选择男性。清华大学苏世民书院院长薛澜提及“算法黑箱”，也就是俗称的“大数据杀熟”，这使得企业对用户歧视可以采取更加高明的手段，损害很多用户的利益。

此次论坛上，上海国家新一代人工智能创新发展试验区专家咨询委员会，发布了“协同落实人工智能治理原则的行动建议”（上海AI治理协同行动 9条），提出了“一平台、四工作、四体系”的行动方案建议，落实人工智能治理原则。

“一平台”即构建全球合作网络和交流平台，推动全球人工智能治理研究和协作共同体的形成；

“四工作” 是推进人工智能治理标准规范的制定、 推动建立行业自律、总结推出最佳实践、推动安全可信技术研发；“四体系”是致力于建立人工智能治理的评估体系、监管体系、 人才体系、 保障体系。据悉，这是国内第一次提出的系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理提供参考。

“成长期”有烦恼？上海启动人工智能数据安全风险评估平台

护航人工智能与人类社会共生

注意！跨越！无惧！

■本报见习记者 侍佳妮

■本报记者 刘锟