对人工智能“踩点刹”的六大理由!
小沐 2018-07-12 来源 : 阅读 17 评论 0

摘要:人工智能正在逐渐进入业务流程。但是首席信息官们应该停下来研究一下人工智能工具的潜在商业影响——不管影响是好是坏。


2017年,人工智能的炒作达到了顶峰,首席信息官、顾问和学者们纷纷宣称这项技术可能会将这一切自动化——从商业和IT运营到客户联络。然而,在2018年的第一个季度就有几家媒体报道了人工智能的危险,其中包括培训计算机执行那些往往需要人类智能的任务。

讲授认知技术课程的巴布森学院的杰出教授Thomas Davenport说:“媒体上充斥这么多关于人工智能的炒作,而这只是记者试图通过谈论消极的一面来扩大宣传。”

也许是这样吧,但这些担忧并不是什么新鲜事儿,而且不会持续下去,从对种族、性别和其它偏见的恐惧,到失控的自动驾驶的无人机都有可能带来致命后果。

 

在《MIT技术评论》发表了一篇题为《当人工智能终于致人死亡时,谁来负责?》的故事的一周后。此文提出了这样一个问题——如果有一辆自动驾驶的汽车把人撞死,有一辆自动驾驶的优步汽车在亚利桑那州撞死一名女子,什么样的法律适用于这个问题。如他所言,时机决定了一切。

记者会在下文详细介绍一些有关人工智能采用的问题,然后是对希望测试该技术的首席信息官提出的一些建议。

有关人工智能的六大担忧

1. 太粗鲁了

正如我们从微软的灾难性的聊天机器人Tay事件中了解到的,会话式消息传递系统可能是荒谬的,无礼的,甚至是唐突的。首席信息官们必须小心翼翼地对待他们所使用的东西,以及他们使用这些东西的方式。聊天机器人只消有一次唐突的,乱扣帽子的行为就能摧毁品牌的友好形象。

2. 认知不佳

谷歌的人工智能科学家兼斯坦福大学李飞飞教授在《纽约时报》的一篇专栏文章中称,尽管人工智能是由人类开发的,但具有讽刺意味的是,人工智能根本不像人类。李飞飞指出,尽管人类的视觉感受高度情境化,但人工智能感知图像的能力有很大的局限性。

李飞飞说,人工智能程序员可能必须与各领域的专家合作——回归该领域的学术根源——缩小人与机器感知之间的差距。

3. 黑匣子难题

有很多企业想使用人工智能,它包含一些可能提供战略优势的活动,但金融服务等行业的公司必须小心翼翼,他们可以解释人工智能是如何得出其结论的。房利美(Fannie Mae)的运营兼技术负责人Bruce Lee说,使用Nest温控器这样的产品来管理电费的房主可能会有更多的自由现金流(free cash flow)来偿还抵押贷款,这种推断也许是合乎情理的。但在监管机构的眼中,让人工智能具备这样的资质是有问题的。

李飞飞告诉记者:“在你开始着手这种有关公平借贷的问题时——如何偏倚样本集,你会否渐渐向使用Nest的人提供更好的抵押贷款利率?人工智能在信贷决策这样看似明显的领域的事情中,实际上充斥着要扫清的监管障碍,所以我们所做的很多事情都必须进行彻底的回溯测试,以确保我们不会带来不当的偏倚,并确保这对住房基础设施是一种净收益。人工智能必须要解释得通。”

如果人们不清楚人工智能软件如何检测模式并观察结果,那么冒着法规风险的公司就会怀疑机器的可信度。Fox Rothschild律师事务所的技术实践联合主席Dan Farris说:“情境、道德和数据质量是影响人工智能的价值和可靠性的问题,特别是在受到高度监管的行业中。在所有受到高度监管的行业部署人工智能都可能会造成合规性问题。”

4. 民族志,社会经济方面的偏差

斯坦福大学的博士生TimnitGebru在进行一个项目——该项目使用谷歌街景(Google Street View)的汽车图片来确定所有美国城镇的人口结构。她对研究中的种族、性别和社会经济偏差感到担忧。彭博社的报道称,这一启示促使Gebru加入微软,她在那里努力挖掘人工智能的偏差。

即使是人工智能虚拟助理也受到偏差的困扰。你有没有想过为什么Alexa、Siri和小娜(Cortana)等虚拟助理技术都是女性角色?客户服务软件公司LivePerson的首席执行官Rob LoCascio向记者表示:“为什么我们将这些‘助理’技术定性为女性?就我们对世界和职场女性的期望,这意味着什么?女性本质上是‘助手’,她们‘爱唠叨’,她们扮演行政角色,她们善于接单?”

5. 用于攻击的人工智能,致命的攻击

剑桥大学、牛津大学和耶鲁大学的25位技术和公共政策研究人员撰写的一份长达98页的报告称,人工智能的快速发展意味着这样的风险——恶意用户很快就会利用该技术发动自动的黑客攻击,模仿人类传播错误信息或将商业无人机变为有针对性的武器。

牛津大学人类未来研究院(Oxford’s Future of Humanity Institute)的研究员Miles Brundage告诉路透社:“我们都赞同人工智能有很多积极的应用。有关恶意使用问题的文献中存在一个缺口”。《纽约时报》和Gizmodo也刊登了题为《人工智能的恶意使用:预测、预防和缓解》的报告。

6. 人工智能会把我们变成家猫

接下来是奴役论。以特斯拉和SpaceX闻名遐迩的企业家埃隆马斯克(Elon Musk)警告说,人类冒着这样的风险——变成依赖成性的“家猫”——受具有卓越智能和功能的人工智能奴役。最近,以色列历史学家Yuval Noah Harari认为,一切自动化的人工智能的出现可能会造成一个“全球无用阶级”。在这样的世界里,民主会受到威胁,因为人类不像机器那样了解自己。

IT,顽强的IT

Davenport说,一般来说,这些担忧在很大程度上被夸大了。例如,他说偏差也长期存在于正常分析项目的范围内。Davenport说:“就我所知,从事过分析工作的人都不会否认偏差的存在。Davenport最近写了一本新书——《人工智能优势,关于大型企业采用人工智能的所有事情》,他说,几家大公司正在认真地测试人工智能。

Davenport说:“如今我们看到很多企业应用程序,而且我还没有听到有人说我们将停止IT计划”,他补充说,这项技术仍然不成熟。“明智的公司还在继续努力研究这些东西,并且尽力免受媒体搬弄是非的威慑。”

事实上,Gartner的统计指出,IT领导者似乎基本上不受炒作的困扰,因为超过85%的首席信息官将在2020年通过购买,构建和外包的方式对人工智能计划进行试点。虽然Gartner建议首席信息官们在这些领域建立智能的虚拟支持功能——在这些领域里,客户和公民希望通过基于人工智能的助手进行调解,但他们还必须与业务伙伴携手构建数字化道德战略。



本文由职坐标整理并发布,了解更多内容,请关注职坐标热门话题行业热点频道!

 

 


本文由 @小沐 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论
加入IT交流圈
JAVA工程师交流群 +加入
大数据架构师交流群 +加入
人工智能Python交流群 +加入
WEB/H5前端交流群 +加入
大数据岗位高薪定向就业名额  提前锁定高薪职位
资讯动态直通车

  • 资料索取

  • 答疑解惑

  • 技术交流

  • 职业测评

  • 面试技巧

  • 高薪秘籍
海同名师推荐 更多>>
张军 联系TA
10年项目开发经验,精通pc、mobile平台软件开发主流技术和框架
杨成江 联系TA
青春为马 不负韶华
翟健 联系TA
熟悉系大型项目开发业务流程,精通C、Java语言
黄骈 联系TA
认证System Analyst,System Architect
程光淼 联系TA
精通C、C++等语言、智能芯片开发
热门就业培训班 更多>>
【零基础】人工智能+Python全栈开发课程
登顶技术风口浪潮巅峰 年薪百万不是梦
【零基础】JavaEE高级开发工程师课程
小白0基础入学 8000起薪轻松进名企
【零基础】大数据与分布式架构师课程
掌握大数据分布式架构 冲击年薪50W+
行业资讯30天热搜词 更多>>
X
免费获取海同IT培训资料
验证码手机号,获得海同独家IT培训资料
获取验证码
提交

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号