AI研究人员:当算法出错时我们需要更多力量反击
据外媒报道,虽然政府和私营企业正在快速部署AI系统,但公众却缺少在这些系统出现故障时追究其责任的工具。这是AI Now最新发布的一份报告的结论之一。AI Now是一家面向微软、谷歌等科技公司的研究机构,同时它隶属于纽约大学。
AI Now在报告中审视了AI和算法系统的社会挑战,它将问题聚焦于研究人员所称的“问责缺口”。对此,他们提出了十项建议,包括呼吁政府对面部识别进行监管以及对AI产品制定“广告真实法”,让企业不能简单地利用该技术的声誉来销售其服务。
现在许多大型科技公司都开始发现自己正处于AI的淘金热中,于是它们大举进入从招聘到医疗保健等多个市场并出售自己的服务。但是,正如AI Now的联合创始人、谷歌Open Research Group负责人Meredith Whittaker所说的那样,这些公司许多关于利益和效用的主张并没有得到公开的科学证据支持。Whittaker举了IBM沃森系统的例子,据了解,该系统在斯隆凯特林癌症中心进行实验诊断时给出了“不安全且不正确的治疗建议”。对此,Whittaker表示:“他们(IBM)的营销部门对近乎神奇的特性所做的断言从未得到过同行评论研究的证实。”
AI Now最新报告的作者们指出,这一事故只是涉及AI和算法系统的一系列“连锁丑闻”的其中一件,另外还有Facebook协助促成了缅甸的种族灭绝、谷歌Maven项目对美国军方制造无人机AI工具的帮助以及剑桥分析公司数据丑闻等等。
在所有这些案例中,既出现了来自公众的强烈抗议也有来自硅谷最具价值的公司内部的不同意见。这一年,谷歌员工因五角大楼的合同辞职、微软员工向该公司施压要求其停止与移民和海关执法局的合作以及谷歌、Uber、eBay和Airbnb为抗议涉及性骚扰而展开的罢工运动。
Whittaker指出,这些抗议活动得到了劳工联盟和像AI Now等这样的研究机构的支持,这已经成为了一股意想不到、令人欣慰的公众问责力量。
但报告的目的很清楚,那就是公众需要的更多。当涉及到政府采用自动决策系统(ADS)时对公民正义的威胁尤为明显。报告的作者们指出,通常情况AI系统被引入这些领域则是为了降低成本和提高效率,然而结果往往是系统作出了说不通或无法上诉的决定。
Whittaker和另外一位AI Now联合创始人、微软研究员Kate Crawford指出,将ADS整合到政府服务中已经超过了他们审计这些系统的能力范围。不过他们表示可以采取一些具体的步骤来解决这一问题,比如要求向政府出售服务的技术供应商放弃贸易保密保护从而让研究人员可以更好地去检查它们的算法。
另外他们还提到了另外一个需要立即立即采取行动的领域--面部识别和情感识别。现在全球已经有多个国家的警察开始使用前者。例如为奥兰多和华盛顿县警方部署的亚马逊Rekognition系统,尽管测试显示该软件在不同种族中的表现不同,但在一项用Rekognition识别国会议员的测试中白人议员的错误率只有5%而非白人议员的错误率却有39%。在情感识别方面,这家公司声称他们的技术可以通过扫描一个人的面部来读取其性格甚至意图。对此,AI Now的看法是企业们经常都在兜售伪科学。
尽管面临不少的挑战,但Whittaker和Crawford表示,2018年的情况已经表明,当AI问责和偏见问题被曝光时,技术员工、立法者和公众愿意采取行动而不再是默许。
您可能也感兴趣:
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
蚂蚁可信智能荣获“吴文俊人工智能科技进步一等奖”
阅文去年净利增三成 AI和出海有望成为增长新动力
小米卢伟冰驾驶SU7 Max现身高通发布会 现场引媒体围观
盒马CEO侯毅将退休 CFO严筱磊将兼任CEO
卖完即止!特斯拉Model Y HW3.0现车优惠最高超1万元
央视315晚会曝光六大互联网消费黑幕 你中招了吗?
借4万多元、到手2万多元?央视315晚会曝光同程金融APP礼品卡套路
央视315晚会曝光婚恋平台乱象 世纪佳缘、珍爱网等被点名
央视315曝光AI伪造变脸变声诈骗
更多
- 消息称苹果供应商5月份开始生产第四代AirPods 但要秋季才发布
- 特斯拉希望印度降低电动汽车进口关税已如愿 但有数量限制和投资要求
- 苹果有望在下周宣布WWDC 24时间 可能在6月3日至7日举行
- 苹果OLED屏iPad Pro可能要4月份才能发货 面板与操作系统均遇到挑战
- OpenAI CEO透露GPT-5发布时间尚未确定 终极目标是开发AGI
- 苹果iPad Air也有望转向OLED屏 但要等2028年
- 消息称20多年的Apple ID将成历史 在今年被Apple Account取代
- XAI大模型Grok-1已正式开源 但并不是在马斯克说的上周
- 特斯拉高管看好东南亚市场潜力 电动汽车和储能电池都有发展潜力
- 宝马集团去年交付超过37万辆纯电动汽车 PHEV也交付超过19万辆