Facebook关闭“失控”AI系统 因其发展出人类无法理解的语言
【TechWeb报道】7月31日消息,据国外媒体报道,特斯拉首席执行官埃隆•马斯克(Elon Musk)曾表示,人工智能(AI)是最大的风险。几天后,Facebook关闭了一个“失控”的人工智能系统,因为聊天机器人开始用他们自己的语言说话,这些语言使用英语单词,但人类无法理解。
Facebook创始人马克·扎克伯格
根据外媒的一篇报道,Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情失控了。
问题是,当这些机器人因互相谈判而获得奖励时,他们却没有因为用英语谈判而得到奖励,这导致了机器人开发了自己的语言。
报告指出:“人工智能并没有在全球范围内关闭电脑或类似的东西,但它停止使用英语,并开始使用它所创建的语言。”
最初,人工智能的代理们使用英语互相交谈,但后来他们创造了一种只有人工智能系统才能理解的新语言,从而违背了他们的目的。这使得Facebook的研究人员关闭了人工智能系统,迫使他们只能用英语交谈。
今年6月,Facebook人工智能研究实验室的研究人员发现,当他们忙于改进聊天机器人时,“对话代理人”正在创造他们自己的语言。
媒体报道称,很快,这些机器人就开始脱离脚本的规范,开始用一种完全没有人类输入的语言进行交流。“对话代理”使用机器学习算法,可以自由交谈,以增强对话技巧。
研究人员还发现这些机器人是“非常狡猾的谈判者”。
报告说:“在学会谈判之后,机器人依靠机器学习和先进的策略,试图改善这些谈判的结果。随着时间的推移,这些机器人变得相当熟练,甚至开始假装对一件物品感兴趣,为了在谈判的后期做出‘牺牲’,作为一种假妥协。”
尽管这对人工智能来说似乎是一个巨大的飞跃,但包括斯蒂芬·霍金教授在内的几位专家已经对人类产生了担忧,即人类将会被人工智能所取代。
特斯拉的埃隆•马斯克、慈善家比尔•盖茨(Bill Gates)和前苹果创始人史蒂夫·沃兹尼亚克(Steve Wozniak)等人也表达了他们对人工智能技术发展方向的担忧。
有趣的是,就在这一事件发生的前几天,Facebook首席执行官和马斯克就人工智能的未来进行了激烈的争论。
扎克伯格在本月早些时候在Facebook上表示:“我已经跟马斯克谈过这个(AI)了。他对这个问题的理解是有限的。如果人工智能成为主流,就需要谨慎和监管来保护未来。我认为那些唱反调的人,试图鼓动这些末日场景。这真的是消极的,在某些方面,实际上我认为这是非常不负责任的。”
马斯克经常在人工智能领域发表演讲,称其进步是“我们作为一个文明面临的最大风险”。他说:“人工智能是一种罕见的案例,我们需要积极主动的监管,而不是被动应对,因为如果我们在人工智能监管方面被动了,那就太迟了。”(小狐狸)
您可能也感兴趣:
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
5499元起!华为Pura70系列先锋计划开售
iPhone 16 Pro影像规格曝光:超广角将升级至4800万像素
一季度全球智能手机出货近2.9亿部 小米传音出货量同比均有大增
花旗预计“每卖一台SU7亏6800元” 小米高管回应:信息偏差较大
苹果将允许用户和第三方维修商使用二手正品零部件维修iPhone
苹果市值一夜暴涨8113亿元 据称拟升级整个Mac产品线
余承东调侃小米SU7原装手机支架设计?雷军发文回应
OpenAI超蚂蚁集团 胡润榜单上的“中国VS美国”
智己汽车因标注错误发致歉函 但致歉函中也有错误
更多
- 润开鸿发布鸿蒙应用产品 蚂蚁数科mPaaS提供支持
- 2023年营收165亿元,三七互娱拟提升分红频次至一年四次
- “AI换脸”骗走2亿港元 专家支招如何防范
- 媲美GPT4的开源模型Llama 3怎么用?亚马逊云科技官方教程已上线
- 谷雨“龙井”奶茶外卖量涨5倍,茉莉奶白等多品牌联合饿了么上线“春日收官”新品
- 《热辣滚烫》获北影节“春节档特别荣誉” 出品人侯晓楠:海外票房已破700万美元
- Qorvo 谈 Wi-Fi 7、BMS 及 Sensor Fusion 的技术革新之力
- 三年霸榜 亚马逊云科技为何成为中国AI开发平台顶流?
- 英特尔发布大型神经拟态系统Hala Point
- SHARP MultiSync王牌系列工程投影机发布
更多
- 消息称特斯拉下周将宣布在印度投资 最多30亿美元
- 特斯拉全球裁员不会影响墨西哥超级工厂建设 当地称正按计划推进
- Meta推出Llama 3大模型 在集成近25000块英伟达H100计算集群上训练
- 消息称苹果12.9英寸版iPad Air将采用mini-LED显示屏 在5月初推出
- 从5nm制程工艺来看 台积电3nm工艺或要明年才能成为最大营收来源
- 台积电一季度营收188.7亿美元 预计二季度会更高
- 分析师称iPhone 17 Plus屏幕将略小于iPhone 15 Plus和iPhone 16 Plus
- 苹果有意代工商在印尼建厂 CEO库克称将评估可行性
- SK海力士Q1营收有望超过12万亿韩元 营业利润重回万亿韩元之上
- 消息称苹果有意在印度生产iPhone摄像头部件 同当地厂商有过接触