关系经济人类预测化学自然
中准网
自然科学
知识物理
化学生物
地理解释
预测理解
本质社会
人类现象
行为研究
经济政治
心理结构
关系指导
人文遗产

何宝宏对AI可解释性的解释

9月9日 倾城傷投稿
  本文核心假设:用混沌理论,可以解释AI的不可解释性。
  有广义的解释和狭义的解释两种。
  广义地,指提升AI算法、产品和服务做出决策时的透明度和公平性,以防算法偏见和打开算法黑箱,助力用户的信任和监管的合规性。这种理解方式多见于社会、法律和政府层面的各类文件,比如联合国UNESCO的《人工智能伦理建议书》等。
  狭义地,指一个端到端的AI深度学习算法,改变其算法模型中的任意一个权重、结点或层数,可能都会对整个模型的表现产生难以预测的影响。即使是模型的设计者和训练者,也无法预先知道。因此,深度学习也被戏称为调参学、玄学,被说科学就连工程学都算不上,因此AI算法工程师也被戏称为炼丹师。
  如果说广义可解释性,面向的是大众和监管机构的,已经超出了AI本身,针对的是算法黑箱。那么,狭义的可解释性,则面向的是学界和产业界,仅针对深度学习的算法幽灵。
  牛顿力学将人类带到了一个确定性的世界,但量子力学又将人类又带到了不确定的概率世界。对应地,计算机和传统算法将数字世界带到了一个确定性的时代,而大数据和深度学习算法又将数字世界带到了不可解释的概率新阶段。
  这让我想起了近30年来才兴起的混沌理论。量子力学质疑微观世界的物理因果律,混沌理论否定了包括宏观世界拉普拉斯(Laplace)式的决定型因果律。
  这个理论可以用来解释AI的不可解释性。
  机器只能处理关联关系而无法理解因果关系,更无法判断学习结果正确与否,工程师调参基本靠直觉,是否已经学习到中真经也是靠人的判断,因此学习结果正确只是概率问题,碰巧正确而已,因此稍微换下参数环境就又不可预期了。
  混沌理论认为,许多自然现象即使可以化为单纯的数学公式,但是其行径却无法加以预测。
  用于解释AI的不可解释性,机器学习被化简为单纯的算法模型,但深度学习的行径却无法加以预测。
  深度学习初始条件或权重十分微小的变化和调整,经过多层网络、多结点的不断反馈和放大,对其未来状态会造成极其巨大的差别。
  混沌的发现,提醒我们对因果关系需要再认识。过去认为,简单的原因必定产生简单的结果,复杂的结果必然有复杂的原因。
  但混沌理论告诉AI,在一个复杂的反馈系统中,简单的参数调整也可以产生复杂的结果,仅仅知道确定性的算法模型,不等于能够预测AI的行为。
投诉 评论 转载

跑男8位成员现状,3位幸福,3位离婚,还有2位至今未婚2014年,浙江卫视推出了一档真人秀综艺《奔跑吧兄弟》,虽然模式上借鉴了韩国的节目,但一经播出还是受到了观众的追捧。如今8年过去了,节目中的几位成员都有了不同的境遇。把他……女篮梁天云身高197厘米,嫁东北农村小伙,公婆为了她拆掉门框2012年5月7日,辽宁篮球天才张佳迪因心脏病突发离开了人世。他的女朋友梁天云陪着他走完了最后一程。梁天云原本也是国家女篮少年队的中锋,身高有197厘米。前男友的突然离世,让梁……从人口增量来看,郑州哪个区域才是低调的王者?1、2021年郑州全市新增人口12。52万人。其中老城区人口增量十分有限,新增人口主要集中于航空港区、新郑市、郑东新区、经开区、高新区,五区合计增长9。66万人,占全市比例77……降价至少400,还赠送89元物品,红米K50迎来双十一,真香一年一度的双十一马上又要到来,手机厂商之间的销量竞争又会是一场好戏。每年双十一,小米总是大赢家,因为小米的主要销量来源就是线上市场,而线上市场的销量巅峰就是每年的双十一和六一八……何宝宏对AI可解释性的解释本文核心假设:用混沌理论,可以解释AI的不可解释性。有广义的解释和狭义的解释两种。广义地,指提升AI算法、产品和服务做出决策时的透明度和公平性,以防算法偏见和打开算……明星出道前后对比图,刘亦菲黑胖邻家小妹,李易峰鞠婧祎判若两人为什么,人人都往娱乐圈挤?似乎有种飞上枝头变天鹅的感觉。不少明星在出道前,就是一只丑小鸭,而进入娱乐圈后,就变成了人人羡慕的白天鹅。有些明星差距实在太大,根本认不出来。明星出道……文案只有双向奔赴的爱才有意义,一厢情愿的爱只有愿赌服输当我开始期待某一个人的消息时我就知道我沦陷了山鸟与鱼不同路,从此山水不相逢。莫问故人长短痛,昨夜星辰皆随风我有一万种想见你冲动,但少了一种见你身份。只希望那个……还完了6000亿的债务,万达又四处出手啦最近几天,关于大连万达集团的消息不少。本周一,也就是9月26日,大连万达集团旗下的珠海万达商业管理公司,发布公告,即将接管五家奥克斯广场的管理工作。这五家奥克斯广场分别位于杭州……肖战为中国女篮加油!韩旭自曝喜欢肖战的原因,把他当作榜样《迎篮而上的女孩》是国内首档记录全国女子高中联赛的篮球热血纪录片,1999年的中国女篮队员韩旭,也是参与录制的一员。她在开播那天曾谈及自己喜欢肖战的原因,是因为他不忘初心。……华为FreeBudsLipstick发布专为女性打造的口红耳11月17日,华为举办全场景智慧生活新品发布会,正式发布了专为女性打造的华为口红FreeBudsLipstick。这款耳机最大特色就是采用了立体式口红外观,搭配半开放主动降噪功……盘点steam上那些奇奇怪怪的模拟器游戏,来看看你的库存有几Steam上各种类型的游戏层出不穷,除去一些主流游戏,模拟类游戏在慢慢朝着奇怪的方向发展,今天,我就带大家来盘点一下,那些风格或传统,或迥异的模拟类游戏,看看你知道几个?……张一山被曝新恋情?与美女同游海南举止亲密,女方脸小甜美不输前今日,有媒体曝出张一山带神秘女子外出游玩的照片,瞬间引来了不少网友的关注。照片中,张一山穿着一件黑色短袖,头上戴着一顶鸭舌帽,打扮得十分低调,而旁边的美女也是一身全黑造型,酷劲……
iPhone13新配色今晚来袭两种绿色你爱哪个?中国山寨机称霸非洲?奇葩设计如何打败三星苹果?王宁在昆会见外国驻华使节郝邵文晒婚后生活,对继女视如己出被赞好爸爸,一家三口很幸福足球场被大妈当舞场,孩子想踢球却很无奈,大妈的路拦都拦不住销售环比转暖,房企放出积极信号碧桂园提前回购7月到期票据中国男篮的希望之星,天才少年曾凡博,最有希望进NBA的球员三年之期将至,AppleArcade依旧没有存在感王子文在家素颜自拍曝光豪宅,客厅内一面镜子6万,手上小包近3花生是有害还是有利?怎么吃更健康?5。20就要来了,不会吧!不会吧!不会还有人不知道这些浪漫文长期化妆和长期素颜,5年后皮肤有什么区别?看着很明显
孕晚期会出现哪些心理问题校园之秋自由之刃科学家施士元居里夫人亲自培养,中国最早的核物理科学研究者这六部剧情有点黄的电影,你喜欢哪部?初二班主任工作总结泰迪喜欢过节日,今天又穿上红色的衣服了,。。。荷兰首相回复拜登抱歉啊,Football赢了iHour新版重磅登场首次支持iPad小学生日记晚上捉知了签旅游合同注意事项有哪些天龙网游八卦神区迎战全服第四帮,这波是激情的盛宴

友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找菏泽德阳山西湖州宝鸡上海茂名内江三亚信阳长春北海西安安徽黄石烟台沧州湛江肇庆鹤壁六安韶关成都钦州