手机浏览器扫描二维码访问
[]
“这到底是怎么个扑朔迷离的剧情?”
早先见电气学院的导员气势汹汹的找来,还以为这小子是个问题学生。
怎么就峰回路转,变成如此高深专业的讨论了?
我是谁?我在哪?他们到底在说什么?
为什么每个字我都认识,连在一起我就完全听不明白了?
时间缓缓流逝,不知不觉间,付院长的草稿和推演已经写满了六七页a4纸。
“如果单纯用y=f(x)+b的方式去理解一层的行为,那么对于任意正整数k,都存在一个k^3量级深,常数量级宽的神经网络,无法被一个k层的神经网络拟合,除非其宽度为原本的2^k倍。”
付院长越计算,越觉得这小子的直觉不错。
“倘若依你所说,用批次归一化的方式去避免协变量偏移的问题,再加上非线性的函数为层提供额外的表达能力,那么甚至在极端的情况下,需要2^k^3倍的宽度。这样看来你先专注于解决深度问题,然后考虑去处理训练难度问题的思路是相当聪明的选择。”
付院长,沉吟了一番,回顾了一下自己的计算过程,问道“懂了吗?”
孟繁岐非常严肃认真摇了摇头,说“没太懂。”
付院长笑了笑,不急不恼,又将整个流程按顺序梳理了一遍。
即便孟繁岐前世已经精读过好几次这三篇论文,但始终没能从根本上理清其中的数学关系。aI界与数学界看待这个问题的视角截然不同,付院长带给了孟繁岐的认识和理解。
有一位资深的数学教授为他梳理了背后的数学原理和关系,孟繁岐顿觉豁然开朗,但却又始终迷迷蒙蒙,隔着一层纱布。
仔细再看良久,好像有些明了了,“现在好像有些懂了。”
“再多看几遍巩固一下吧。”付院长闻言站起身来拍了拍孟繁岐的背,说道,“我的办公室就在数院大楼5o3,如果有这方面的问题,欢迎你来找我讨论交流。”
说罢,便转身离去,也不问孟繁岐究竟叫什么名字,只做纯粹的学术交流。
临走前,还对旁边伸着脖子围观的两个数院研究生使了一个眼神,大概意思是“你看看人家,才本科,文章都快写出来了。看看人家看看你。”
两位数院研究生连忙低下头来移开视线。
只留下孟繁岐一人对着复杂的论证过程反复品味,又过了一会儿,孟繁岐感觉自己好像理解了,但又好像全都忘记了,进入了一种玄而又玄的状态。
想必当年张无忌学张三丰的太极剑就是这个感觉吧。
-----------------------------
来自数理学院付院长的友情指导,弥补了孟繁岐当下论文大业中最薄弱的一环,足够扎实的数理分析和公式推论。
在aI学科的中后期时代,由于始终没有现真正可以令人信服的理论,来解释深度神经网络强大的威力。因而许多注重性能和实用方向的文章,越来越像实验报告,而非论文。这点一直被很多人诟病。
投稿人数又每年暴增,大约在17年左右,aI相关的领域变成了不少科研人眼里的洪泛区,滚滚长江都是水,浪花里也淘不出几个英雄。
不过在目前的时间点,不少大会和期刊的审稿人还是相当注重理论部分的,如果这部分的论证和推理不够清晰流畅,即便你的结果再好看,即便你是aI三巨头之一的Lenet,也会被无情拒稿。
孟繁岐机缘巧合,获此殊荣,倒也没有扭捏客气。他早期需要尽快成型的论文有十数篇之多,其中困扰他,让他不知如何下的不在少数。
如今有这等良师,自然要频频请教。
他也并不需要付院长抽出大把时间看具体的文章,只是在几个关键公式的起承转合上,自己前世阅读时从未曾在意的细小甚微之处,为自己拨开那一层若有似无的面纱,得以窥探其中真正的奥妙。
几周之后,某一个周五下午的五点左右,孟繁岐刚刚从数院大楼的院长办公室走出来。
里面的付院长却没有按照惯例起身去食堂吃饭,而是将这几次孟繁岐所提问题的纸张又都全部拿了出来,细细端详了一番。
虽然付院长对于深度学习和图像算法这里来说,专业并不对口。
但图片内容如果想在显示器上展示,在电脑中存储,终究还是要以矩阵的形式。其实说白了就是一堆矩形数字,就如同魔方的一个面,上面是九宫格可以存放九个数字,那就是一个3乘3的正方形矩阵。每一个数字就是一个像素,也就是图像的最小组成单元。
要论矩阵之间的运算和变换,付院长可就是这方面的宗师人物了。
虽然孟繁岐从未拿着整篇的论文过来,但从这些零散的问题,以付院长的水平已经能够管中窥豹。
“我们第一次讨论的是极深的深度网络优化问题,他提出的残差和批归一化,应该属于模型结构的范畴。”
“但他之后又找我讨论一阶和二阶的梯度计算,以及几种变体,这应该是参数优化器的内容。”
“再往后,他又询问了一些误差的分析和传递,这是数值分析的内容。”付院长眉头紧皱,仔细思忖道,“这应该涉及的是计算机内对同一数字的不同方式的存储,存储的方式不同,占用的计算机资源自然也不同。但其中也势必会引入一些误差。”
“而今,他问的东西越具有想象力了。”付院长回想了一下今孟繁岐问题的前提条件和背景,惊叹于他的大胆想象。“以两个深度网络,一个负责生成,一个负责判断。”
“生成器持续创造自己认为真实的图像,而鉴别器则负责区分输入究竟是真实的还是生成器生成的。”
“这种相互对抗的方式,就可以摆脱模型的训练始终依赖人类先去为这些数据一一提供正确答案的人为监督模式了。”
付院长喃喃自语道,鄂院士积极推动大数据相关事宜,他作为排行前几的大弟子自然十分了解如今的数据量级,以及为它们一一提供答案、标签的难度和工作量到底有多大。
“已经是年轻人的下了。”付院长长出了一口气,此刻,门外突然响起了敲门声。
简介关于鲛人囚爱萧沐雪因吐槽作者更新慢,一觉醒来穿成了书中凌虐反派至黑化的恶毒女配,还绑定了拯救反派的恋爱脑系统。说好的拯救和恋爱呢?结果反派要黑化,萧沐雪递刀。反派要恋爱,萧沐雪递刀。反派要杀人,萧沐雪递刀。反派要自杀,萧沐雪长得这么好看,死了可惜了,不如给我做成鲛人蛹,挂在房间当装饰品吧!他乃鲛族皇子,生来便有神灵根,注定会成为下一任海神,然而却一朝修为被废,神灵根被夺,父母被杀,沦为人族妖宠。他心灰意冷,誓要屠尽三界。直到遇见她人人都劝他要宽恕众生。她却说善解人意是什么东西?委屈你自己,让别人开心吗?她说既往不咎太虚伪,我喜欢风水轮流转。她说不是每一句对不起,都能换来一句没关系。于是他在她的偏爱下,尽情疯。众人都道她助纣为掠。她却说我就是这么护短,不分青红皂白,只分关系好坏!...
简介关于光之国盘点之你那眼泪算什么6北穿越濒临毁灭的灭亡次元,觉醒奥特盘点能力,向其他世界投放盘点奥特曼的视频,就能够从中收集希望值,获得拯救灭亡次元的力量!于是,众多世界出现了一块大屏幕,上面写着。自谦希卡利我只是个科学家,所以,没有他们那样的力量。文明雷欧巴巴尔,你这个狗ZZ!欢快的趣事引人笑。而当轻松的部分过去,接下来的一幕幕,才让其他世界的生命现光之战士所代表的真正意义。乡次郎,你还记得奥特五大誓言吗!大古根本赢不了什么的,我听不懂!准哥光是纽带...
穿越港片影视世界成为卧底,横行社团做个好人。港影综合世界,主线无间道古惑仔系列,夹杂副本世界...
简介关于绑定生子系统后,我原地开挂了因为评分人少所有没有评分颜之云在一次拍摄中威亚意外断裂,身体直接从高空中坠落,生死之际,意外绑定生子系统,只有完成任务才能活着,并获得系统大量奖励,又能活着还能获得奖励,颜之云毫不犹豫接受了系统。颜之云本就是家中不受宠的嫡女,结果又因为被未来婆家嫌弃惨遭退婚,没想到父亲为了讨好的太子,将她许配给不能人事的冷血王爷看她如何逆转局面,成为全朝最为受宠的人...
高义穿越到了电视剧情满四合院的世界,并且觉醒了分身系统他能给别人分派系统,让别人看到经过自己修改后的忠诚值和能力值,又能使用分身术,凭空创造完全忠于自己的分身。杨厂长什么能力值99,忠心值1oo高义这样的忠诚下属,必须重用李主任,忠心值只有25必须死大领导高义是我最信任,又最得力的心腹在得到了四合院贾家骗抚恤金,淮茹深夜求放过!...
哥哥们下凡历劫,但是哥哥们竟然穿进玛丽苏文里做了反派大佬,最后家破人亡,下场凄惨。糖宝握紧小拳拳,糖宝要去拯救哥哥们!下凡后,糖宝从道观学成下山找哥哥们。霸总哥哥,糖宝要什么,哥哥都给你买!巨星哥哥,糖宝想演戏,哥哥给你做配!律师哥哥,糖宝,谁敢欺负你你就打回去,哥哥帮你打官司!电竞哥哥,游戏还是空降糖宝,四个大佬哥哥团宠我...