第二日一早九點,蘇飛揹著書包就準時來到了計科306,讓他沒想到的是,306居然坐滿了人,而他一進去,閒聊的學員們就忽然沉默下來,齊刷刷地把視線投到他身上。
這讓蘇飛多少有點尷尬,他就是個旁聽生,怎麼還成焦點了,讓他有些緊張。
他沿著牆打算找個角落坐下,可屁股還沒落座呢,一旁的學員卻疑惑地問:“學弟,你坐下幹嘛?上去講課啊。”
蘇飛愕然:“我就是個聽課的啊?”
姜大小姐也沒說他要上去講啊?難道這是社團習俗?
“我們都是來聽你講課的啊。”那學員吃了一驚,心想這學弟不是被譽為機器學習領域的新星麼?怎麼感覺呆呆的。
“啊?”蘇飛環視一週,發現姜大小姐居然不在。
“快上去呀,大家都等著呢。”旁邊的另一個學員催促道。
“哦......哦,那行吧。”
望著齊刷刷看向自己的學長學姐們,他也有些自我懷疑,難道姜大小姐早就想到我會整理TagLM的相關知識並且提出一個新想法,所以讓我先大致講講我的構想?
他猶豫了片刻,說道:“我對機器學習和深度學習的理解其實比較淺薄,相較在座的各位,經驗非常不足,如果有什麼錯誤的地方還請多擔待。”
沒有他預想裡的鼓勵加油,眾人都一副冷漠的態度。
搞什麼,AI研究社的人都和姜傾雪一樣是個冰塊?
可一想到姜大小姐這座鑽石礦,蘇飛還是不情不願地上臺。
蘇飛開啟書包,拿出準備好的隨身碟,裡邊有他昨天的構想,將資料投屏到306的螢幕上。
“基於TagLM的深度上下文詞向量預訓練?不是說要講講機器學習的核函式升維方法麼?怎麼突然改換深度學習了?而且還是自然語言處理?”
下面的一些學員頓時有些迷惑了,這和他們接到的通知不一樣啊。
“我想講一講我對TagLM的理解,大家可能都比較熟悉TagLM這個模型,但我不想從計算機系的角度去理解,而是從數學系的角度去理解。”
“TagLM的主要貢獻其實就是預訓練,分三個步驟完成詞向量的預訓練,前兩個步驟的結果拼接起來放到第三個部分進行預測......”
聽著蘇飛的講課,眾人表情微變。
“這完全就是基礎課啊。”
“TagLM,我們社不是研究過好多遍了麼?”
“顧行之不是機器學習的麼?怎麼跳到深度學習了?”
“顧行之名不副實啊。”
蘇飛內心暗道果然,這些知識對於普通的本科生來說是超綱知識,但對於AI研究社的學長學姐來說,都只是基礎。
於是,他也不準備藏著掖著了,開始進入正題。
“上述所說的都是基於程式設計知識,對TagLM做的一個簡單的概括。那麼我接下來就用數學知識來闡述一下我的看法。我想大家也知道,TagLM基於的循環式神經網絡在數學上其實就是一個矩陣,用線性代數的角度去想,訓練的過程無非就是更新矩陣的引數罷了。”
“但是,為什麼TagLM的拼接操作會被人詬病,為什麼分成三部來訓練就會有不小的誤差呢?這個問題不僅困擾著TagLM,而且困擾著與之相關的FastText和ULM模型。我想,深度學習教科書上也不會解釋,因為大家都說深度學習是個黑盒,很難解釋原理。”
“但,僅針對這個問題,我從數學的角度理解,應當是......”
隨著蘇飛講解的深入,眾人一改之前的神色,他們發現,這小學弟還真有實力。
眾人紛紛開啟筆記本,開始記下蘇飛的獨特見解。
......
此時,姜大小姐才趕回306,來到306門前,正準備推門進來,卻發現有人在講課,頓時停下了動作。
“顧行之剛跟我說有事不來,怎麼還有人在講課?”
姜傾雪越看那人越覺得熟悉,看到PPT上大大的“TagLM”,這才想起,這不是圖書館那日的......蘇飛?
【目前用下來,聽書聲音最全最好用的App,集成4大語音合成引擎,超100種音色,更是支持離線朗讀的換源神器,huanyuanapp.org 換源App】
姜傾雪出於禮貌,沒有立刻開門,而是在門口靜靜地聆聽了幾分鐘,聽著蘇飛從數學角度的講解。
‘叮!目標好感度+1,目前好感度22。’
‘叮!目標好感度+1,目前好感度23。’
...
‘叮!目標好感度+1,目前好感度30。’
系統的聲音讓正在講課的蘇飛一頓,隨即便意識到,姜大小姐回來了?
於是,他又環視了一週,發現在門口站著的那位冰山美人。
“學弟,繼續講啊,剛剛說的兩種模態差異的數學表示到底是什麼?”
“實在是太精闢了,真的沒想到,小學弟研究TagLM到了這種地步,我還從未見過有人能用數學把這個模型講的這麼清晰。”
“雖然涉及到的數學知識只有高等線代和高等數學,但沒有把這兩本書吃透,根本沒法有這樣的理解,我們AI研究社專注研究模型結構,忽略了基礎的數學理論,學弟你這堂課我們真是受益匪淺!”
“作為數學系的學生,在高等線代的理解上居然不如學弟,學弟牛哇!”
眾人發現蘇飛久久不語,於是順著他的視線看去。
“社長?!”
姜傾雪這才一臉冷澹地推門進來。
“社長,這顧行之不愧是社長你推薦的人啊,名副其實!華大研究生實至名歸!”一旁的學員感嘆道。
蘇飛:“啥?”
什麼鬼,我成替身了?
姜傾雪澹澹地道:“講的不錯。”
‘叮!目標好感度+5,目前好感度35。’
蘇飛暗想:您老就是個傲嬌?
姜傾雪撇了他一眼,道:“繼續。”
蘇飛加快速度繼續說下去,很快就到了結尾,在最後他丟擲了自己的想法,闡述了他現在的瓶頸,並真誠地看著AI研究社裡的各位大老們。
結果現場一片寂靜,連姜傾雪都緊皺著眉頭,彷佛在思考。
良久,她才發聲:“有可能實現,但非常難。我的思路是,不要做加法,而是做減法,或許大膽點去除的信息提取層,直接用詞向量作為單一信息源,效果會更好。”
其他學員們也都面面相覷,改TagLM的結構,這小學弟膽子是真大,他們這群研二研三的都沒有膽子去實踐,主要怕浪費時間做無用功。
有人提了個建議:“要不學弟,你就做做TagLM的下游應用,從單純的命名體識別拓展下,其實也能有不錯的成果。”
蘇飛搖了搖頭,說道:“因為一些原因,我必須改善TagLM的結構。”
下游任務這種簡單的應用的確能夠快速出成果,一般的水點的二區也能發上去,但頂會就別想了,AAAI就更想p吃。
倒是姜大小姐的建議給了他一點啟發,做減法的確是個之前沒想到的新思路。
‘叮!目標好感度+5,目前好感度40。’
‘叮!目前目標好感度40,達到朋友關係,獲得2000積分,商城隨機商品位+1,請宿主再接再厲!’
‘叮!釋出攻略任務:請宿主滿足姜傾雪的期待,改善好模型並發表論文。獎勵:精神力+1,1000積分。’
蘇飛眼睛一亮,鑽石礦不愧是鑽石礦,來這邊走一圈,賺的簡直盆滿缽滿。
“咳,學弟,你在江大也沒幾天了,要不接下來幾天給我們社再講講深度學習裡的數學?”一個男生渴望地看著蘇飛。
蘇飛瞪大了眼睛,什麼叫我在江大沒幾天了?
姜傾雪咳了一聲,說道:“顧行之今天有事來不了,這位同學是江大的。”
蘇飛也打了個招呼:“各位學長學姐好,我叫蘇飛,目前大四。”
306頓時一靜,每個人都眼睛瞪的鈴鐺一樣大。
啥??
才大四,本科生?
社長也是,這個蘇飛也是,現在的本科生都這麼勐了嗎?!
隨即他們便有些頭皮發麻,瞬間感覺自己這些研究生著實有些廢物啊。