aitime論道
AAAI 2023 傑出論文 DropMessage:圖神經網絡隨機刪減方法的歸併統一
本文探究了隨機刪減方法在圖神經網絡(GNNs)上的應用。隨機刪減方法指的是在神經網絡模型上一層輸出和下一層輸入之間隨機刪除部分元素的一類方法。這類方法能夠廣泛提升模型的魯棒性和泛化性。幾乎所有的深度模型都會應用這一方法來提升模型性能。
從ChatGPT、流浪地球、虛擬數字人、AIGC展望人類與AI的共創
2023年2月24日,由國際科技信息中心主辦,AI TIME承辦的SCITIC論壇——數位化創意探索,從流浪地球說起完美收官。
乾貨!神經時間遊走:連續動態圖上的表徵學習
主要研究方向是圖機器學習,包括但不限於動態圖神經網絡,時空圖預測,圖譜神經網絡等。我們採用類似 UNISURF 的 occupancy field 來表徵場景幾何。
NeurIPS 2023 | 重新審視圖神經網絡中的異配問題
欒思燾:麥吉爾大學&Mila博士生,研究方向為圖神經網絡和圖表示學習01同配(Homophily) v.s. 異配(Heterophily)近幾年實驗發現,在很多圖上做節點分類的時候,圖神經網絡(GNNs)並不比傳統的神經網絡(NNs)表現更好,甚至會有很嚴重的性能下降。
來自北大、KAUST、斯坦福、達摩院的大模型前沿動態:MiniGPT-4等
2023年4月26日,AI TIME舉辦的大模型專場四活動邀請了阿里巴巴達摩院NLP研究員惠彬原、北京大學計算機學院軟體研究所博士生薑雪、阿卜杜拉國王科技大學博士生朱德堯、史丹福大學博士生盛穎。
大咖思辨-42 | 大模型狂飆背後的推動力是什麼?讓我們一探究竟!
隨著ChatGPT、GPT-4、Copilot的火熱出圈,大模型已經成為AI領域的研究熱點與必爭之地。2023年3月28日,由AI TIME、清華校友總會AI大數據專委會聯合主辦,有孚網絡、智譜AI、金地集團智匯港灣孵化器贊助支持的「大模型為什麼是AI領域的『兵家必爭之地』?
乾貨!基於GAN的稀有樣本生成
例如,在安全領域,系統設計人員希望獲得具有攻擊功能的數據包來修補漏洞;論文題目:RareGAN: Generating Samples for Rare Classes。
乾貨!重新思考希爾伯特-施密特信息瓶頸在對抗性魯棒性中的應用
本文首次提出將希爾伯特-施密特信息瓶頸(HSIC Information Bottleneck)用於神經網絡優化目標中的正則項來提升模型的對抗魯棒性(adversarial robustness)。