ICML （ International Conference on Machine Learning），國際機器學習大會如今已發(fā)展為由國際機器學習學會（IMLS）主辦的年度機器學習國際頂級會議。今天，第35屆 ICML 大會在瑞典的斯德哥爾摩正式召開，與大家一同分享這一領域在這一年里的突破。ICML 2018 共有 2473 篇論文投稿，共有 621 篇論文殺出重圍入選獲獎名單，接受率接近25%。其中 Google 強勢領跑，Deep Mind 、FaceBook和微軟也是精彩紛呈；而在高校中 UC Berkeley 和 Stanford 、CMU 以近 30 篇榮登 Top 榜。

而今年不得不說咱們國內的成績，雖然清華被收錄了 12 篇，相比之下還是有差距，不過相比往年的數(shù)量和今年如此激烈的競爭下，進步是不可忽視的，尤其是今年復旦大學的一篇論文與 DeepMind、斯坦福大學的兩篇論文一同獲得 Runner Up 獎，騰訊 AI Lab 也是有超十篇論文被收錄，都讓我們對國內研究抱有更多的期待，也相信國內的研究所與高校在人工智能領域的基礎性研究方面會取得更驕人的成績。

▌會議巡講 Schedule

Tutorial Session 是后續(xù)主要技術開始前的教程日

后續(xù)三天就是主要技術的精彩紛呈，涉及了深度學習、強化學習、有限學習、變分貝葉斯、優(yōu)化方法、自動機器學習等內容。

▌論文收集錄

最佳論文1：來自 MIT 的 Anish Athalye 與來自 UC Berkely 的 Nicholas Carlini 和 David Wagner 獲得了最佳論文。該研究定義了一種被稱為「混淆梯度」（obfuscated gradients）的現(xiàn)象。在面對強大的基于優(yōu)化的攻擊之下，它可以實現(xiàn)對對抗樣本的魯棒性防御。早在今年 2 月，這項研究攻破了 ICLR 2018 七篇對抗樣本防御論文的研究，曾一度引起了深度學習社區(qū)的熱烈討論。

論文鏈接：

https://arxiv.org/abs/1802.00420

項目鏈接：

https://github.com/anishathalye/obfuscated-gradients

最佳論文2：來自 UC Berkeley EECS 的 Lydia T. Liu、Sarah Dean、Esther Rolf、Max Simchowitz 和 Moritz Hardt 的論文同樣也獲得了最佳論文獎。在這個研究中，關注機器學習公平性的靜態(tài)分類標準如何與暫時的利益指標相互作用?？偨Y了三個標準準則的延遲影響，強調評估公平性準則的度量和時序建模的重要性等一系列的新挑戰(zhàn)和權衡問題。

論文鏈接：

https://arxiv.org/abs/1803.04383

▌Runner Up 論文

Runner UP 論文1：復旦大學數(shù)據(jù)科學學院副教授黃增峰完成的在線流（online streaming）算法與 DeepMind、斯坦福大學的兩篇論文共同獲得 Runner Up 獎。在該論文討論的這種在線流算法可以在只有非常小的協(xié)方差誤差的情況下，從大型矩陣抽取出最能近似它的小矩陣。

論文地址：

http://203.187.160.132:9011/www.cse.ust.hk/c3pr90ntc0td/~huang***/ICML18.pdf

Runner UP 論文2：來自 DeepMind 和牛津大學的研究者在研究中開發(fā)了新的技術來理解和控制一般博弈中的動態(tài)。主要的結果是將二階動態(tài)分解為兩個部分。第一個和潛博弈（potential game）相關；第二個和哈密頓博弈相關，這是一種新的博弈類型，遵循一種守恒定律——類似于經(jīng)典力學系統(tǒng)中的守恒定律。

論文地址：

https://arxiv.org/abs/1802.05642

Runner UP 論文3：來自斯坦福大學的研究者在研究中首先展示了為解決經(jīng)驗風險最小化（ERM）使最初公平的模型也變得不公平了這一問題，提出了一種基于分布式魯棒優(yōu)化（distributionally robust optimization，DRO）的方法，可以最小化所有分布上的最大風險，使其接近經(jīng)驗分布。

論文地址：

https://arxiv.org/abs/1806.08010

頒發(fā)的兩項最佳論文獎來表彰一些最有前途的論文技術方案的研究。最好的論文還將被邀請參加《機器學習雜志》。

▌國內未來可期

而今年騰訊 AI Lab也是取得了十余篇入選的好成績，相比去年的 4 篇入選，這個成績不僅是國內企業(yè)研究、高校研究的榜首，在國際排名上也是有了很大的進步。

在十余篇的研究中，主要分為三類：新模型與新框架、分布式與去中心化及機器學習的理論研究與優(yōu)化方法。本次為大家介紹三種新模型與新框架。

用于強化學習的基于反饋的樹搜索

研究者還使用深度神經(jīng)網(wǎng)絡實現(xiàn)了這種基于反饋的樹搜索算法并在《王者榮耀》1v1 模式上進行了測試。為了進行對比，研究者訓練了 5 個操控英雄狄仁杰的智能體，結果他們提出的新方法顯著優(yōu)于其它方法。

論文鏈接：

https://arxiv.org/abs/1805.05935

通過學習遷移實現(xiàn)遷移學習

遷移學習的三個核心研究問題是：何時遷移、如何遷移和遷移什么。為特定的遷移任務選擇合適的遷移算法往往需要高成本的計算或相關領域的專業(yè)知識。為了能更有效地找到適合當前任務的遷移算法，研究者根據(jù)人類執(zhí)行遷移學習的方式，設計了一種可根據(jù)之前的遷移學習經(jīng)歷提升新領域之間的遷移學習有效性的新框架：學習遷移（L2T：Learning to Transfer）。

論文地址：

https://ai.tencent.com/ailab/media/publications//icml/148_Transfer_Learning_via_Learning_to_Transfer.pdf

通過強化學習實現(xiàn)端到端的主動目標跟蹤

目標跟蹤的目標是根據(jù)視頻的初始幀中的目標標注定位該目標在連續(xù)視頻中的位置。對于移動機器人和無人機等視角會變動的平臺或目標會離開當前拍攝場景的情況，跟蹤目標時通常還需要對攝像頭的拍攝角度進行持續(xù)調整。該論文提出了一種使用強化學習的端到端的主動目標跟蹤方法，可直接根據(jù)畫面情況調整攝像頭角度。具體而言，研究者使用了一個 ConvNet-LSTM 網(wǎng)絡，其輸入為原始視頻幀，輸出為相機運動動作（前進、向左等）。

上圖展示了這個 ConvNet-LSTM 網(wǎng)絡的架構，其中的強化學習部分使用了一種當前最佳的強化學習算法 A3C。因為在現(xiàn)實場景上訓練端到端的主動跟蹤器還無法實現(xiàn)，所以研究者在 ViZDoom 和 Unreal Engine 進行了模擬訓練。

論文地址：

https://arxiv.org/abs/1705.10561

更多詳細論文解讀可以參考學習：

https://ai.tencent.com/ailab/paper-list.html

https://mp.weixin.qq.com/s/xpX7eDG5ivk8ZYRjAEsH5g

▌國外大咖云集

Google AI & Deep Mind

這個數(shù)量多到不知道幾時營長才能給大家推薦完，無論是機器學習理論，深度學習、強化學習、經(jīng)典算法都有研究，利用架構與工具在語音、語言、翻譯、音樂、視覺處理等領域也都有解決的的問題與挑戰(zhàn)。只能說 Google 真是高度活躍在方方面面，有質有量，不愧是本屆大會的白金贊助商。屆時 Google 還將與大家分享 TensorFlow、Magenta等項目的最新工作，開展有關機器學習、強化學習等相關專題研討會。DeepMind 于近日提出的多智能體的教程也將會在大會于大家進行分享，營長也在上周為大家介紹過這個最新研究。

Google 論文收錄與研討會：

https://ai.googleblog.com/2018/07/google-at-icml-2018.html?m=1

Deep Mind 論文收錄與研討會：

https://deepmind.com/blog/deepmind-papers-icml-2018

Microsoft

本屆 ICML 大會微軟通過26篇論文，一個個人健康機器學習的教程與兩個研討會；研究中涉及通過緊湊的潛在空間聚類進行半監(jiān)督學習、提出 Katyusha X 的簡單動量方法、GAN、SBEED（收斂強化學習）、探索加速 CNN 的隱藏維度、增強 CycleGAN等理論與算法的研究。兩個研討會的主題分別關于個性化AI 與 FAIM‘18 Causal ML。

Microsoft 論文收錄與研討會：

https://deepmind.com/blog/deepmind-papers-icml-2018

Facebook

FaceBook 收錄作品的數(shù)量與 Google、DeepMind 、微軟相比較少，不過在神經(jīng)機器翻譯、人工智能代理、強化學習、語音、端到端的對話模型、GAN及多智能體的強化學習等領域也都有出色的研究。在強化學習中引入 SCAL 算法并證明顯著優(yōu)于現(xiàn)有的 UCRL、PSRL 等算法；在具有 Attention 機制的RNN網(wǎng)絡中很多使用簡單形式的編碼器，F(xiàn)acebook 在研究中提出了一種聚焦 RNN 編碼器的機制，用于序列建模任務，用于根據(jù)需要關注輸入的關鍵部分，在合成任務上有更好的改進；在多智能體的強化學習中提出 SOM （Self Other-Modeling）的方法，在三個不同任務上評估此方法，表明代理能夠在合作與對抗環(huán)境中使用它們對其他玩家隱藏狀態(tài)的估計來學習更好的策略。除了理論研究、方法的創(chuàng)新，在本屆大會，F(xiàn)acebook 也組織了一場研討會，和大家一起一起探討在強化學習中的預測模型與強化模型。

Facebook 論文收錄與研討會：

https://research.fb.com/facebook-research-at-icml-2018

▌結束語

直播已經(jīng)開始，營長先去前方為大家收集情況，精彩內容后續(xù)為大家報道。點擊閱讀原文可獲取直播鏈接。

最后為大家精心整理本次大會的時間表、收錄論文地址及工作坊&研討會概述，只需此一文在手，收盡 ICML 大會所有。