在2018年云棲大會新一代異構計算專場的論壇上，阿里巴巴資深架構師徐凌杰發(fā)布了AI Matrix——AI Benchmark 基準測試平臺，可以幫助開發(fā)者解決四大關鍵問題：真實反應AI應用和模型使用的現(xiàn)實情況，對包括GPU在內(nèi)的AI加速器解決方案的引入評估和選型制定一個標準，提高硬件的利用率，以及對AI芯片的架構定義設計以及優(yōu)化提供指引。

所謂 “沒有規(guī)矩，不成方圓”，縱觀計算機體系結(jié)構的發(fā)展史，Benchmark一直在幕后擔任著指揮棒的角色，深刻地影響、甚至左右著芯片行業(yè)的發(fā)展。遠到超算領域的Linpack，CPU界的SPEC，近到GPU世界的3DMark以及智能手機的AnTuTu，不知道有多少公司多少工程師為此而“分”狂。AI 領域的benchmark卻一直缺乏有領導性地位的公司帶領。

在2018年云棲大會新一代異構計算專場的論壇上，阿里巴巴資深架構師徐凌杰發(fā)布了AI Matrix——AI Benchmark基準測試平臺（https://aimatrix.ai），結(jié)合阿里在芯片領域的布局以及在AI方面的投入，重磅推出阿里的Benchmarks。

阿里的愿景是“讓天下沒有難做的生意”，AI Matrix定位則是“讓天下沒有難測的AI加速器”。

“我們不僅會將這套平臺用于阿里內(nèi)部的芯片設計和技術選型，同時也會把一部分的能力，通過（https://aimatrix.ai）網(wǎng)站以及相應的代碼庫開放，讓所有有需要或者有志于為AI軟硬件做出貢獻的人，都可以從中獲益?！?/p>

“阿里是一家技術公司，但也是一家平臺型的公司，平臺型的公司特點就是要有開放性和包容性，我們希望通過自身經(jīng)驗能夠幫到更多的人。一起共同來繁榮AI芯片、AI加速器這個市場，這是我們做AI Matrix的使命?！?/p>

芯片是AI發(fā)展的核心技術

根據(jù)權威的行業(yè)分析報告，AI芯片的市場將會從今年的70億美金增長到2025年600億美金的市場。在AI的三要素中，數(shù)據(jù)和算法都是阿里優(yōu)勢比較明顯的地方，同時在算力上阿里也在大力推進芯片方面的布局。

“萬事俱備，只欠東風。我們做芯片和造房子有點像，工程復雜度高，周期長，其中的核心人物在英文里都叫Architect，架構定的好不好是項目成敗的根本。我們必須要從應用的需求出發(fā)，要做到Domain Specific軟硬件的完美結(jié)合，就要定出一套合理的評估衡量標準，Benchmark就是一個硬需求，我們不僅要做，而且要花心思去做，把它給做好，這就是我們要借的東風。”

AI時代需要不一樣的Benchmark

Benchmark可以幫助阿里以及開發(fā)者解決以下四個關鍵性問題：

通過調(diào)研和集群信息收集，真實反應AI應用和模型使用的現(xiàn)實情況

基于現(xiàn)有信息，對包括GPU在內(nèi)的AI加速器解決方案的引入評估和選型制定一個標準

利用這些頭部用例進一步推進軟硬件融合，提高硬件的利用率

結(jié)合行業(yè)前沿的算法，對AI芯片的架構定義設計以及優(yōu)化提供指引

“所以，在開始Benchmark的項目之初，我們就定好了平臺化，靈活性，專業(yè)性以及可移植性四個主要方向，并創(chuàng)新性地提出了合成模型StatsNet來幫助我們實現(xiàn)信息及時靈活以及輕量級地落地，來促進AI加速器及時準確的迭代?！?/p>

“我們初期的研發(fā)工作也得到了外界的認同，關于合成模型的方法論的論文也已經(jīng)被今年即將在達拉斯舉行的SC超算會議錄用?！?/p>

AI = Architecture Intelligence

AI Matrix的定位將不僅僅是一個簡單的測試集，而是希望能夠在將來提供完整的工具鏈以及解決方案。在定位上，除了在做好Benchmark本身最基本的評測功能之外，阿里巴巴也會把它拓展到應用和資源優(yōu)化的領域，不僅做到Domain Specific軟硬件結(jié)合，同時也能做到Agile Design架構的快速迭代。

“我們誠摯感謝合作伙伴對于阿里巴巴在人工智能發(fā)展推進上的支持和反饋，也希望有更多的公司組織甚至個人都能夠參與到我們的項目中來，一起來攜手共建更強大的AI 芯片架構的基礎設施?！?/p>

希望AI Matrix成為AI芯片設計的征程上最好的指南針，不僅能夠陪你走到目的地，而且能夠讓你看到最好的風景。