close

Facebook和微軟“結盟”,發佈AI接口標準以兼容不同AI架構

原標題:Facebook和微軟“結盟”,發佈AI接口標準以兼容不同AI架構

項目之初,在設計學習模型時,工程師和研究人員有很多具備不同特性的 AI 架構可以選擇。很多時候,研發階段使用的架構和實際投產時使用的架構並不一致,因此,很多組織不得不做大量的工作,來彌合研發架構和產品架構之間的特性差異。

而在昨天,Facebook 和微軟發佈的開放式神經網絡交換(Open Neural Network Exchange ,ONNX )格式將可能解決這一問題。這是一種描述深度學習模型的統一標準,以確保模型能夠在架構之間進行遷移。ONNX 是邁向 AI 開放生態系統的第一步。從此以後,AI 開發者能更容易地對最新的開發工具進行選擇和組合,以發揮最佳性能。



ONNX 的發佈,使得 AI 開發者能在開發過程中,更加自由地選用不同的架構。9 月開始,Caffe2、PyTorch 和 Cognitive Toolkit 都會支持 ONNX 標準,這樣,在一個架構下訓練好的模型可以直接遷徙到另外一個架構下。Facebook 和微軟呼籲業界積極支持 ONNX 生態系統的發展,因為提高不同架構之間的兼容性和減少產品各階段之間的彌合性工作能顯著提高 AI 領域的創新效率。

Facebook與靜電機推薦靜電機ONNX

ONNX 是 Facebook 深度學習系統的重要組成部分。Facebook AI 團隊 FAIR 和 AML 一向致力於拓展 AI 技術前沿,並研發更好的學習算法。當取得突破後,Facebook AI 團隊就會盡快將成果融入 Facebook 應用中,供開發者使用。引入 ONNX 後,Facebook AI 團隊將 AI 基礎研究成果轉化為產品的研發效率明顯提高。

測試新模型的研發人員希望在設計神經網絡時有更多的自由度——不論是動態神經網絡還是支持梯度——並遵循基本的 ConvNet 格式。研發人員還希望能快速迭代,因此他們需要研發和測試的對應工具。PyTorch 的目的是滿足這種要求,以便靜電油煙處理機將研發人員從平臺細節的約束中解放出來,並聚焦於系統頂層方案的設計。

在產品線上,每天都要用大量數據對產品進行訓練,同時盡可能確保模型的一致性,還要使用量化和底層專用代碼等微觀優化策略讓代碼更貼近於產品的特有模型。Caffe2 針對此需求應運而生,其內部結構有很高的自由度和優化程度,借此可將更大、更好的模型融入硬件平臺。

ONNX 使得 Facebook AI 團隊的基於 PyTorch 的前期研發和基於 Caffe2 的後期產品化工作得以更加流暢地銜接,以加速研究成果的產品化。未來幾個月,Facebook AI 團隊將加強 ONNX,並發佈新版本的 PyTorch 和 Caffe2。

工作原理

Facebook AI 團隊對 PyTorch 和 Caffe2 進行瞭改造以支持 ONNX,並兼容其他 AI 架構。Caffe2 被附加瞭一個翻譯模塊,因為 Caffe2 已經具備內建靜態圖。PyTorch 中,神經網絡以程序而不是顯式圖的形式存在,因此兼容設計難度更大。為瞭將顯式圖從系統中提取出來,AI 團隊構建瞭跟蹤模塊,記錄程序的運行狀態,以降低復雜性,簡化提取顯式圖的難度。

用一個簡單例子來說明用代碼構建顯式圖的過程:



這段代碼包含瞭分支結構和 1 個函數。然而,很多深度學習模型中,someComplicatedFunction()函數的輸出結果是相同的,比如,PyTorch 架構中,很多分支的判定條件,都是對輸入張量的尺度和維度的計算結果。在這些情況下,跟蹤模塊將代碼轉換為 ONNX 格式,如下所示:

目前,跟蹤模塊已經成功兼容大多數常見的神經網絡,但是仍不支持某些高級功能,比如 PyTorch 中的動態流控制。AI 團隊將強化 ONNX 和跟蹤模塊來支持這些功能,以發揮 PyTorch 的靈活性,和 Caffe2 的穩定高性能特性。

下一步計劃

最新版的 Caffe2 和 PyTorch 也與 ONNX 一並發佈。Facebook AI 團隊希望 AI 開發者能夠對這個尚處於早期階段的標準進行測試,並發回反饋以協助改進。

-End-

編輯:離子心 校審:郝錒鈾

參考:

https://research.fb.com/facebook-and-microsoft-introduce-new-open-ecosystem-for-interchangeable-ai-frameworks/返回搜狐,查看更多

責任編輯:

聲明:本文由入駐搜狐號的作者撰寫,除搜狐官方賬號外,觀點僅代表作者本人,不代表搜狐立場。

閱讀 ()

台灣電動床工廠 電動床

台灣電動床工廠 電動床

AUGI SPORTS|重機車靴|重機車靴推薦|重機專用車靴|重機防摔鞋|重機防摔鞋推薦|重機防摔鞋

AUGI SPORTS|augisports|racing boots|urban boots|motorcycle boots

arrow
arrow

    bog404g2g2 發表在 痞客邦 留言(0) 人氣()