AI新進展推動Meta廣告系統效能與效率

AI一直是Meta廣告系統的關鍵組成部分。從手動特徵工程的小模型開始，我們進步到建立數以百計的深度神經網路模型，這些模型有數萬億的參數。每個模型都獨立優化不同的目標，如提高廣告質量以提供更好的用戶體驗，或提高轉換率以為我們的廣告商提供更高的廣告投資回報。

Meta持續大膽地推進並部署最先進的AI，以實現我們的廣告系統性能的重大改變。我們正在推出更強大的AI模型，以提高所有廣告類型和廣告表面的性能。我們的目標是通過與廣告商目標的更深入對齊，並利用高增長領域（如短片視頻）的快速擴展，為人們提供愉快的體驗，同時努力保護隱私。

最近，我們建立並部署了Meta Lattice，這是一種新的模型架構，它學會預測廣告在各種數據集和優化目標上的性能，這些目標以前是由許多較小的、孤立的模型支持的。它以以下方式增強Meta的廣告系統：

1. 更好的性能：Meta Lattice能夠全面提高我們的廣告系統的性能。我們通過高容量架構來提升其性能，使我們的廣告系統能夠更廣泛、更深入地理解數據中的新概念和關係，並通過大量目標的聯合優化為廣告商帶來好處。

2. 提高AI效率：維護和提升較少、更強大的模型使我們的整體廣告系統在採用未來AI創新方面更加靈活，為我們的廣告商帶來更大的價值。我們也期待，過渡到Meta Lattice將使我們的系統能夠提高計算效率，釋放資源去探索AI的新領域。

3. 更快適應市場變化：隨著人們對數據使用方式的期望不斷變化，政府和行業參與者的規定和政策也在變化。演變的數據使用規定和平台實踐改變了機器學習模型可以使用的數據類型和數量。我們設計了Meta Lattice，以在我們獲得較少細緻數據的新數字廣告環境中推動廣告商的表現。此外，Lattice能夠在領域和目標之間推廣學習，這在模型有限的數據訓練時尤其重要。較少的模型也意味著我們可以主動且高效地更新我們的模型，並適應快速變化的市場環境。

Meta Lattice：大於其部分之和的模型架構

在使用這種模型架構之前，隨著新的表面、廣告商產品和隱私實踐的出現，Meta Ads模型空間預計在未來幾年內將大幅增長。維護大型模型空間通常會導致AI創新的擴散速度較慢和計算效率較低。

我們已經建立了一種全面的模型架構，它可以結合不同的信號，並在各個領域和目標之間平衡性能。此外，平衡模型性能與計算效率是一個複雜且引人入勝的技術挑戰。

為了克服這些挑戰，我們建立了以下關鍵組件：

1. 全面理解廣告商和人們的目標：Meta Lattice可以通過多領域、多任務學習和稀疏激活技術，從異質數據源中理解常見的使用模式以及獨特和潛在的人-廣告商互動模式。這種機制對於“冷啟動”問題特別有用——即使數據很少，人們也可以通過更好的泛化接收到更相關的新產品和表面的廣告推薦。

2. 處理延遲反饋：一個廣告和一個觀看廣告的人之間的互動可以從幾秒（例如，點擊、喜歡）到幾天（例如，考慮購買、加入購物車，然後從網站或應用程序進行購買）。通過具有時間意識的多分佈建模，Meta Lattice不僅可以捕捉到來自新鮮信號的人的實時意圖，還可以從慢速、稀疏和延遲的信號中捕捉到長期興趣。

3. 平衡多個領域和目標：Meta Lattice能夠在多個領域和目標之間平衡性能，並達到一種狀態，即在不傷害其餘目標的情況下，無法進一步提高任何目標（也稱為帕累托最優）。如帕累托前緣特徵選擇、MetaBalance等技術，可以幫助避免手動調整數千個不同領域和數十個不同目標的性能。

4. 先進的模型縮放：Meta Lattice有數萬億的參數，是在數千個數據領域（包括Meta的平台表面和我們面向廣告商的產品）的數千億個例子上訓練的。我們的定制深度和分層集成網絡模型，建立在Transformers骨幹上，可以在GPU上高度縮放。

5. 最大化AI Capex效率：以前，數百個模型被單獨訓練、服務和優化。現在，我們引入了兩個層次的資源共享：（1）通過聯合優化，在領域、目標和排名階段之間進行水平共享；（2）從大型、高容量的上游模型到輕量級的下游

垂直模型的層次共享。通過資源共享增強，我們可以顯著減少計算需求。

開創AI驅動廣告的新時代

隨著消費者行為的持續變化、經濟放緩以及行業數據使用實踐和限制的持續變化，我們需要更聰明、更靈活的AI系統，能夠快速、有效地應對這些挑戰。

Meta Lattice是我們更廣泛、更深入地使用AI來增強Meta廣告系統的一種方式。該系統將不斷學習提高各種表面、目標和廣告類型性能的基本特徵。未來，我們將繼續對Meta Lattice進行進一步迭代。這種新的模型架構創造了一個更靈活的系統——一個能夠更快地適應更廣泛市場變化、能夠快速利用新的AI創新，並更有效地運行以提供幫助業務成長的結果的系統。