AI一直是Meta廣告系統的關鍵組成部分。從手動特徵工程的小模型開始,我們進步到建立數以百計的深度神經網路模型,這些模型有數萬億的參數。每個模型都獨立優化不同的目標,如提高廣告質量以提供更好的用戶體驗,或提高轉換率以為我們的廣告商提供更高的廣告投資回報。
Meta持續大膽地推進並部署最先進的AI,以實現我們的廣告系統性能的重大改變。我們正在推出更強大的AI模型,以提高所有廣告類型和廣告表面的性能。我們的目標是通過與廣告商目標的更深入對齊,並利用高增長領域(如短片視頻)的快速擴展,為人們提供愉快的體驗,同時努力保護隱私。
最近,我們建立並部署了Meta Lattice,這是一種新的模型架構,它學會預測廣告在各種數據集和優化目標上的性能,這些目標以前是由許多較小的、孤立的模型支持的。它以以下方式增強Meta的廣告系統:
更好的性能:Meta Lattice能夠全面提高我們的廣告系統的性能。我們通過高容量架構來提升其性能,使我們的廣告系統能夠更廣泛、更深入地理解數據中的新概念和關係,並通過大量目標的聯合優化為廣告商帶來好處。
提高AI效率:維護和提升較少、更強大的模型使我們的整體廣告系統在採用未來AI創新方面更加靈活,為我們的廣告商帶來更大的價值。我們也期待,過渡到Meta Lattice將使我們的系統能夠提高計算效率,釋放資源去探索AI的新領域。
Meta Lattice:大於其部分之和的模型架構
在使用這種模型架構之前,隨著新的表面、廣告商產品和隱私實踐的出現,Meta Ads模型空間預計在未來幾年內將大幅增長。維護大型模型空間通常會導致AI創新的擴散速度較慢和計算效率較低。
我們已經建立了一種全面的模型架構,它可以結合不同的信號,並在各個領域和目標之間平衡性能。此外,平衡模型性能與計算效率是一個複雜且引人入勝的技術挑戰。
為了克服這些挑戰,我們建立了以下關鍵組件:
處理延遲反饋:一個廣告和一個觀看廣告的人之間的互動可以從幾秒(例如,點擊、喜歡)到幾天(例如,考慮購買、加入購物車,然後從網站或應用程序進行購買)。通過具有時間意識的多分佈建模,Meta Lattice不僅可以捕捉到來自新鮮信號的人的實時意圖,還可以從慢速、稀疏和延遲的信號中捕捉到長期興趣。
平衡多個領域和目標:Meta Lattice能夠在多個領域和目標之間平衡性能,並達到一種狀態,即在不傷害其餘目標的情況下,無法進一步提高任何目標(也稱為帕累托最優)。如帕累托前緣特徵選擇、MetaBalance等技術,可以幫助避免手動調整數千個不同領域和數十個不同目標的性能。
先進的模型縮放:Meta Lattice有數萬億的參數,是在數千個數據領域(包括Meta的平台表面和我們面向廣告商的產品)的數千億個例子上訓練的。我們的定制深度和分層集成網絡模型,建立在Transformers骨幹上,可以在GPU上高度縮放。
最大化AI Capex效率:以前,數百個模型被單獨訓練、服務和優化。現在,我們引入了兩個層次的資源共享:(1)通過聯合優化,在領域、目標和排名階段之間進行水平共享;(2)從大型、高容量的上游模型到輕量級的下游
垂直模型的層次共享。通過資源共享增強,我們可以顯著減少計算需求。
開創AI驅動廣告的新時代
隨著消費者行為的持續變化、經濟放緩以及行業數據使用實踐和限制的持續變化,我們需要更聰明、更靈活的AI系統,能夠快速、有效地應對這些挑戰。
Meta Lattice是我們更廣泛、更深入地使用AI來增強Meta廣告系統的一種方式。該系統將不斷學習提高各種表面、目標和廣告類型性能的基本特徵。未來,我們將繼續對Meta Lattice進行進一步迭代。這種新的模型架構創造了一個更靈活的系統——一個能夠更快地適應更廣泛市場變化、能夠快速利用新的AI創新,並更有效地運行以提供幫助業務成長的結果的系統。
文章參考資料來源:New AI advancements drive Meta’s ads system performance and efficiency
edited by AI
如果喜歡我的文章
歡迎訂閱我的電子報
有最新文章,我會寄送給你
近期文章