Apple WWDC 中的大型模型分析和討論：大型和小型號（閥門控制），合作驗證，代理程序協調，訪問估算，內存和安全性問題

1.背景

6 月 24 日，蘋果 $ 蘋果 (AAPL.US) $ 於 6 月 10 日舉行第 24 屆世界自然基金會議。作者更關心與大模型相關的內容。在新聞發布會後，可以確認幾個內容：

1.蘋果與開放 AI 達成合作，GPT-4o 將登陸 IOS 18

二.蘋果本身有一個小型號的上端

三.簡單的任務使用小型模型，而複雜的任務使用支持在線查詢的雲模型 GTP-4o。導出的安全性問題和大小模型的門檻控制，即大小模型的切換，很可能採用固定的應用方法，也就是在簡單的應用場景中使用小模型功能

4.對於複雜的工作流程，它們會使用協調串連接。在大型模型的祝福下的 Agent 智能機身功能進一步發揮，例如使用 Siri 作為工作流程觸發的起點

二.模型尺寸

根據新聞發布會的消息，GPT-4o 已確認登陸 IOS 18。此外，蘋果本身使用小型號功能（在新聞發布會中提到了幾個），例如消息重要性反轉，內容重寫等，用戶目前可以自由使用。此外，如果您想單獨使用 GPT-4o 功能，則可以自己訪問 API 密鑰調用

由於作者一直在跟踪蘋果大型模型的情況，因此我之前分析了大小型號的問題。

根據 Apple 目前公開的信息，對於複雜的任務，會調用雲端大型模型功能 (GPT-4o)，並在本機執行簡單的任務，這受到最終的計算能力限制，導致本機模型的功能有限。至於是否是谷歌的 Gemini，很可能不是根據當前的信息量（雙方都沒有披露信息來表明這種情況），因此 Google 很可能會被消除

此外，在新聞發布會中提到了幾種模型，因此可以推斷終端機器是多種模型實現的多模式，而不是單一模型的基礎多模式（如文本，照片等）的統一。

這導致一個需要驗證的問題，是否目前使用 Transformer 架構，還是它是基於以前的研究結果的模型，需要驗證。根據蘋果當前的技術和大型機型在 Transformer 架構上進化的成熟度，對於蘋果來說，實現多模式「小」模型來說，對於一個相對簡單的任務來說，對於蘋果來說，實現多模式「小」模型可能並不太複雜。

三.合作驗證

在蘋果的大型號放在機器上的時期，傳播了幾個謠言：

1.蘋果與 Open AI 合作將 GPT 放在機器上：當 Open AI 5 月發布 GPT-4o 時，尤其是在強調響應速度時，有人模糊感覺到有這個方向的推動，尤其是當語音助理的演示推出時，進一步加強了這方面的猜測。合作已得到確認。

二.蘋果與谷歌合作，把 Gemini 放在最後：多虧了谷歌開發的雙子座小型號，外界曾經有傳聞與谷歌合作，把雙子座放在終點。此外，根據當時的計算功率 TOPS 估計，在 3 億參數的規模上，蘋果的芯片也可以完全掌握它，這進一步深化了這種推論（蘋果沒有產生出出色的結果）。目前，謠言是自我毀滅的，合作尚未達成。

三.蘋果與百度合作：由於 GPT-4o 的網絡原因，國內通話（過牆不符合國家安全限制）給予了與百度合作的可能性。而且，據蘋果的說法，不同版本的 IOS 18 將在 AI 上有差異，這個消息正在加強了這種合作的推廣。儘管之前有謠言，新聞尚未得到確認，但隨著 IOS 18 的推出，AI 功能的灰度發布可以驗證該領域的具體新聞。而且，根據中國大型車型的當前情況，與百度合作是最好的選擇。畢竟，文欣怡安的地位已經在 C 端優勢中鞏固了。

最後，根據進步速度，蘋果計劃使用大語言模型來優化其智能助手 Siri。但是，這些功能的推出可能必須等到 2025 年。因此，很可能在短時間內沒有準確的新聞。

4.代理程式協調、存取估算和記憶體訊息

我只能說，這種能力並不令人驚訝。在 GPT-4o 和谷歌開發人員會議上，我看到了大型模型目前可以執行的具體操作，蘋果已經集成了它們。過去兩天，外界一直在談論軟件和硬件的好組合，但之前的 Google 和 Meta 的演示已經展示了這個內容。此外，這裡特別指出：關於旅行的使用和計劃的實施，作者也根據大模式做了一些事情。從新聞發布會上，多虧了大型 GPT-4o 自身功能，響應速度和蘋果系統的集成，整體信息流程完成，並實現任務分解、排列、處理和重組過程。克服了大模型反應速度緩慢的問題之後，雲端和本地之間的高效溝通和任務解決已成為可能。這裡需要提到的是代理程式功能。對於任務分解後的情況，將代理程式的重塑能力注入到每個鏈接中，對 GPT-4o 的整體能力提高有更大的影響。其次，手機上的場景是相對固定的鏈接，或者可以相對固定的鏈接。因此，此模型的操作模式已成為可能（開放-》相對開放）

以下還有蘋果本身發布的幾組數據：

1.Siri 用戶每天發出 150 億個語音請求

二.全球超過 10 億 Apple 用戶

根據以上數據，可以得出以下值得討論的問題：

1.GPT-4o 可以加載多少並行，並行情況下的響應速度是多少？

二.為什麼 IOS 還需要集成本地模型？

關於問題 1：GPT-4o 本身擁有近 2 億用戶，而蘋果在全球擁有 10 億用戶（可以發出正常網絡請求的 GPT-4o 用戶將乘以一個係數）。假設在美國的蘋果用戶數約為 140 億

Siri 每天有 150 億個語音請求。如果乘以美國的使用者數量，則美國的請求數量估計為：

（140 萬/10 億次）* 1.5 億次 = 2 億次

Siri 每次喚醒和動作的比例都會使用 GPT-4o，儘管這無法驗證

而且 GPT-4o 每天對用戶請求的自己響應的具體數量是多少？根據最新數據，5 月份對 Open AI 的訪問次數為 750 萬次，如果基於 30 天計算，則每天為 25 萬次。

高頻請求數（每天 240 萬次）與兩者相結合，實際上可能超過總數。開放 AI 能持續嗎？一方面，在推理速度方面，另一方面，在整體穩定性方面。

根據第一問題的答案，提出第二個問題：

作者猜測，這也是一個終端做本地模型的想法-即分散。通過本地模型的轉移，一方面可以節省通話費用，另一方面，GTP-4o 在高並行壓力下緩衝，以防止因堵塞造成的用戶體驗不佳。

其次，這也是蘋果終端佈局的測試鏈接。畢竟，很少有這樣的機會來做到這一點。

但是，記憶體限制問題如下。根據最新消息：儘管 Apple IOS 18 將在未來帶來這種型號功能，但內存需求超過 8G，許多型號將因內存和芯片計算能力問題而無法使用它。換句話說，市場是否促進替換流動電話的偽裝？但是，從作者的角度來看，隨著當前的大型號功能的部署和蘋果系統的整體性能，只為了嘗試一輪大型號功能來更改手機並不值得更改。

5.安全性問題

至於與 Open AI 合作並結合端端與雲大型模型的解決方案，對用戶信息安全存在很大的安全風險。馬斯克早上發布了新聞：

1.馬斯克表示，「同意」蘋果數據共享條款的問題在於沒有人真正閱讀這些用戶條款和條件，因此用戶可能會在不知道的情況下被背叛

二.其次，對數據安全的損害可能在短期內並不明顯，但一旦數據積累到一定程度，損害就非常大（數據-> 特徵用戶-> 監視用戶）。此外，隨著開放 AI 的訪問，蘋果數據已成為 OpenAI 的食物，它不斷學習和成長。在這方面，馬斯克還說：「如果蘋果在操作系統層級集成 OpenAI，那麼蘋果設備將被禁止在我的所有公司中使用。這是一種不可接受的安全違規。他公司的訪客必須在門口檢查他們的 Apple 設備，這些設備將存放在法拉第籠中。3.從馬斯克的角度來看，他認為蘋果不夠聰明來製作自己的人工智能，但它可以確保 OpenAI 保護用戶的安全和隱私。這顯然是荒唐的！一旦蘋果將您的數據提供給 OpenAI，就無法知道會發生什麼。他們正在賣掉你。」作者反對此信息。與通常的信息查詢和對話不同，一旦手機上的信息被模型無法解釋地提取並提供到雲端，並且模型在終端服務中保留個人行為，Open AI 完全能夠在雲中實際數據中塑造個人。儘管 Open AI 和 Apple 不濫用數據，但一旦發生數據洩漏，對用戶的損害無疑是致命的，用戶在此過程中面臨巨大的風險。此外，蘋果展示的大型號功能對用戶而言並不值得冒險。雖然國內外手機上都有雲，但可能會收集信息，但這些信息不用於互動。此外，在新技術的支持下，資訊整合所帶來的後果總是令人難以置信。6.摘要 1.蘋果方面的這一輪大型型號長期一直受市場和作者的期望。畢竟，市場和蘋果本身都一直在將這個內容用作宣傳，芯片，模型架構，技術等方向的熱門話題。但是，在實際結果方面，經歷了 GPT-4o 和谷歌開發人員會議之後，作者沒有感覺太驚人。此外，由於機器本身的功能尚未完全打開，因此不知道是否會在基礎上進行折扣。2.安全問題是最重要的問題之一。從 Open AI 目前對安全控制的角度來看，它無疑會增加風險，因為它的安全性，超級對齊團隊和其他情況之前已被公開報導。包括保安主管和負責保安的技術大師也已辭職。此外，與 GPT-4o 或未來的 GPT-5 互動，所有信息都在雲中。如何解決這個問題？只看看宣傳是不夠的。其次，包括信息收集後的存儲問題，如何確保數據洩漏不發生？作者認為，這是一個緊急的問題，需要在書的大模型方面解決。

$蘋果(AAPL.US)$