英特爾第一代酷睿 Ultra 正式發佈，築基 AI PC，能無網跑 AI 大模型
當我們使用 ChatGPT、文心一言和通義千問等等大語言模型支持的 AI 工具時，有一個必要條件：必需聯網。
因為 AI 工具的運算在雲端，並非電腦本地。但是在上游芯片廠商和終端廠商看來，有網環境下大模型固然強大，但也需要無需網絡也能運行的端側大模型來補充，端雲結合，才是萬全之策。
於是在 12 月 15 日的英特爾第一代酷睿 Ultra 正式發佈活動上，我們看到了阿里雲通義千問大模型成功適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署。
得益於第一代酷睿 Ultra 平台（代號 Meteor Lake）有着英特爾 40 年來最重大的處理器架構變革，即分離式模塊架構，以及首次集成神經網絡處理單元（NPU），部署在英特爾酷睿 Ultra 平台設備上的通義千問大模型能夠大幅縮短了模型推理響應時間，平均加速可達 3 倍。
加上此前英特爾也測試出了來自 Meta 的 LLaMa2-7B 大模型在端側無網運行的良好表現，AI PC 的概念，因為端側大模型的逐漸落地，變得清晰起來。
自去年年底 ChatGPT 發佈開始，大語言模型技術支持下的 AIGC 應用獲得了極大的發展，這一波 AI 浪潮的主陣地便發生在 PC 上，因為 PC 在交互和呈現上，都更契合多數的 AIGC 應用，但是不管是 ChatGPT 還是 MidJourney，都需要聯網使用，一旦沒有網絡，那我們便與 AI 斷連。
因而，PC 想要真正進化為 AI PC，不僅是 AIGC 應用能方便地運行在上面，本身自己也需要有強悍的 AI 處理能力。
所以，阿里雲通義千問大模型 Qwen-7B 成功適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署的新聞就有兩層含義，和一個象徵性意義了。
第一層含義，英特爾喊出 AI PC 口號，依仗的是什麼？
在今年 9 月硅谷舉辦的 on 技術創新大會上，英特爾 CEO 帕特基辛格提出了 PC 的革命性概念——AI PC。
想要在 PC 上高效進行 AI 計算，運行 AI 應用，傳統的 CPU+GPU 架構並非最優解，因而在第一代酷睿 Ultra 平台上，英特爾創新性地採用了分離式模塊架構，這也是英特爾歷史上最大的處理器結構變革，處理器將由計算模塊、SoC 模塊、圖形模塊以及 IO 模塊這 4 個獨立模塊組成，並通過 Foveros 3D 封裝技術連接：
計算模塊（Compute Tile）：採用了最新一代的能效核和性能核微架構以及增強的功能。該模塊採用新一代的 Intel 4 製程工藝，在能耗比方面實現了重大進步。
SoC 模塊（SoC Tile）：創新的低功耗島設計（Low Power Island），集成了神經網絡處理單元（NPU），為 PC 帶來了高能效的 AI 功能表現，併兼容 OpenVINO 等標準化程序接口，便於 AI 的開發及應用普及。新的低功耗能效核，進一步優化節能與性能間的平衡。SoC 模塊還集成了內存控制器、媒體編解碼處理和顯示單元，支持 8K HDR 和 AV1 編解碼器以及 HDMI 2.1 和 Display Port 2.1 標準。還支持 Wi-Fi 和 Bluetooth，包括 Wi-Fi 6E。
圖形模塊（GPU Tile）：這款處理器集成了英特爾鋭炫圖形架構，能夠在集成顯卡中提供獨立顯卡級別的性能，支持光線追蹤和 Intel XeSS。憑藉圖形功能的躍升和更高的能效表現，Meteor Lake 能夠提供出色的每瓦性能表現。
IO 模塊（IO Tile）：包含出眾的連接性，集成了 Thunderbolt 4 和 PCIe Gen 5.0。
以酷睿 Ultra 7 165H 這款處理器（TDP 28W）為例，英特爾表示其多線程性能是高通驍龍 8cx Gen 3 的 3 倍有餘，是直接競爭對手 AMD 7840U 的 1.11 倍。
同時，英特爾表示，在多線程性能更優的情況下，酷睿 Ultra 7 165H 在各種場景的能效表現，也都優於 AMD 7840U。
另外低功耗島是一個非常有趣的設計，其中有 2 個 LPE-Cores 超低功耗核心，可以運行不那麼需要響應速度的任務，比如在線播放等等，進一步降低功耗。之所以説這個設計有趣，是因為這兩個超低功耗核心位於 SoC 模塊，而不是計算模塊。
當然，最重要最顯著的更新，自然是新增的 NPU 模塊將主要承擔起 AI 運算的責任，因為是針對人工智能加速的專項計算單元，NPU 機型 AI 計算時的優勢是高性能低功耗，另外，低延遲高響應速度的 CPU 和高性能和高吞吐量的 GPU 也會負擔起了 AI 算力的需求，三者協作，就構成了終端上的強大 AI 算力。
依舊是對比隔壁 AMD 7840U 處理器，英特爾表示酷睿 Ultra 7 165H 整體的 AI 運算能力不僅大勝自家上代產品酷睿 i7-1370P，更是碾壓 AMD 7840U。
舉個實際應用的例子，英特爾和字節跳動旗下的視頻剪輯工具剪映一起優化了用户高頻使用的「智能摳像」功能，在把這個功能的計算需求切換到第一代酷睿 Ultra 產品的 NPU 之後，我們發現，處理視頻素材時不僅耗時降低，功耗也降低了，這個時候空餘出來的 CPU 和 GPU 算力就可以用在其他的剪輯需求上。
因而，所謂 AI PC，不僅是能更好地運行 AI 功能，也能讓效率提升，功耗降低。
第二層含義，像通義千問這樣的大模型，能幹啥？
現在我們已經可以在 PC 上進行百花齊放的 AI 操作，包括但不限於，文生文、文生圖、文生音樂，還有 AI 摳圖、手勢識別、動作捕捉，更細節地還有 AI 配音變聲、視頻會議眼神矯正等等。
其中有一些基於大語言模型的是全新體驗，有一些是早就可以在 PC 上實現的，比如 10 代酷睿就率先引入了 AI 性能的支持，可以為 PC 帶來自動圖像增強、視頻分辨率增強、智能降噪等 AI 功能。
大語言模型技術被認為是通往通用型人工智能（AGI，Artificial General Intelligence）的道路，AGI 是指一種具備與人類相似的廣泛智能水平和能力的人工智能系統，相較之下，目前大多數人工智能系統專注於特定任務或領域。
在這個前提下，阿里雲剛剛開源的通義千問 720 億參數模型（Qwen-72B）可以稱之為目前最強開源大模型，Qwen-72B 在 10 個權威基準測評創下開源模型最優成績，性能超越開源標杆 Llama 2-70B 和大部分商用閉源模型，已經具有一定的通用能力了。
基於阿里雲開源的 Qwen-72B，Qwen-14B、Qwen-7B、Qwen-1.8B 四款大語言模型，以及視覺理解大模型 Qwen-VL、音頻理解大模型 Qwen-Audio，阿里雲實現了「全尺寸、全模態」的開源。
這意味着對於各行各業的開發者來説，這些開源大模型能夠有多種選擇套餐，PC、手機，甚至是 IoT 設備的端側不熟都有可能。
通義千問大模型部署在適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署便是其中一種成為現實的可能。
另外，華東理工大學 X-D Lab 團隊基於通義千問開源模型 Qwen-7B 和 Qwen-14B 開發了多款行業大模型，包括心理健康大模型 MindChat（漫談）、醫療健康大模型 Sunsimiao（孫思邈）、教育/考試大模型 GradChat（錦鯉）等等。
浙江大學聯合高等教育出版社基於 Qwen-7B 開發了智海-三樂教育垂直大模型，已在全國 12 所高校應用，可提供智能問答、試題生成、學習導航、教學評估等能力，模型已在阿里雲靈積平台對外提供服務，一行代碼即可調用。
脱離比特世界，在現實世界，浙江有鹿機器人科技有限公司在路面清潔機器人中集成了 Qwen-7B，使機器人能以自然語言與用户進行實時交互，理解用户提出的需求，將用户的高層指令進行分析和拆解，做高層的邏輯分析和任務規劃，完成清潔任務。
簡言之，AI 的舞台不僅僅在於 PC，PC 也不僅僅只有 AI 應用，但它們之間開始產生巨大的交集，產生將改變我們 PC 使用習慣的場景。
畫圖，是用數位板加壓感筆進行創作，還是用文生圖？
寫作，是用鍵盤一個字一個字敲出來，還是用文生文？
這些問題已經顯現，每一個擁有 AI PC 的用户，也將逐漸面臨選擇和使用習慣的轉變。
資料來源：愛範兒（ifanr）
因為 AI 工具的運算在雲端，並非電腦本地。但是在上游芯片廠商和終端廠商看來，有網環境下大模型固然強大，但也需要無需網絡也能運行的端側大模型來補充，端雲結合，才是萬全之策。
於是在 12 月 15 日的英特爾第一代酷睿 Ultra 正式發佈活動上，我們看到了阿里雲通義千問大模型成功適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署。
得益於第一代酷睿 Ultra 平台（代號 Meteor Lake）有着英特爾 40 年來最重大的處理器架構變革，即分離式模塊架構，以及首次集成神經網絡處理單元（NPU），部署在英特爾酷睿 Ultra 平台設備上的通義千問大模型能夠大幅縮短了模型推理響應時間，平均加速可達 3 倍。
加上此前英特爾也測試出了來自 Meta 的 LLaMa2-7B 大模型在端側無網運行的良好表現，AI PC 的概念，因為端側大模型的逐漸落地，變得清晰起來。
自去年年底 ChatGPT 發佈開始，大語言模型技術支持下的 AIGC 應用獲得了極大的發展，這一波 AI 浪潮的主陣地便發生在 PC 上，因為 PC 在交互和呈現上，都更契合多數的 AIGC 應用，但是不管是 ChatGPT 還是 MidJourney，都需要聯網使用，一旦沒有網絡，那我們便與 AI 斷連。
因而，PC 想要真正進化為 AI PC，不僅是 AIGC 應用能方便地運行在上面，本身自己也需要有強悍的 AI 處理能力。
所以，阿里雲通義千問大模型 Qwen-7B 成功適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署的新聞就有兩層含義，和一個象徵性意義了。
第一層含義，英特爾喊出 AI PC 口號，依仗的是什麼？
在今年 9 月硅谷舉辦的 on 技術創新大會上，英特爾 CEO 帕特基辛格提出了 PC 的革命性概念——AI PC。
想要在 PC 上高效進行 AI 計算，運行 AI 應用，傳統的 CPU+GPU 架構並非最優解，因而在第一代酷睿 Ultra 平台上，英特爾創新性地採用了分離式模塊架構，這也是英特爾歷史上最大的處理器結構變革，處理器將由計算模塊、SoC 模塊、圖形模塊以及 IO 模塊這 4 個獨立模塊組成，並通過 Foveros 3D 封裝技術連接：
計算模塊（Compute Tile）：採用了最新一代的能效核和性能核微架構以及增強的功能。該模塊採用新一代的 Intel 4 製程工藝，在能耗比方面實現了重大進步。
SoC 模塊（SoC Tile）：創新的低功耗島設計（Low Power Island），集成了神經網絡處理單元（NPU），為 PC 帶來了高能效的 AI 功能表現，併兼容 OpenVINO 等標準化程序接口，便於 AI 的開發及應用普及。新的低功耗能效核，進一步優化節能與性能間的平衡。SoC 模塊還集成了內存控制器、媒體編解碼處理和顯示單元，支持 8K HDR 和 AV1 編解碼器以及 HDMI 2.1 和 Display Port 2.1 標準。還支持 Wi-Fi 和 Bluetooth，包括 Wi-Fi 6E。
圖形模塊（GPU Tile）：這款處理器集成了英特爾鋭炫圖形架構，能夠在集成顯卡中提供獨立顯卡級別的性能，支持光線追蹤和 Intel XeSS。憑藉圖形功能的躍升和更高的能效表現，Meteor Lake 能夠提供出色的每瓦性能表現。
IO 模塊（IO Tile）：包含出眾的連接性，集成了 Thunderbolt 4 和 PCIe Gen 5.0。
以酷睿 Ultra 7 165H 這款處理器（TDP 28W）為例，英特爾表示其多線程性能是高通驍龍 8cx Gen 3 的 3 倍有餘，是直接競爭對手 AMD 7840U 的 1.11 倍。
同時，英特爾表示，在多線程性能更優的情況下，酷睿 Ultra 7 165H 在各種場景的能效表現，也都優於 AMD 7840U。
另外低功耗島是一個非常有趣的設計，其中有 2 個 LPE-Cores 超低功耗核心，可以運行不那麼需要響應速度的任務，比如在線播放等等，進一步降低功耗。之所以説這個設計有趣，是因為這兩個超低功耗核心位於 SoC 模塊，而不是計算模塊。
當然，最重要最顯著的更新，自然是新增的 NPU 模塊將主要承擔起 AI 運算的責任，因為是針對人工智能加速的專項計算單元，NPU 機型 AI 計算時的優勢是高性能低功耗，另外，低延遲高響應速度的 CPU 和高性能和高吞吐量的 GPU 也會負擔起了 AI 算力的需求，三者協作，就構成了終端上的強大 AI 算力。
依舊是對比隔壁 AMD 7840U 處理器，英特爾表示酷睿 Ultra 7 165H 整體的 AI 運算能力不僅大勝自家上代產品酷睿 i7-1370P，更是碾壓 AMD 7840U。
舉個實際應用的例子，英特爾和字節跳動旗下的視頻剪輯工具剪映一起優化了用户高頻使用的「智能摳像」功能，在把這個功能的計算需求切換到第一代酷睿 Ultra 產品的 NPU 之後，我們發現，處理視頻素材時不僅耗時降低，功耗也降低了，這個時候空餘出來的 CPU 和 GPU 算力就可以用在其他的剪輯需求上。
因而，所謂 AI PC，不僅是能更好地運行 AI 功能，也能讓效率提升，功耗降低。
第二層含義，像通義千問這樣的大模型，能幹啥？
現在我們已經可以在 PC 上進行百花齊放的 AI 操作，包括但不限於，文生文、文生圖、文生音樂，還有 AI 摳圖、手勢識別、動作捕捉，更細節地還有 AI 配音變聲、視頻會議眼神矯正等等。
其中有一些基於大語言模型的是全新體驗，有一些是早就可以在 PC 上實現的，比如 10 代酷睿就率先引入了 AI 性能的支持，可以為 PC 帶來自動圖像增強、視頻分辨率增強、智能降噪等 AI 功能。
大語言模型技術被認為是通往通用型人工智能（AGI，Artificial General Intelligence）的道路，AGI 是指一種具備與人類相似的廣泛智能水平和能力的人工智能系統，相較之下，目前大多數人工智能系統專注於特定任務或領域。
在這個前提下，阿里雲剛剛開源的通義千問 720 億參數模型（Qwen-72B）可以稱之為目前最強開源大模型，Qwen-72B 在 10 個權威基準測評創下開源模型最優成績，性能超越開源標杆 Llama 2-70B 和大部分商用閉源模型，已經具有一定的通用能力了。
基於阿里雲開源的 Qwen-72B，Qwen-14B、Qwen-7B、Qwen-1.8B 四款大語言模型，以及視覺理解大模型 Qwen-VL、音頻理解大模型 Qwen-Audio，阿里雲實現了「全尺寸、全模態」的開源。
這意味着對於各行各業的開發者來説，這些開源大模型能夠有多種選擇套餐，PC、手機，甚至是 IoT 設備的端側不熟都有可能。
通義千問大模型部署在適配英特爾酷睿 Ultra 平台，未來可在 PC 等端側部署便是其中一種成為現實的可能。
另外，華東理工大學 X-D Lab 團隊基於通義千問開源模型 Qwen-7B 和 Qwen-14B 開發了多款行業大模型，包括心理健康大模型 MindChat（漫談）、醫療健康大模型 Sunsimiao（孫思邈）、教育/考試大模型 GradChat（錦鯉）等等。
浙江大學聯合高等教育出版社基於 Qwen-7B 開發了智海-三樂教育垂直大模型，已在全國 12 所高校應用，可提供智能問答、試題生成、學習導航、教學評估等能力，模型已在阿里雲靈積平台對外提供服務，一行代碼即可調用。
脱離比特世界，在現實世界，浙江有鹿機器人科技有限公司在路面清潔機器人中集成了 Qwen-7B，使機器人能以自然語言與用户進行實時交互，理解用户提出的需求，將用户的高層指令進行分析和拆解，做高層的邏輯分析和任務規劃，完成清潔任務。
簡言之，AI 的舞台不僅僅在於 PC，PC 也不僅僅只有 AI 應用，但它們之間開始產生巨大的交集，產生將改變我們 PC 使用習慣的場景。
畫圖，是用數位板加壓感筆進行創作，還是用文生圖？
寫作，是用鍵盤一個字一個字敲出來，還是用文生文？
這些問題已經顯現，每一個擁有 AI PC 的用户，也將逐漸面臨選擇和使用習慣的轉變。
資料來源：愛範兒（ifanr）