所有期數
出版資訊
出版日期
2024-06-03
線上出版日期
2024-06-05
分級
普級
語言
繁體中文
閱讀更多
本期介紹
邊緣GAI成真
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展，然而在邊緣端導入生成式AI技術，需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數，以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計，必須考量產品在效能、可處理的參數量及功耗方面，如何取得最佳平衡。
面對快速成長的邊緣AI應用市場，廠商推出的AI加速器、異質運算平台或MCU解決方案，持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下，LLM需要透過量化(Quantization)等方式壓縮模型，並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎，也透過整合CPU、GPU與神經處理單元(NPU)，提高AI裝置的效能，並且降低功耗。AI PC與AI手機陸續問世，也受到市場高度關注。
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展，然而在邊緣端導入生成式AI技術，需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數，以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計，必須考量產品在效能、可處理的參數量及功耗方面，如何取得最佳平衡。
面對快速成長的邊緣AI應用市場，廠商推出的AI加速器、異質運算平台或MCU解決方案，持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下，LLM需要透過量化(Quantization)等方式壓縮模型，並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎，也透過整合CPU、GPU與神經處理單元(NPU)，提高AI裝置的效能，並且降低功耗。AI PC與AI手機陸續問世，也受到市場高度關注。
閱讀更多
目錄
閱讀更多
雜誌簡介
此電子雜誌為PDF格式。
購買提醒：
1.《新電子科技》為電子雜誌，不會有紙本雜誌寄送。購買前請先免費試閱，了解其閱讀形式。
2. 訂購《新電子科技》電子雜誌產品，享有 udn 網站會員提供的服務，恕無法享有《新電子科技》雜誌紙本提供的訂戶服務。
於1986年創刊，以台灣資訊電子上下游產業的訊息橋樑自居，提供國際與國內電子產業重點資訊，以利產業界人士掌握自有競爭力。
徹底執行各專欄內容品質，透過讀者回函瞭解讀者意見，調整方向以專業豐富的內容建立特色；定期舉辦研討會、座談會、透過產業廠商的參與度，樹立專業形象；透過網際網路豐富資訊的提供，資訊擴及華人世界。
我們的讀者群，主要包含電子產業(半導體/零件)上/下游與製造業之工程師、採購人員、市場與產品企畫人員、管理階層、投資電子業人士及產業分析師、有興趣瞭解電子產業脈動之大專以上學生等。
閱讀更多
