邊緣GAI成真
生成式人工智慧(AI)技術及大型語言模型(LLM)逐步往終端應用拓展，然而在邊緣端導入生成式AI技術，需要克服硬體效能、模型參數量及功耗帶來的挑戰。大型AI模型的訓練與推論仰賴大量的參數，以得出精準的結果。然而終端裝置的記憶體容量、處理器效能及能源有限。因此針對生成式AI在邊緣端應用的處理器設計，必須考量產品在效能、可處理的參數量及功耗方面，如何取得最佳平衡。

面對快速成長的邊緣AI應用市場，廠商推出的AI加速器、異質運算平台或MCU解決方案，持續為生成式AI走向終端鋪路。在終端設備資源有限的前提下，LLM需要透過量化(Quantization)等方式壓縮模型，並且確保推論維持一定的精準度。同時處理器廠商在CPU中導入AI引擎，也透過整合CPU、GPU與神經處理單元(NPU)，提高AI裝置的效能，並且降低功耗。AI PC與AI手機陸續問世，也受到市場高度關注。

目錄
編者的話
封面刊頭
突破模型瘦身/精準度瓶頸吳
CPU/GPU/NPU各有所長
搶食邊緣AI商機
揪出晶片漏電流真因
AI匯流趨勢悄然逼進
國際大廠投入如下水餃
Edge AI創新應用開發者大會特別報導刊頭
算力/記憶體容量/低功耗技術缺一不可
突破AI資料傳輸瓶頸
AI機器學習潛力十足
MCU運算效能不卡關
聽覺體驗邁入全新境界
國科會團隊打造本土LLM
台廠關鍵零組件研發鴨子划水
AI能力成差異化關鍵
全球減碳商機持續發酵
法案規範/科技發展相得益彰
技術刊頭
DDR5/HBM3加值邊緣運算
紅外線LayerRelease精準剝離特定區域
智慧運用L1/L5訊號最佳位置手到擒來
結合GPS與星座架構
定向FAST/ORB快又有效
應對系統與應用需求
聯網系統降低木材加工污染
專訪AsteraLabs總裁暨創辦人Sanjay Gajendra
專訪SiTime行銷執行副總裁Piyush Sevalia
新品上市
產業特搜
廣告索引