RAG整合工作流程 GAI走入嵌入式系統

近年來,與人工智慧(AI)相關的週期性熱點,幾乎都圍繞著大語言模型(LLM)和生成式AI模型。這樣的趨勢反映出這些話題的影響力,日益增強和普及。與大語言模型和生成式AI模型相關的應用涵蓋廣泛的領域,從開放式聊天機器人到任務型助手。雖然LLM主要聚焦基於雲端和伺服器端的應用,但人們對在嵌入式系統和邊緣設備中部署生成式A模型的興趣也不斷增加。...
2024 年 12 月 10 日

多模態將創殺手級應用 LLM/SLM並肩向前

生成式人工智慧(GAI )的應用方向在2024年成型,除了ChatGPT的用戶數量快速成長,適合企業應用的客製化模型,以及用於終端裝置的小型語言模型(SLM)也嶄露頭角。參數更多的模型、多模態與AI代理人(AI...
2024 年 12 月 10 日

AI PC銷量上看億台 小型語言模型蓄勢待發

AI PC在生成式人工智慧(GAI)與AI代理人(AI Agent)的熱潮下,受到市場高度關注。大型語言模型(LLM)開發商也在邊緣生成式AI的發展下,推出模型參數較小,適用於邊緣裝置的小型模型。另外開源LLM也帶動生成式AI以及延伸的AI...
2024 年 12 月 09 日

XR產業協會理事長鄭育鎔:智慧頭戴裝置內容為王

智慧頭戴式裝置在2023年隨著生成式人工智慧(AI)熱潮,受到一波新的關注,市場期待智慧眼鏡成為整合線上與線下虛擬實境(VR)與擴增實境(AR)服務的應用裝置。2025年備受市場期待的AI代理人(AI...
2024 年 12 月 09 日

頻寬需求不等人 CPC技術另闢蹊徑

生成式AI成為驅動高效能運算應用成長的主要動能,但同時也讓頻寬升級變得更加迫切。雖然業界普遍認為光學共同封裝是未來的發展方向,但考量到光學共同封裝還需2~3年才有機會大規模生產,仍採用電氣訊號的連接器共同封裝或為當下最可行的升級選項。...
2024 年 12 月 09 日

匯流排頻寬需求爆發可期 PCI-SIG超前布署光化標準

為滿足伺服器內部互連應用對頻寬的需求,同時對日後光化趨勢展開超前布署,負責主導PCI Express標準的PCI-SIG,正同時推動PCIe 7.0與Optical PCIe 兩項標準的制訂作業,並預期將在農曆年後的PCI-SIG開發者大會台北場上,公開更多標準細節。...
2024 年 12 月 06 日

光電交接拉開序幕 生成式AI驅動HPC I/O革命

生成式AI創造出巨大的算力需求,使得晶片業者跟雲端服務供應商(CSP)不只要開發出運算效能更強大的處理器,在I / O、互連技術的性能方面,也必須做出對應的升級。伺服器內部互連光化的時代,亦因而揭開序幕。...
2024 年 12 月 05 日

Synaptics總裁兼執行長Michael Hurlston:押寶Edge AI應用擴大台灣布局

在生成式AI的浪潮之下,人工智慧相關應用已經成為廠商布局重點,因此Synaptics看好台灣未來在產業鏈的關鍵地位,搶占240億美元AIoT市場快速成長商機,積極投入邊緣運算技術與產品,專注於運算能力5~10...
2024 年 12 月 04 日

數據隱私/模型偏見現風險 GAI聯邦學習助資料治理

生成式人工智慧(GAI)的快速發展是雙面刃,為產業帶來亮眼的應用進展,然而假資訊、模型偏見與資料管理等風險也隨之出現。面對AI生成的惡意內容,用生成式AI偵測與防範,可有效辨別假資料。在模型訓練方面,來自不同國家的訓練資料會造成模型偏見,因此各國開始發展主權模型,訓練符合當地需求的生成式AI。另一方面,聯邦學習技術的發展,確保訓練資料保留在擁有者手上,可望有效解決資料治理的挑戰。...
2024 年 12 月 03 日

多模態/AI Agent多點開花 生成式AI生態系漸成型

2024年可說是AI技術快速進展的同時,全球企業都在探索如何應用生成式AI,以及持續克服基礎建設挑戰,包含伺服器散熱、高速資料傳輸技術與記憶體應用的一年。生成式AI協助使用者生成文字、圖片、影像與程式碼等內容,也能學習特定企業的內部資料,應用於線上客服或者內部資料查詢。多模態模型的應用,協助AI軟體判讀文字、圖片、影像與音訊的內容,優化各行各業的工作流程。除了大型語言模型(LLM)逐漸發展出客製化模型,也有小型化的模型導入到邊緣端,升級現有的終端智慧應用。...
2024 年 12 月 03 日

專訪ADI資深區域銷售經理陳曜桎 智慧解決方案賦能AI無極限

SEMICON Taiwan 2024在一片人工智慧(AI)的熱潮下展開,以「Breaking Limits:Powering the AI Era賦能AI無極限」為主軸,聚焦先進製程、異質整合、化合物半導體、矽光子、智慧移動等產業熱門議題,亦吸引許多半導體廠商參與,ADI更是首度參展,展示多項電源、智慧製造、AI的半導體解決方案,希望能藉此拓展新的產業夥伴。...
2024 年 12 月 03 日

神盾董事長羅森洲:Chiplet/IP擁抱AI轉型

人工智慧(AI)為高科技產業發展帶來許多典範轉移,從最上游的IC設計到終端應用都圍繞著AI發展,因此已經成熟的技術與產品也在人工智慧的發展下逐漸失去光彩,智慧手機時代憑藉觸控技術取得成功的神盾,在行動裝置步入成熟階段營運遭遇逆風,因此勇敢轉型追尋AI落地商機。...
2024 年 12 月 02 日