多模態將創殺手級應用 LLM/SLM並肩向前

生成式人工智慧(GAI )的應用方向在2024年成型,除了ChatGPT的用戶數量快速成長,適合企業應用的客製化模型,以及用於終端裝置的小型語言模型(SLM)也嶄露頭角。參數更多的模型、多模態與AI代理人(AI...
2024 年 12 月 10 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(1)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 生成式人工智慧(AI)啟動新一波的AI應用熱潮,而邊緣AI高度安全、低延遲等優勢,也帶動大型語言模型(LLM)在終端裝置中的應用。將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(2)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 SSD支援AI運算空間...
2024 年 06 月 03 日

算力/記憶體容量/低功耗技術缺一不可 GAI導入邊緣開發大顯神通(3)

生成式AI啟動新一波的AI應用熱潮,將LLM導入邊緣端,需要足夠的記憶體容量,確保AI模型順利執行。將SSD用於AI運算,以及In-Memory Compute的技術進展,都讓邊緣端的算力更上層樓。 CXL加快裝置資料傳輸...
2024 年 06 月 03 日

生成式AI帶動半導體測試耗材市場復甦

根據Yole Group在《2024年第一季度半導體測試耗材市場監測報告》中發表的數據,ChatGPT等生成式AI服務的成功,正在推動AI運算基礎設施需求激增,這可能會重塑目前由Google主導的網路搜索服務市場競爭格局。這一轉變將使市場對GPU和DRAM的需求大幅增加,因為AI搜索引擎的運算需求,大約是傳統搜索引擎的十倍。除了半導體前段製造外,後段封裝測試也將從生成式AI所帶來的大量需求獲益。...
2024 年 05 月 23 日

國內外廠商積極布局 生成式AI商機/監管挑戰並陳(1)

生成式AI在2024年將會看到更廣泛的應用,在技術快速發展下,人工智慧技術需要強大且與時俱進的立法框架。在2023年,可以觀察到全球市場在人工智慧創新與責任的平衡上取得成果。 第一代生成式人工智慧(AI)工具專注於特定功能,例如編寫文字或生成圖片。在接下來的12個月中,市場上將出現多模式通用人工智慧系統,其特點是能夠處理和無縫整合文字、視覺和音訊等不同資料類型。這將促進更自然和直觀的用戶體驗,大幅增強跨領域的應用程式功能。...
2024 年 01 月 01 日

國內外廠商積極布局 生成式AI商機/監管挑戰並陳(2)

生成式AI在2024年將會看到更廣泛的應用,在技術快速發展下,人工智慧技術需要強大且與時俱進的立法框架。在2023年,可以觀察到全球市場在人工智慧創新與責任的平衡上取得成果。 Google (承前文)除微軟外,Google應該是第二家積極布局生成式人工智慧的科技業者(圖3)。在2023年Google...
2024 年 01 月 01 日

軟硬體各提新解方 生成式AI突破運作成本挑戰

LLM或生成式AI需要極為龐大的運算能力支撐,並使得這類技術的開發跟使用成本異常高昂。因此,軟體業者正在追求更輕量化的LLM,硬體業者則試圖用架構創新來滿足LLM的效能需求。 大型語言模型(Large...
2023 年 12 月 11 日

Goolge Med-PaLM 2展開實測 生成式AI進入醫療場域(1)

2022年底以來,國內外醫院陸續試用ChatGPT協作病歷文件、加值醫療資訊系統。與此相對,Google在2023年7月公開其醫療專用大型語言模型Med-PaLM 2,在全球智慧醫院龍頭-美國梅奧診所(Mayo...
2023 年 10 月 27 日

Goolge Med-PaLM 2展開實測 生成式AI進入醫療場域(2)

2022年底以來,國內外醫院陸續試用ChatGPT協作病歷文件、加值醫療資訊系統。與此相對,Google在2023年7月公開其醫療專用大型語言模型Med-PaLM 2,在全球智慧醫院龍頭-美國梅奧診所(Mayo...
2023 年 10 月 27 日
ChatGPT引領語言對話人機介面新時代

簡立峰:ChatGPT引領語言對話人機介面新時代

iKala暨Appier董事簡立峰 簡立峰先生目前擔任iKala暨Appier董事,是知名人工智慧專家,擁有豐富學術背景和產業實戰經驗,對生成式AI相關技術和應用有深入瞭解。 他認為,ChatGPT重新定義了人機互動模式,並帶來「真正電腦時代」。未來1年,小型語言模型將快速興起,可望促進生成式AI在企業的深化運用;其中,半導體、IC設計與智慧製造領域尤其充滿商機,而對台灣伺服器產業來說,亦是開創新商模的絕佳機會。...
2023 年 09 月 07 日

異質運算/開放生態系實現AI民主化

人工智慧(AI)是近期最火熱的話題,不過它並非新興技術。早從降低工廠製造的產品缺陷,再到協助使用者透過智慧型手機拍出更好的照片,AI早已深入人們的日常生活當中。AI亦可以從許多面向顛覆產業並改善人類的生活。舉例來說,在科技產業和醫療技術發達的台灣,ASUS...
2023 年 08 月 18 日
最新文章

愛德萬測試推出ACS Gemini開發者平台

2024 年 12 月 13 日

芝程推出生成式AI機器人結合體徵感測功能

2024 年 12 月 13 日

BV助大同獲台電60MW冬山儲能專案認證

2024 年 12 月 13 日

ROHM/台積公司建立戰略合作夥伴關係

2024 年 12 月 13 日

晶睿通訊2024全球安防排名14位

2024 年 12 月 13 日