2024 AI 要點趨勢一次看:AI EXPO Taiwan

內容大綱:
介紹
專家演講精華
生成式 AI 風暴,製造 AI 終端應用
掌握資料新石油,製造商的三個著手層面
終端快思,雲端慢想
視 AI 為風險,製造業被領先的 AI 化程度
所以製造商們,AI 未來怎麼看?
從一個工站的 AI 導入開始,朝 Scaling AI 前進

介紹

「AI EXPO Taiwan 2024」為期三天的活動吸引了全球產官學界的領袖和專家,展示 AI 技術在各領域的最新應用和未來趨勢。

參展單位包括 250 家企業與品牌、60 所大專院校與人工智慧研究中心以及 56 家新創企業,報名人數近 2.5 萬人,圍繞 AI 的第一線研發者與來自各界的人才,皆鼓譟著這熱度不減的趨勢浪頭。

我們把 2024 上半年業界專家的 AI 洞察再濃縮,整理出幾個有趣的大要點。

專家演講精華

生成式 AI 風暴,製造 AI 終端應用

高通 副總裁暨台灣、東南亞與紐澳區總裁 劉思泰

自從生成式 AI 這一兩年的爆發性成長,我們看到 AI 無處不在。

過去的 AI 應用主要集中在特定領域,例如手機、相機和語音助手等裝置上的傳統 AI。然而,隨著生成式 AI 的出現,AI 應用範圍大幅擴展,技術滲透到各個行業和日常生活中。劉副總表示

「往後十幾二十年,就是 AI Everywhere。」

劉副總強調,真正能夠提供最佳 AI 體驗的是混合式 AI 系統,結合終端裝置上的 AI 功能和雲端的運算能力,不僅能夠節省成本、提高效率,還能增強隱私保護和客制化體驗。終端裝置上的 AI 應用具有成本低、效能高和可靠性強等優點,這些裝置包括智慧手機、個人電腦、AR/VR 眼鏡和車載系統等,能帶來的生成式 AI 應用場景多元,可以用於文字、圖像和影像、代碼生成等等,顯示出在日常生活以及工業應用中的巨大潛力。可以想像,未來在第一線的生產製造上,只會看到越來越多的終端 AI 部署,協助現場人員快速地獲取生產資訊,即時回溯生產狀態、確保維持產能,包含多元的應用可能。

AI 市場的價值巨大且難以精確估算,以 McKinsey 在 AI 業務運營、研發和工程等全方面的分析預估,AI 產業的價值可能高達 7.9 兆美元,顯示出這一市場的無限潛力。

掌握資料新石油,製造商的三個著手層面

AWS 台灣暨香港總經理 王定愷

「資料是新石油」

其價值在於能否被有效挖掘和利用。

王總經理認為要能活用這一新石油,數據安全是第一要點,如果沒有強大的數據安全保障,任何數據的價值都無從談起。解決數據孤島(Data Silos)問題是第二要點,數據被分散在不同部門和系統中,難以整合和利用,數據的不交流、碎片化,是數據能否變現的一大障礙,透過數據湖(Data Lake),企業可以將舊版和新版數據整合,提高數據應用效率。第三要點為數據民主化(Data Democrotization),這意味打破訊息不對稱,將數據下放至需要使用的人手中,以確保資訊的共享和流通。三者相加,才能搭建成功的企業數據治理能力。

掌握資料新石油,從三大面向著手:1.數據安全 2.數據孤島 3.數據民主化

亞馬遜的「新石油」搭配生成式 AI 有了多種應用,王總經理舉例亞馬遜自家內部使用案例,在新設實體據點時,可以透過內建強大的資料庫,快速找出當地消防法規、水電法規、樓板承重、樑柱分配等多種細節資訊,PM 不需耗時在茫茫資料海中尋找答案。此外,亞馬遜 Prime video 也利用生成式 AI 動態替換影片中的廣告內容,增加盈利能力。

終端快思,雲端慢想

聯發科技 前瞻技術平台 資深處長 梁柏嵩

AI 推論應用在未來將移至終端設備,如手機和個人電腦,以減少數據中心耗能壓力,同時提高運算效率,但有些問題仍有待解決。

AI 推論需快速回應用戶請求,應用的複雜度和使用者數量、頻率帶來的變化,都會影響工作負荷。為了在終端設備上運行 AI 模型,需要考慮模型的大小和記憶體需求。通常,手機記憶體在 4GB 到 24GB 之間,模型大小應控制在 70 億等級的模型參數以下,以確保可以有效運行。此外,手機不像數據中心可以擴展 GPU 來提升算力,記憶體頻寬也會是問題。

AI 運算未來=終端(快思,回應第一線用戶需求)+雲端(慢想,執行高強度運算)

梁處長以人腦的「快思」和「慢想」兩種思考系統比喻,未來的 AI 運算將仰賴在終端快思,做直覺性的快速反應,而高強度、需要慢想的運算,則交給雲端進行。藉此終端十億等級的模型,和雲端兆等級的模型,可以相互協作,這種模式可以兼顧運算效率和用戶體驗,滿足越趨複雜的多模態應用需求。

用於製造管理的 AI 多模態應用,可以是影像和文字兩者的技術整合。影像部分,透過裝在工站上的攝影鏡頭,回傳影像資訊,讓視覺模型辨識行為動作,再結合文字模型,方便管理者藉由指令輸入,來獲得作業員行為影像的 AI 分析和建議,幫助管理層做出更明智的決策。

視 AI 為風險,製造業被領先的 AI 化程度

財團法人人工智慧科技基金會 執行長 溫怡玲

溫執行長分享「2023 台灣產業 AI 化大調查」報告,企業仍面臨眾多挑戰,且其中存在馬太效應,即強者越強,弱者越弱。只有少數企業能真正從生成式 AI 獲益,多數企業仍在探索適用的 AI 應用場景。

調查中製造業 / 政府機關產業,高達 74.1% 仍處於 AI 化前期的「Unknowing AI」階段,多數同仁可能聽過 AI,但不具備相關知識,也不知該如何應用。60.5% 表示企業目前仍在規劃中 / 沒有應用過任何 AI 技術、 58% 認為企業缺乏相關技術人才,數字皆高於整體產業的平均值。

面對未來變化,溫執行長建議企業從需求面出發,確保 AI 能帶來的實際價值,也該將地緣、能源、美元總體經濟的三大變數納入考量,最後,企業過去視 AI 為成本或投資的視角需轉變,現在應把 AI 當作一種風險管理工具,成為營運風險治理中不可獲缺的一環。

所以製造商們,AI 未來怎麼看?

生成式 AI 工具降低了 AI 使用門檻,也一併警示了企業在新技術佈建的急迫性。但事實是,目前整體產業 AI 化指數表現仍然偏低。想要真正搭上這一技術熱潮,靠的還是組織領導的策略規劃。

現在企業員工對 AI 的理解程度整體偏低,甚至有超過半數的企業不確定組織是否有 AI 工程師,人才培訓上也缺乏計畫,如此現狀應作為企業的一大警訊,該適時候投入資源,開始培養自家的 IT 及 OT 場域專家外,同時間尋找外部 AI 專家,快速獲得專業知識,最大化 AI 化轉型效率。

成功 AI 應用=外部 AI 專家+自家 IT/OT 場域專家

企業 AI 發展從 Unknowing AI、Conscious AI、Ready AI 到 Scaling AI,這一系列 AI 化進程,最終目的即是讓企業在具備 AI 技術與知識之上,能將 AI 移轉到不同專案情境中,確實達成規模化的成熟應用。

從一個工站的 AI 導入開始,朝 Scaling AI 前進

PowerArena 人因作業平台 HOP(Human Operation Platform)協助製造商漸進式活用 AI,從安裝一個工站的一顆鏡頭開始,用 AI 視覺搜集人員行為資訊,檢視作業時間、動作順序、手持工具等等訊息,加值生產管理,達到生產效能優化、產品品質提升目標。

HOP 能串連多種 IoT 及工廠 MES 系統,將 AI 影像資訊和各式設備資訊整合,解決傳統管理模式中的數據碎片化問題,不需擔心數據孤島發生。細至幾分幾秒的生產數據,清楚呈現於管理介面,方便遠端管理使用,數位化 SOP 功能也能立即提醒現場人員是否有作業異常,無時差傳輸訊息給作業員、IE、產線領班、廠長和高階管理者,從下而上皆可受惠於 AI 分析的即時數據。

130