把大模型“裝”進小盒子，云天勵飛在想什么？
分類: 最新資訊
禮儀詞典
編輯 : 禮儀知識
發布 : 04-01
閱讀 :459
作者 ｜周一笑郵箱 ｜zhouyixiao@pingwest.com3 月 28 日，云天勵飛舉辦 AI 大模型產品發布會，發布“深目”AI 模盒，同時宣布自研大模型“云天天書-2.0-68B”版本免費向合作伙伴開放。云天勵飛董事長兼 CEO 陳寧在發布會提到：“未來 3 年，全球 80% 的企業都將使用大模型。大模型一次訓練成本在千萬級，主流的訓推一體機價格普遍在百萬元，絕大多數企業都無法承擔這樣高昂的成本。” 云天勵飛此次發布的 “深目”AI 模盒，屬于邊緣計算設備，側重在推理端，搭載了云天勵飛的自研大模型邊緣訓推芯片 DeepEdge10 Max，以及自研多模態大模型“云天天書”，具備算法邊緣側在線學習能力。這種邊緣端標準化硬件，再加上大模型，除了能通過邊緣端部署，解決數據隱私問題，還可以實現對多種長尾場景的覆蓋。其搭載的 DeepEdge10 芯片可以針對不同的場景提供差異化算力，并且可以在線下載更新多種算法。在云天勵飛為客戶提供的算法訓練平臺上，有大量與生態合作伙伴共同打造的算法商城，用戶可以直接調用預訓練算法，并上傳自身場景圖片完成算法的微調和升級，快速訓練出高精度算法。針對無訓練數據的極端場景，例如加油站場景的吸煙識別，云天勵飛還使用了 AI 合成數據來訓練算法，并在這一過程中引入了 3D 引擎，從而填補數據空白。“推理芯片沒有壟斷性巨頭”AI 芯片可以分為訓練芯片和推理芯片。訓練芯片多用于服務器，推理芯片則主要部署在邊端設備之上。當大模型訓練完成，開始進入到了實際應用之后，對于 AI 推理的需求將會更多。云天立飛的 AI 芯片就定位在推理的應用。DeepEdge10 系列是云天勵飛去年推出的大模型推理芯片，該芯片采用自主可控的國產工藝，內含國產 RISC-V 核，支持大模型訓練推理部署。依托自研芯片 DeepEdge10 Max創新的 D2D chiplet 架構打造的 X5000 推理卡，已適配并可承載 10 億級 SAM、百億級 Llama2 等大模型運算，可應用于 AIoT 邊緣視頻、移動機器人等場景。談及推理芯片，陳寧表示，如果訓練芯片是英偉達一騎絕塵，占有絕對的市場占有率，那么推理芯片今天沒有壟斷性的巨頭，今年大火的 Groq 也是 AI 推理芯片。“云天天書”是云天勵飛自研的多模態大模型，由 CV 大模型、NLP 大模型和多模態大模型組成。云天勵志在通用基礎大模型的基礎上，訓練出行業大模型，包括智慧城市、智慧安防、智慧交通、智慧商超等等，最后再針對落地細分的場景，將數據集進行微調，從而實現落地。深圳 CV 獨角獸，“算法芯片化”為核心競爭力云天勵飛成立于 2014 年，是一家以計算機視覺（CV）應用起家的公司，2022 年 4 月 4 日，作為“深圳 AI 第一股”在科創板上市，主營業務為視覺 AI 軟硬件產品及解決方案。解決方案中又以面向公共安防及交通治理領域為主。公司為客戶提供算法軟件、芯片等自研產品，并按照客戶需求，將自己的產品，外購的硬件產品、安裝施工服務等打包交付。2023 財年，云天勵飛營業收入 5.35 億元，同比下降 2.14%；歸母凈利潤虧損 3.9 億元，比上年同期的 -4.47 億元有所收窄。值得一提的是云天勵飛具備算法芯片化能力，同時自研的 AI 芯片也已實現商用。公司的 AI 芯片在 2018 年成功流片，2019 年開始逐步對外銷售，客戶包括海康威視、阿里巴巴平頭哥、富瀚微電子等。并購智能穿戴公司，G、B、C 全都要？“深目”AI 模盒的發布是云天勵飛從 AI 方案化到 AI 產品化的一次嘗試，通過 AI 技術或解決方案轉化為標準化、通用化的產品或服務，從而滿足更廣泛的市場需求。在大模型方向上，作為一家在機器視覺賽道方向積淀已久的的 AI 企業，云天勵飛并沒有直接發布面向 C 端用戶的 LLM 產品。畢竟大模型需要長期巨量燒錢，且商業化尚處于早期階段。而是選擇通過“深目”AI 模盒這樣的邊緣計算盒子，將大模型與自身 AI 產品落地相結合，尋求在 G 端和 B 端場景實現標準化和規模化。在 To C 方向上，云天勵飛也有所布局。近期，云天勵飛發布公告稱擬以不超過人民幣 1.8 億元的對價收購智能穿戴方案設計公司岍丞技術。岍丞技術主要從事智能穿戴產品的軟硬件開發與技術服務，屬于智能耳機、智能手表等智能穿戴設備的 IDH（系 Independent Design House 的縮寫，直譯為“獨立設計公司”）方案商。收購岍丞技術后，云天勵飛擬開展智能穿戴產品的軟硬件開發與技術服務業務，探索"大模型 + 智能可穿戴"深度融合。云天勵飛董事長兼 CEO 陳寧曾表示，“過去 10 年，AI 行業基本走完了 To G 的基礎設施建設的歷程，在向 To B 的企業級服務轉變；預計 3 年左右的時間，人工智能的行業會走向 ToC 的服務，尤其是隨著 ChatGPT 和多模態大模型的逐步成熟，行業最終會走向 To C 的服務。” 這似乎也表明了云天勵飛未來的探索方向。另外值得注意的是，同為視覺 AI 起家的商湯科技也在今年發布了面向 C 端消費者的 AI 臺燈產品。大模型技術加持下的 AI 行業競爭愈演愈烈，考驗著每一位參與者的底層技術能力、資金實力和戰略定力。并非所有玩家都能實現大而全的全面領先，聚焦自身的差異化優勢，實現市場的精準定位和有效突圍，或許才是破局之道。
