• 產品與方案
    • 企業網絡解決方案
      • MPLS 虛擬專用網絡
      • MPLS 遠端存取 (SSL VPN)
      • SD-WAN 軟體定義廣域網絡
      • 虛擬專用網絡-Ethernet
      • 專用互聯網
    • 企業雲端解決方案
      • 雲端服務管理 – ONE Cloud Director
      • 雲端連接
      • 雲端備份及災難恢復
    • 網絡安全解決方案
      • 安全存取服務邊緣 (SASE)
      • 威脅防禦 – DYXnet CloudShield
      • 虛擬網絡功能 – DYXnet EdgeShield
      • 電子郵件防護方案
    • AI及其他方案
      • AI算力解決方案
      • 企業AI產品方案-線靈平台
      • 雲端視像會議 – Zoom
      • 企業數據中心服務
      • ICT顧問解決方案
  • 行業
    • 銀行、金融及專業服務
    • 零售及製造業
    • 教育及公營機構
    • 醫療護理
    • 資訊及通訊科技
    • 旅遊及物流
  • 關於我們
    • 關於第一線
      • 公司概覽
      • 獎項及殊榮
      • 企業社會責任
    • 最新消息
      • 新聞中心
      • 活動
      • 多媒體中心
    • 與我們聯繫
      • 辦公地點
      • 人才招募
      • 合作夥伴
  • 資源中心
    • 客戶服務
      • 客戶登入平台
      • 自助客戶服務平台
      • 客戶約章
    • 下載區
      • 客戶成功案例
      • 方案彩頁與服務表格
  • 聯絡我們
Login
  • 產品與方案
        • 企業網絡解決方案
          • MPLS 虛擬專用網絡
          • MPLS 遠端存取 (SSL VPN)
          • SD-WAN 軟體定義廣域網絡
          • 虛擬專用網絡-Ethernet
          • 專用互聯網
        • 企業雲端解決方案
          • 雲端服務管理 – ONE Cloud Director
          • 雲端連接
          • 雲端備份及災難恢復
        • 網絡安全解決方案
          • 安全存取服務邊緣 (SASE)
          • 威脅防禦 – DYXnet CloudShield
          • 虛擬網絡功能 – DYXnet EdgeShield
          • 電子郵件防護方案
        • AI及其他方案
          • AI算力解決方案
          • 企業AI產品方案-線靈平台
          • 雲端視像會議 – Zoom
          • 企業數據中心服務
          • ICT顧問解決方案
  • 行業
        • 醫療護理
        • 銀行、金融及專業服務
        • 零售及製造業
        • 資訊及通訊科技
        • 教育及公營機構
        • 旅遊及物流
  • 關於我們
        • 關於第一線
          • 公司概覽
          • 獎項及殊榮
          • 企業社會責任
        • 最新消息
          • 新聞中心
          • 活動
          • 多媒體中心
        • 與我們聯繫
          • 辦公地點
          • 人才招募
          • 合作夥伴
  • 資源中心
        • 客戶服務
          • 客戶登入平台
          • 自助客戶服務平台
          • 客戶約章
        • 下載區
          • 客戶成功案例
          • 方案彩頁與服務表格
  • 聯絡我們
HK

Global

EN
HK

Hong Kong

EN
繁
CN

Mainland China

EN
简
TW

Taiwan

EN
繁
客戶登入
HK

Global

EN
HK

Hong Kong

EN
繁
CN

Mainland China

EN
简
TW

Taiwan

EN
繁
  • 產品與方案
        • 企業網絡解決方案
          • MPLS 虛擬專用網絡
          • MPLS 遠端存取 (SSL VPN)
          • SD-WAN 軟體定義廣域網絡
          • 虛擬專用網絡-Ethernet
          • 專用互聯網
        • 企業雲端解決方案
          • 雲端服務管理 – ONE Cloud Director
          • 雲端連接
          • 雲端備份及災難恢復
        • 網絡安全解決方案
          • 安全存取服務邊緣 (SASE)
          • 威脅防禦 – DYXnet CloudShield
          • 虛擬網絡功能 – DYXnet EdgeShield
          • 電子郵件防護方案
        • AI及其他方案
          • AI算力解決方案
          • 企業AI產品方案-線靈平台
          • 雲端視像會議 – Zoom
          • 企業數據中心服務
          • ICT顧問解決方案
  • 行業
        • 醫療護理
        • 銀行、金融及專業服務
        • 零售及製造業
        • 資訊及通訊科技
        • 教育及公營機構
        • 旅遊及物流
  • 關於我們
        • 關於第一線
          • 公司概覽
          • 獎項及殊榮
          • 企業社會責任
        • 最新消息
          • 新聞中心
          • 活動
          • 多媒體中心
        • 與我們聯繫
          • 辦公地點
          • 人才招募
          • 合作夥伴
  • 資源中心
        • 客戶服務
          • 客戶登入平台
          • 自助客戶服務平台
          • 客戶約章
        • 下載區
          • 客戶成功案例
          • 方案彩頁與服務表格
  • 聯絡我們
HK

Global

EN
HK

Hong Kong

EN
繁
CN

Mainland China

EN
简
TW

Taiwan

EN
繁
客戶登入
HK

Global

EN
HK

Hong Kong

EN
繁
CN

Mainland China

EN
简
TW

Taiwan

EN
繁

HK01: DeepSeek引爆LLM私有化部署 第一線助中小企輕鬆搭建專屬AI

新聞 BACK TO PREVIOUS

May 15, 2025

DeepSeek引爆LLM私有化部署 第一線助中小企輕鬆搭建專屬AI

今年初DeepSeek平地一聲雷,憑藉媲美OpenAI的低成本開源大型語言模型(LLM)DeepSeek-R1,大幅降低企業採用AI的門檻,令企業級的AI私有化部署更加普及,不僅大企業能將AI融入業務,就連中小企也可開發專屬AI以滿足獨特的業務需求。我們邀請了DYXnet第一線的AI產品經理曾昭儒(Alfred),講解DeepSeek私有化部署的優勢,並就算力成本及私隱安全等技術層面提供專業意見,供各企業IT參考。

 

DeepSeek高效推理模型 降低中小企客製化AI門檻
隨著生成式AI(Generative AI)技術高速發展,各行各業迎來數智化轉型的浪潮,企業當然希望在不同業務場景中使用AI,不過礙於地域限制及高昂成本,企業級的客製化部署尚未普及,企業對 AI的採用大多仍停留在應用程式層面。然而自從DeepSeek今年初發佈DeepSeek-R1,顯示出媲美OpenAI o1模型的優越性能,而成本卻大幅降低,加上其開源性質,開啓了企業將LLM私有化之大門。

 

LLM私有化是指將模型部署在企業的內部網絡環境中,當使用者向AI提問時,推理在內部環境中進行,毋須訪問外部LLM的API服務。Alfred指出:「LLM私有化部署的最大優勢在於其技術及成本的高度可控性,從數據存取、模型版本、應用方案等,企業都掌握控制權,可按需調整硬件配置、網絡環境、軟件設置,並進行模型微調,令模型更切合企業應用的需要,滿足獨特的業務需求。」他續指:「在DeepSeek問世之前,模型訓練及推理均需運用到巨大的算力,只有大企業方有財力搭建龐大的算力池供AI系統使用。而現在中小企也可以將DeepSeek模型私有化,配合輕量的算力設備或雲端算力方案,即可以輕鬆將客製化AI應用落地。」

Alfred早前在HK01舉辦的「企業人工智能升級轉型交流日」中擔任專題演講嘉賓,以《AI私有化部署,「智」造企業新未來》為題分享洞見,全場爆滿。

Alfred早前在HK01舉辦的「企業人工智能升級轉型交流日」中擔任專題演講嘉賓,以《AI私有化部署,「智」造企業新未來》為題分享洞見,全場爆滿。

Alfred認為DeepSeek最重要的突破,包括採用混合專家架構(MoE)及模型蒸餾(Model Distillation),這些技術將訓練及推理所需的算力資源大幅縮減,所需的算力基礎設施規模亦可縮小,降低AI私有化的門檻。他舉例:「以中小企開發協助日常辦公的AI助手為例,系統支持日常及行業專業範疇的文字內容生成,加上企業運用內部數據搭建知識庫以提高內容準確性,此方案設計採用入門級的DeepSeek-R1 32B蒸餾模型部署,配置8卡RTX Nvidia 4090就足以應付訓練及推理需要。這對希望客製化專屬AI的中小企而言,絕對具吸引力。」

Alfred提醒:「AI的最大成本在於訓練及推理——訓練是尋求最佳參數的階段,模型訓練完成後,使用和部署就屬於推理階段。推理是持續的經常性成本,當企業應用AI時,推理成本當然愈低愈好。」

Alfred提醒:「AI的最大成本在於訓練及推理——訓練是尋求最佳參數的階段,模型訓練完成後,使用和部署就屬於推理階段。推理是持續的經常性成本,當企業應用AI時,推理成本當然愈低愈好。」

私有化部署保障私隱 第一線AI算力解決方案獨享算力
DeepSeek彈起不足半年,不少企業及機構已相繼宣佈完成DeepSeek私有化部署,當中有不少更是須嚴格遵守數據安全要求的金融機構,應用層面除了日常辦公,還包括客戶服務、風險分析、輔助投研等專門領域。

 

「數據安全是DeepSeek私有化部署的另一優勢,因為企業的數據及生成過程統統都在企業的內部網絡環境中,毋須經過互聯網訪問外部LLM,確保數據不會在存儲和傳輸途中外洩,提供更高的安全性和私隱保護。」Alfred指出,對於講求數據安全及合規性的企業而言,私有化部署是非常可靠的方案。

 

針對DeepSeek私有化的熱潮,第一線推出了一站式的DeepSeek AI算力解決方案,集DeepSeek模型部署、算力、儲存、網絡資源於一個套件中,開箱即用,省卻企業購買硬件設備的前期成本之餘,更為客戶提供全面的AI技術支援。Alfred強調:「我們預先將不同參數的DeepSeek模型與相應的GPU芯片匹配,進行調整及優化,確保模型能夠發揮最佳性能;而我們的AI專業團隊更會全程提供技術支援,從模型選擇、硬件配置到運維更新,甚至是模型微調、評測、部署、數據管理、知識庫搭建及系統接入等,服務一應俱全,全方位滿足客戶的個性化需求。」

 

第一線的DeepSeek AI算力解決方案分為「基礎版」、「進階版」及「滿血版」三個套餐,分別對應DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-70B及DeepSeek-R1三個不同模型版本,開箱即用,最快48小時交付。

第一線的DeepSeek AI算力解決方案集DeepSeek模型部署、算力、儲存、網絡資源於一個套件中,更為客戶提供全面的AI技術支援。

第一線的DeepSeek AI算力解決方案集DeepSeek模型部署、算力、儲存、網絡資源於一個套件中,更為客戶提供全面的AI技術支援。

 

來源:香港01 https://www.hk01.com/%E6%95%B8%E7%A2%BC%E7%94%9F%E6%B4%BB/60220980/ai-%E6%99%82%E4%BB%A3%E5%85%A8%E7%90%83%E7%99%BC%E5%B1%95%E8%AB%96%E5%A3%87-%E4%B8%AD%E7%A7%BB%E5%9C%8B%E9%9A%9B%E6%8E%A8%E5%87%BA%E6%B5%B7%E8%A7%A3%E6%B1%BA%E6%96%B9%E6%A1%88%E8%88%87%E7%94%9F%E6%85%8B%E8%81%AF%E7%9B%9F

 

DOIT: 架構革新:算力產業從通算到智算的範式躍遷
Previous Article
第一線端午節慈善義舉 員工運動日卡路里轉成愛心糉贈長者
Next Article

快速連結

世紀互聯
自助客戶服務平台

產品及方案

企業網絡解決方案
企業雲端解決方案
網絡安全解決方案
AI及其他方案

行業

銀行及專業服務
零售及製造
教育及公營機構
醫療護理
資訊及通訊科技
旅遊及物流

關注我們

Linkedin Weixin Youtube
聯絡我們
私隱政策 | 人工智能道德聲明 |免責及版權聲明 | Copyright 2025 by DYXnet. All Right Reserved. 版權所有 不得轉載
私隱政策 | 人工智能道德聲明 |免責及版權聲明 | Copyright 2025 by DYXnet. All Right Reserved. 版權所有 不得轉載
我們在我們的網站上使用 cookie,通過記住您的偏好和重複訪問,為您提供最相關的體驗。 單擊“接受”,即表示您同意使用所有 cookie。
Cookie 設置接受
Manage consent

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necessary
Always Enabled

Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.

Non-necessary

Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.

SAVE & ACCEPT