加利福尼亞州聖克拉拉,2025 年 11 月 6 日 (環球通訊社) -- 領先的科技公司 J&Tech 和 Pliops 今天宣佈建立戰略合作夥伴關係,在韓國提供全面的大語言模型 (LLM) 加速解決方案。此次合作將 J&Tech 在基礎設施技術方面的深厚專業知識與 Pliops 的創新 GenAI LLM 推理加速產品 LightningAI 相結合。
根據協議條款,J&Tech 將提供並集成針對 GenAI 工作負載優化的基礎設施系統,Pliops 將貢獻其 LightningAI 產品。 LightningAI 通過減少每個聊天查詢 I/O 的 GPU 計算、實現 GenAI 和 LLM 應用程序的無縫數據保留、成本節約和突破性性能來優化 GenAI 推理基礎設施。 LightningAI 作為加速鍵值分佈式智能節點而構建,在 HBM 之下引入了新的內存層,用於 GPU 計算工作負載。它將端到端性能提高了 3 倍以上,並提高了所有領先推理框架(包括 vLLM 等)的效率。利用 Pliops 最先進的技術,LightningAI 大幅提高了 GPU 利用率,從而顯著降低 TCO、降低功耗和碳排放,為下一代智能基礎設施提供先進的 AI 解決方案。
J&Tech 首席執行官 Rha 先生表示:“我們很榮幸與 Pliops 合作,為韓國企業帶來獨特的 GenAI 加速解決方案。” “此次合作匯集了兩家公司的優勢,以解決關鍵的 GenAI 性能和效率挑戰,使韓國企業能夠部署高性能、本地支持的 GenAI 系統。我們將共同在韓國實現更快的創新、更強的數據主權和更具競爭力的人工智能生態系統。”
此次合作是在 J&Tech 進行內部概念驗證 (POC) 演習之後進行的,期間兩家公司聯合測量了 vLLM 推理的端到端系統性能。 LightningAI 在開放式 Qwen2.5-32B-Instruct-GPTQ-Int8 模型上展示了預填充 (TTFT) 延遲最多減少 9 倍,端到端吞吐量 (RPS) 增加 3.3 倍。這些結果轉化為可觀的總擁有成本節省和人工智能驅動服務的更快部署,使該解決方案能夠在本季度在韓國進行商業推廣。合作夥伴目前正在準備與韓國一家領先的銀行和其他企業客戶進行客戶試驗。
Pliops 首席執行官 Ido Bukspan 表示:“我們的加速技術為 LLM 推理和檢索提供了突破性的性能,這是市場上其他解決方案無法比擬的。” “通過將其與 J&Tech 的基礎設施專業知識和對韓國市場的深入了解相結合,我們使企業能夠更輕鬆地在聊天機器人、副駕駛、自主代理和檢索增強工作流程等實際應用中擴展 GenAI。”
有關 Pliops 的更多信息,請訪問 www.pliops.com。
與 Pliops 連接
閱讀博客
關於普利奧普斯
訪問資源中心 – LightningAI 解決方案簡介
在 LinkedIn 上聯繫
關注 X
關於普利奧普斯
作為 FMS 2025 最佳展示獎的獲得者,Pliops 是一家專注於讓數據中心運行得更快、更高效的技術創新者。該公司的 Extreme Data Processor (XDP) 從根本上簡化了數據處理和管理的方式。 Pliops 克服了 I/O 效率低下的問題,可大幅提高性能並大幅降低數據密集型 AI 應用程序的整體基礎設施成本。在此基礎上,LightningAI 利用 Pliops 的尖端加速技術來優化 GenAI 工作負載,提供無與倫比的效率和可擴展性。它提供定制的性能增強功能,以滿足人工智能驅動的基礎設施不斷變化的需求。
Pliops 成立於 2017 年,多次被評為最熱門的 10 家半導體初創公司之一。迄今為止,該公司已從 Koch Disruptive Technologies、State of Mind Ventures Momentum、Intel Capital、Viola Ventures、SoftBank Ventures Asia、Expon Capital、NVIDIA、AMD、Western Digital、SK hynix 和 Alicorn 等主要投資者籌集了超過 2 億美元。欲了解更多信息,請訪問 www.pliops.com。
媒體聯繫方式:
斯蒂芬妮·奧爾森
拉格斯及聯營公司
(949)453-8080
斯蒂芬妮@lages.com
J&Tech 與 Pliops 合作向韓國市場提供 GenAI/LLM 加速解決方案
發佈時間 1 天前
Nov 6, 2025 at 6:49 PM
Positive
Auto