加利福尼亚州圣克拉拉,2025 年 11 月 6 日 (环球通讯社) -- 领先的科技公司 J&Tech 和 Pliops 今天宣布建立战略合作伙伴关系,在韩国提供全面的大语言模型 (LLM) 加速解决方案。此次合作将 J&Tech 在基础设施技术方面的深厚专业知识与 Pliops 的创新 GenAI LLM 推理加速产品 LightningAI 相结合。
根据协议条款,J&Tech 将提供并集成针对 GenAI 工作负载优化的基础设施系统,Pliops 将贡献其 LightningAI 产品。 LightningAI 通过减少每个聊天查询 I/O 的 GPU 计算、实现 GenAI 和 LLM 应用程序的无缝数据保留、成本节约和突破性性能来优化 GenAI 推理基础设施。 LightningAI 作为加速键值分布式智能节点而构建,在 HBM 之下引入了新的内存层,用于 GPU 计算工作负载。它将端到端性能提高了 3 倍以上,并提高了所有领先推理框架(包括 vLLM 等)的效率。利用 Pliops 最先进的技术,LightningAI 大幅提高了 GPU 利用率,从而显着降低 TCO、降低功耗和碳排放,为下一代智能基础设施提供先进的 AI 解决方案。
J&Tech 首席执行官 Rha 先生表示:“我们很荣幸与 Pliops 合作,为韩国企业带来独特的 GenAI 加速解决方案。” “此次合作汇集了两家公司的优势,以解决关键的 GenAI 性能和效率挑战,使韩国企业能够部署高性能、本地支持的 GenAI 系统。我们将共同在韩国实现更快的创新、更强的数据主权和更具竞争力的人工智能生态系统。”
此次合作是在 J&Tech 进行内部概念验证 (POC) 演习之后进行的,期间两家公司联合测量了 vLLM 推理的端到端系统性能。 LightningAI 在开放式 Qwen2.5-32B-Instruct-GPTQ-Int8 模型上展示了预填充 (TTFT) 延迟最多减少 9 倍,端到端吞吐量 (RPS) 增加 3.3 倍。这些结果转化为可观的总拥有成本节省和人工智能驱动服务的更快部署,使该解决方案能够在本季度在韩国进行商业推广。合作伙伴目前正在准备与韩国一家领先的银行和其他企业客户进行客户试验。
Pliops 首席执行官 Ido Bukspan 表示:“我们的加速技术为 LLM 推理和检索提供了突破性的性能,这是市场上其他解决方案无法比拟的。” “通过将其与 J&Tech 的基础设施专业知识和对韩国市场的深入了解相结合,我们使企业能够更轻松地在聊天机器人、副驾驶、自主代理和检索增强工作流程等实际应用中扩展 GenAI。”
有关 Pliops 的更多信息,请访问 www.pliops.com。
与 Pliops 连接
阅读博客
关于普利奥普斯
访问资源中心 – LightningAI 解决方案简介
在 LinkedIn 上联系
关注 X
关于普利奥普斯
作为 FMS 2025 最佳展示奖的获得者,Pliops 是一家专注于让数据中心运行得更快、更高效的技术创新者。该公司的 Extreme Data Processor (XDP) 从根本上简化了数据处理和管理的方式。 Pliops 克服了 I/O 效率低下的问题,可大幅提高性能并大幅降低数据密集型 AI 应用程序的整体基础设施成本。在此基础上,LightningAI 利用 Pliops 的尖端加速技术来优化 GenAI 工作负载,提供无与伦比的效率和可扩展性。它提供定制的性能增强功能,以满足人工智能驱动的基础设施不断变化的需求。
Pliops 成立于 2017 年,多次被评为最热门的 10 家半导体初创公司之一。迄今为止,该公司已从 Koch Disruptive Technologies、State of Mind Ventures Momentum、Intel Capital、Viola Ventures、SoftBank Ventures Asia、Expon Capital、NVIDIA、AMD、Western Digital、SK hynix 和 Alicorn 等主要投资者筹集了超过 2 亿美元。欲了解更多信息,请访问 www.pliops.com。
媒体联系方式:
斯蒂芬妮·奥尔森
拉格斯及联营公司
(949)453-8080
斯蒂芬妮@lages.com
J&Tech 与 Pliops 合作向韩国市场提供 GenAI/LLM 加速解决方案
发布时间 2 天前
Nov 6, 2025 at 6:49 PM
Positive
Auto