为企业定制LLM和AI应用程序
新加坡,2023年9月27日— 6Estates Pte Ltd(“6Estates”),一家总部位于新加坡的企业AI解决方案提供商,已经在东南亚建立了第一个部署了NVIDIA DGXBasePOD和NVIDIA DGX H100系统的集群,以加速该地区的AI创新和数字化转型。
Ribbon Cutting at Launch Ceremony with Marcus Cheng – Acclivis CEO; Prof. Chua Tat-Seng – 6Estates Chairman and Co-Founder, KITHCT Chair Professor at NUS; Susan Marshall – NVIDIA Director, Developer Relations; Dr. Luan Huanbo – 6Estates CEO and Co-Founder; Dennis Ang – NVIDIA Sr. Director, Enterprise Business (ASEAN and ANZ Region); Dr. Wang Chao – 6Estates CTO and Co-Founder
6Estates是从新加坡国立大学和清华大学分拆出来的,专注于为企业提供基于特定领域大语言模型(LLM)的解决方案。6Estates也是NVIDIA Inception的成员,该计划面向那些通过技术进步改变行业的顶尖初创公司。
DGX BasePOD利用了NVIDIA完整的数据中心平台,包括业界领先的计算、存储、网络、软件和基础设施管理,所有这些都是经过优化,可以协同工作并提供最大规模的性能。
6Estates计划利用其NVIDIA DGX BasePOD用于其新的Model Solutions产品,该产品通过为企业定制特定领域的LLM和应用程序为其提供支持。该公司还将获得访问NVIDIA AI Enterprise软件,以实现安全、稳定和受支持的生产AI。NVIDIA AI平台的软件层NVIDIA AI Enterprise提供100多个框架、预训练模型和开发工具,以加速数据科学并简化生产就绪的生成AI、计算机视觉、语音AI等的部署。
该集群还将支持6Estates现有的AI解决方案,即其智能文档处理平台,该平台自动处理和分析非结构化的无模板文档,并从端到端为贷方和贸易公司自动化工作流程。
“生成AI对企业运营方式具有巨大的改造潜力,涵盖从执行内部流程到理解和服务客户群体的所有方面。我们看到客户对实现高度定制且安全性最高的LLM解决方案的需求激增,我们很高兴能够为该地区的企业实现这一目标,”6Estates创始人兼首席执行官Luan Huanbo博士说。
下一代模型训练和推理
NVIDIA DGX H100系统构成了世界上最先进、最强大的AI计算平台的基石。 每个系统都包含8个NVIDIA H100 Tensor Core GPU,其中包括新的Transformer引擎、第二代安全的Multi-Instance GPU功能和第四代NVIDIA NVLink连接。 使用DGX H100系统,6Estates可以实现GPT-3 AI训练速度提高4倍,AI推理速度提高30倍,相比上一代有显著提升。
利用NVIDIA DGX H100,6Estates将大大缩短模型训练时间,为企业客户提供更快的Model Solutions服务。
配备NVIDIA DGX H100系统的6Estates NVIDIA DGX BasePOD集群可以支持特定领域的LLM训练和客户现场部署。
“支持大型企业处理和理解大量客户数据以开发真正转型的LLM需要大量计算资源,NVIDIA DGX H100提供了实现这一目标所需的业界领先性能,”Luan博士说。
“生成AI正在帮助各行各业的企业开创新的机遇并更好地服务客户。6Estates对NVIDIA DGX AI超级计算的部署可以帮助东南亚地区的组织通过开发先进的AI服务和解决方案来推动增长,”NVIDIA企业业务东盟和澳大利亚新西兰区域高级总监Dennis Ang说。
NVIDIA DGX H100 systems deployment with Dennis Ang – NVIDIA Sr. Director, Enterprise Business (ASEAN and ANZ Region); Susan Marshall – NVIDIA Director, Developer Relations; Dr. Luan Huanbo – 6Estates CEO and Co-Founder
为企业定制特定领域的LLM
6Estates已经开始为几个客户开发特定领域的LLM,一个是金融领域的商业公司,目标是训练70亿到130亿参数规模的模型,另一个是医疗领域的研究机构,目标是训练7亿、13亿和65亿参数规模的模型。
特定领域LLM的好处多多。对于金融服务业这一6Estates的关键市场来说,该集群将被利用来支持客户:
- 自动化客户入职和欺诈/风险评估
- 为信贷评估和监控提取更深入的客户洞察
- 综合多个内部和外部应用程序中的客户数据
- 预测和监控来自客户的财务影响
- 生成更合适的产品推荐
- 提供更精确和知情的自动客户支持
- 简化管理报告和分析