3月15日凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。GPT-4 实现了以下几个方面的飞跃式提升:图片输入和识别能力;文字输入限制提升至 2.5 万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。时隔6个月,ChatGPT以它强大的进化能力,再次震惊业界。
16日下午,百度基于文心大模型技术推出的生成式AI对话产品“文心一言”也横空出世,“中国版ChatGPT”来了!
ChatGPT是自然语言处理(NLP)下的AI大模型,通过大算力、大规模训练数据突破AI瓶颈。2022年11月,OpenAI推出ChatGPT,ChatGPT基于GPT-3.5,使用人类反馈强化学习技术,将人类偏好作为奖励信号并微调模型,实现有逻辑的对话能力。根据《瞭望》新闻周刊3月报道,OpenAI为了让ChatGPT的语言合成结果更自然流畅,使用了45TB的数据、近1万亿个单词来训练模型,训练一次的成本高达千万美元,一个月的运营成本需要数百万美元。
我们在关注GPT落地场景的同时,也在思考影响GPT未来发展的各个因素。其中,云计算在GPT(Generative Pre-trained Transformer)技术发展中起到了至关重要的作用,“云”提供的计算资源、网络连接、数据存储和管理等方面的优势,使得GPT能够更快、更准确地生成自然语言文本,不断推动着自然语言处理技术的进步和发展。
1. 大规模算力
云计算提供了强大、弹性扩展的计算资源,这对于GPT的训练和生成文本过程是至关重要的。GPT的训练需要使用大规模的计算资源,包括CPU、GPU、TPU等。云计算底层的数据中心可以提供高性能的计算机和硬件设备,并且可以进行优化,提高计算资源的利用率,从而加速GPT的训练和生成速度。同时,云计算也可以提供强大的并行计算能力,将多个计算任务同时分配到不同的计算节点中进行计算,提高训练效率和速度。
2. 数据存储
云计算提供了可靠的数据存储和备份机制,这可以保证GPT的预训练数据、模型参数和生成的文本数据都得到充分的保护和管理;防止数据丢失或被损坏。同时,还可以提供数据安全和隐私保护服务,确保GPT的数据安全和隐私得到充分的保护。
3. 网络带宽
云计算可以提供高速的网络带宽和存储设备来支持GPT的训练和推理。GPT模型的训练和推理需要大量的数据传输和存储,而云可以提供高速的网络带宽和存储设备来支持模型的训练和推理。这可以显著提高GPT算力的效率和性能。
4. 电力供应
在GPT训练中,电力是一个不可或缺的因素。这是因为GPT模型需要通过大规模的计算和数据传输来进行训练和推理,这些计算和数据传输需要大量的能量。因此,云计算基础设施的电力供应对于GPT的算力和效率具有决定性的影响。
云计算的核心即为通过云端提供海量算力,从这个角度来说,采用云基础设施就有了跑通AI算力、AI大模型和生成式AI应用的入场券。UCloud作为国内领先的云计算厂商,也成为了GPT入口处的铺路人。
从GPT训练需要的大规模算力来看,UCloud在国家“东数西算”枢纽自建的乌兰察布云基地提供了GPU高性能计算产品,上线了NVIDIA的A100、V100S等诸多推理显卡,以及AMD的高性能计算显卡MI100,满足不同用户在多场景下的GPU加速需求;同时,基于IB网络环境的多节点高性能计算集群,更好匹配超高计算性能,实现多节点间无损通信,满足用户多节点并行计算的场景需求。针对大模型AI训练场景,推出高功率、高配置的算力集群。集群的服务器搭载8张80G显存的A100显卡、配有128C的CPU以及1.5T的大内存,节点间通过无损的IB网络连接,可满足大规模分布式训练需求。此外,基于A100 Ampere架构下MIG切分特性,最多可切分7个实例,可满足不同的算力需求。
乌兰察布云基地的金翼UXZone专区提供基于NVIDIA A800和Mellanox Infiniband网络的GPU集群方案,根据客户的大模型需求定制专属资源池,并提供IB网络、GPU服务器的监控和运维管理服务。
UCloud乌兰察布云基地部署了新一代归档存储产品US3。US3在国内首次采用高密JBOD机型和SMR盘,并采用自研存储架构实现该技术落地,单位机架的存储容量提升5.375倍,磁盘数量增加59%,单块磁盘存储空间提升150%。产品可以兼容SMR、CMR盘、双活高可用、支持上下电的IO调度、EC的灵活配置和磁盘故障自动发现。US3相较标准存储降低近80%的存储成本,与市场同类产品相比降低近30%成本,可为GPT需要的海量语料数据进行存储和备份,提供更具性价比的备份方案。
乌兰察布具有丰富、可靠的电力资源。UCloud优刻得的乌兰察布云基地获得了国家A级/等保三级资质认证,可用性高达99.99%,可以保障GPT模型的训练和推理不受电力资源不足的限制,保障模型训练和推理的稳定性和持续性,提高其分析效率和性能。此外,乌兰察布电力价格相对较低,在此基础上,UCloud采用多种节能环保技术,大限度来降低数据中心PUE值,可为GPT模型训练和推理降低30%-50%的运营成本。
统一管理的云计算基础设施还为GPT提供了更加安全、稳定的训练环境。UCloud乌兰察布云基地采用WEB应用防火墙UWAF、DDoS攻击防护 UDDoS、主机入侵检测 UHIDS等一系列安全防护产品,实现全方位的安全防护。运维人员实行7*24*365安全运维保障,保护AI模型和数据的安全,帮助用户解决各种问题和挑战。
通过可靠的电力供应、大规模的计算资源、高速的网络连接、更具性价比的数据存储备份方案,UCloud优刻得的云计算基础设施可以为ChatGPT模型的训练和推理提供强有力的支持,促进其在各个领域探索发展和应用。
针对大规模训练或通用AI训练场景,UCloud优刻得还推出了A800 GPU服务器预售。