​腾讯云存储面向AIGC全面升级，搭载自研存储引擎

腾讯云存储面向AIGC全面升级，搭载自研存储引擎

钛媒体 App 消息，4 月 8 日，腾讯云宣布云存储解决方案面向 AIGC 场景全面升级，能够针对 AI 大模型数据采集清洗、训练、推理、数据治理全流程提供全面、高效的云存储支持。数据显示，采用腾讯云 AIGC 云存储解决方案，可将大模型的数据清洗和训练效率均提升一倍，需要的时间缩短一半。

AI 大模型的研发生产流程，分成数据采集与清洗、模型训练、推理三大环节，各环节都涉及海量的数据处理。在数据采集与清洗环节，由于原始训练数据规模海量，且来源多样，对存储技术提出了多协议支持、高性能、大带宽的需求。

在数据清洗环节，大数据引擎需要快速地读取并过滤出有效数据，COS 通过自研数据加速器 GooseFS 提升数据访问性能，可实现高达数 TBps 的读取带宽，支撑计算高速运行，大大提升数据清洗效率。

在模型训练环节，通常需要每 2-4 小时保存一次训练成果，以便能在 GPU 故障时时能回滚，因此快速地读写 checkpoint（检查点）文件也成了能否高效利用算力资源、提高训练效率的关键。

据介绍，腾讯云 AIGC 云存储解决方案主要由对象存储 COS、高性能并行文件存储 CFS Turbo、数据加速器 GooseFS 和数据万象 CI 等产品组成，是国内首个实现存储引擎全面自研的云存储解决方案。目前，已经有 80% 的头部大模型企业选择了腾讯云 AIGC 云存储解决方案，包括百川智能、智谱、元象等明星大模型企业。

腾讯云自研的分布式对象存储引擎 YottaStore，支持任意多副本及纠删码冗余模式并存，在大幅提升可用性、可靠性及性能的同时大幅降低成本。基于 YottaStore，腾讯云对象存储服务 COS 作为统一的数据存储池，支持单集群 1 万台服务器，单集群百 EB 级的存储。

在数据清洗环节中，数据加速器 GooseFS 可根据数据的使用频率，将数据智能存储至内存、计算集群的本地盘、或可用区的全闪存储集群等不同级别的缓存中，低成本缩短 IO 路径，提升数据访问性能。相比起从对象存储 COS 中直接读取，GooseFS 可以提供亚毫秒级的数据访问延迟、百万级的 IOPS 和 Tbps 级别的吞吐能力，有效提升数据清洗效率。

面向模型训练场景的 CFS Turbo，则是目前业内唯一自研的并行文件存储系统。基于自研分布式高性能存储引擎 Histor，CFS Turbo 底层通过自研用户态协议栈和 RDMA 等技术，减少数据的多次拷贝与虚拟化消耗，大幅降低了存储时延、提升吞吐性能；在应用侧，CFS Turbo 自研并行文件传输协议，实现了多链路并行访问，大大提升了吞吐效率。原来的文件存储受限于传统 NFS 协议，单客户端只能单链路访问，也导致吞吐存在性能瓶颈。

腾讯云自主研发并行文件存储 CFS Turbo ，面向 AIGC 训练场景的进行了专门优化，每秒总读写吞吐达到 TiB/s 级别，每秒元数据性能高达百万 OPS，均为业界第一。3TB checkpoint 写入时间从 10 分钟，缩短至 10 秒内，使大模型训练效率大幅提升。

大模型推理场景对数据安全与可追溯性提出更高要求。腾讯云数据万象 CI 为此提供图片隐式水印、AIGC 内容审核、智能数据检索 MetaInsight 等能力，为数据生产从 " 用户输入——预处理——内容审核——版权保护——安全分发——信息检索 " 业务全流程提供有力支撑，优化 AIGC 内容生产与管理模式，顺应监管导向，拓宽存储边界。

此外，针对 AIGC 的 checkpoint 记录、大视频文件读写、小图片读写等场景，腾讯云 CFS Turbo 还自研了分级缓存、自适应条带化、分布式元数据的技术，大幅提升了 AIGC 场景下的读写性能。除了大模型企业以外，CFS Turbo 也被广泛应用于自动驾驶与工业仿真场景，包括博世汽车、蔚来等自动驾驶厂商，上海电气、深势等仿真场景，墨镜天合、追光等影视特效场景。

值得一提的是，该方案是腾讯云自主研发的存储引擎与自研技术，这也是国内目前唯一实现存储引擎全面自研的云存储解决方案。