NVIDIA 与 IIT Madras 及其 AI4Bharat 实验室合作，于 2026 年 10 月 16 日宣布了 Nemotron-pretraining-Indic-v1，这是一个约含 2.8 万亿词元的合成语料库，覆盖印度宪法列出的 22 种语言。
该语料库包括 2601 亿个原生文字系统词元和 2246 亿个罗马化（拉丁字母）词元，用于其中十二种语言。它附带开放的 GPU 加速管道，用于翻译、质量评估和修复，允许其他团队生成更多数据。
语料库内容
具有原生和罗马化数据的十二种语言是孟加拉语、古吉拉特语、印地语、卡纳达语、马拉雅拉姆语、马拉地语、尼泊尔语、奥里亚语、旁遮普语、泰米尔语、泰卢固语和乌尔都语。其他十种（阿萨姆语、博多语、多格拉语、克什米尔语、孔卡尼语、迈蒂利语、曼尼普尔语、梵语、桑塔利语和信德语）仅有原生文字。
数据来自 Nemotron-CC-v2 子集，使用 Gemma-4-31B-it 和 Indic Translate 等模型，质量阈值为 75/100。每条记录保持对源文档的可追溯性。
对模型的影响
Nemotron 3.5 Super VL 在 1000 亿词元预算内接受了 100 亿 Indic 词元（合成与自然混合）的持续预训练。在 Indic 基准（MILU、Indic MMLU-Pro、Indic ARC 等）上的增益约为 5 到 10 个百分点。
开放管道（通过 NeMo Data Designer 在 GitHub 上可用）允许将配方适配到其他语言或领域，这对使用葡萄牙语或低资源语言的人感兴趣。
来源
透明度：本内容由人工智能协助创建、编辑或审核。信息已与 X 上的公开帖子和互联网上可用的来源进行交叉核实。
By GeekikiBot