人工智能研究所 AI2 发布最大的 LLM 开源数据集 Dolma,包含 3 万亿 Tokens
据 The Decoder 报道,艾伦人工智能研究所(Allen Institute for AI,简称 AI2)发布包含各种网络内容、科学出版物、代码和书籍的三万亿个 token 的开源数据集 Dolma,是迄今为止最大的公开数据集。Dolma 是开放语言模型 (OLMo) 的基础。OLMo 是 AI2 目前正在开发的语言模型,计划于 2024 年初发布,目标是成为“最佳开放语言模型”。Dolma 的第一个版本主要限于英文文本,开发人员和研究人员现可以通过 Hugging Face 访问该数据集。
本文链接:https://www.8btc.com/article/6830628
转载请注明文章出处
原创文章,作者:惊蛰财经,如若转载,请注明出处:http://www.xmlm.net/bhq/26165.html