(资料图)
据人民日报报导,近日,上海人工智能实验室宣布联合语料数据联盟成员单位,共同开源发布“书生·万卷”1.0多模态预训练语料。
“书生·万卷”1.0集合了语料数据联盟成员丰富的内容积累与上海人工智能实验室的数据处理能力等优势,将为学术界及产业界提供高质量大模型多模态预训练语料。本次开源的数据总量超过2TB,具备多元融合、精细处理、价值对齐、易用高效等四大特征。
本次开源的“书生·万卷”1.0包含文本、图文、视频三部分数据集。其中文本数据来自网页、百科、书籍、专利、教材、考题等,数据总量超过5亿个文档,数据大小超过1TB,覆盖科技、文学、媒体、教育、法律等多个领域;图文数据主要来自公开网页,经处理后形成图文交错文档,总量超过2200万个,数据大小超过140GB(不含图片),覆盖新闻事件、人物、自然景观、社会生活等多个领域;视频数据主要来自中央广播电视总台和上海文广集团,包含新闻、影视等多种类型的节目影像,总计视频文件数超过1000个,数据大小超过900GB,内容覆盖军事、文艺、体育、自然、知识、影像艺术等方面。
标签:
据人民日报报导,近日,上海人工智能实验室宣布联合语料数据联盟成员单
天眼查App显示,近日,趣店预制菜关联公司厦门趣店科技有限公司发生工
内容简介首次全国新闻记者职业资格考试将于2023年11月4日举行。为方便
新买的电动自行车,不到半分钟就能解锁,“隐藏”起车速;觉得脚蹬子碍
半导体股近期持续下跌,主要受到各种利空的影响,但是值得我们注意的是
【世界说】英媒:非裔儿童扔垃圾被无辜带铐 美国警方道歉:忘了吧,这只是“错的时间、错的地点的不幸案例”!
8月17号开始财运暴涨,鸿运当头,3生肖钱财大旺收获满满