BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

Kimi Chat
一口气读完二十万字的小说

MediaGPT:中文自媒体大模型
一个针对自媒体领域进行特殊训练的模型

KwaiYii快意大模型
独立自主研发的一系列大规模语言模型

阅文妙笔大模型
全面探索有声、漫画、动画、衍生等开发链条的AI应用。

BenTsao本草
中文医学知识的大语言模型

阿里·通义千问
一个专门响应人类指令的大模型
其他人也看的工具

StyleDrop
捕获用户提供的样式的细微差别和细节

Stable video diffusion online
免费激活您的图像,用 Stable Video Diffusion online 让图片动起来!

AiTax
AiTax是一款基于人工智能的报税软件,可以帮助企业家准确高效地报税,同时避免错误,增加潜在的退款,避免不必要的审计。

中国通信标准化协会
中国通信标准化协会(以下简称:协会)采用单位会员制。作为开放的标准化组织,协会面向全社会开放会员申请,广泛吸收产品制造、通信运营、互联网等企业,科研、技术开发、设计单位,高等院校和社团组织等参加协会。

Levity
Levity使非技术用户能够创建...

壁仞科技-智绘全球
致力于研发原创性的通用计算体系,建立高效的软硬件平台