BigBang Transformer[乾元]是基于GPT Decoder-only架构的大规模预训练模型。继2022年开源BBT-1-0.2B模型之后,我们正式开源最新系列的BBT模型:BBT-1-1B,BBT-2-12B-Text,BBT-2.5-13B-Text。预训练语料库覆盖14个高质量数据源,覆盖书籍、百科、论文、小说、新闻、政策文件、中文博客、社交媒体等多个数据源种类。BBT-2-12B-Text基于中文700亿tokens进行预训练,经过指令微调的BBT-2基础模型可以回答百科类和日常生活的问题。BBT-2.5-13B-Text基于中文+英文 2000亿tokens进行预训练。
模型开源后所有开发者可以:
1. 可以直接调用大模型进行对话
2. 在我们训练的基础上使用自由语料库继续训练
3. 对大模型进行微调训练以满足各种下游任务

类似的工具

xAI Grok
使用xai的大型语言模型(LLM)进行聊天

封神榜-IDEA研究院
最大的开源预训练模型体系

阅文妙笔大模型
全面探索有声、漫画、动画、衍生等开发链条的AI应用。

BenTsao本草
中文医学知识的大语言模型

阿里·通义千问
一个专门响应人类指令的大模型

百度·文心一言
百度全新一代知识增强大语言模型
其他人也看的工具

SparkDesk讯飞星火认知大模型
从海量数据和大规模知识中持续进化,实现从提出、规划到解决问题的全流程闭环。

WeShop商拍
不受模特/经纪/摄影/后期限制,省时、省力、又省钱。

花火数据-数据视频
可以更直观的展示数据变化

幕布
幕布(mubu.com)让工具使用更简单

AI课代表-视频总结
专门为视频站打造的AI总结助手

元小分
「元小分」赋能企业运营与内部管理 AI智能营销+业务自动化解决方案,重构企业生产模式