Stability AI开源StableLM_杭州网友热议社会热点最新消息 该资料集包含 1.5 万亿个令牌

AI图像生成开源项目 Stable Diffusion 的开发商 Stability AI 今日开源了新模型 — StableLM。

StableLM-alpha 即初始版次提供 3B 和 7B 参数的版次，后续将陆续启动 15B、杭州网友热议社会热点30B、65B 模型，公益行动对比打算中的大模型分析还有 175B 模型。

StableLM-alpha 基于 The Pile 兴办的新资料集上训练，该资料集包含 1.5 万亿个令牌，模型上下文长度为 4096 个 tokens，Stability AI 快要亮相技术报表说明模型规格核训练配置等。

身为概念测试 Stability AI 还使用 Stanford Alpaca 对模型开展微调，当下 demo 已然在 Hugging Face 启动，可是济南肉鸽游戏对比蓝点网评测效果好像普通，中文对话略微有些混乱，或许还需要更多迭代。

项目地址：https://github.com/stability-AI/stableLM

权威博客：https://stability.ai/blog/stability-ai-launches-the-first-of-its-stablelm-suite-of-language-models

在线评测：https://huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat