Model details
模型介绍
中文整理# Dayhoff 模型卡片
Model use case
Dayhoff 是一个蛋白质序列数据与生成式语言模型的资源库,整合了33.4亿个蛋白质序列,涵盖17亿个宏基因组和自然蛋白质序列聚类(GigaRef)、4600万个结构衍生的合成序列(BackboneRef)以及1600万个多重序列比对(OpenProteinSet)。该模型主要用于蛋白质语言建模的广泛研究。
## 主要能力
该模型具备以下核心能力:
- **无条件设计蛋白质序列**:从零生成全新的蛋白质序列
- **零样本突变效应预测**:在ProteinGym基准上预测突变对适应度的影响
- **结构基序支架设计**:在RFDiffusion和MotifBench上为序列空间中的结构基序设计支架
- **同源物条件化**:通过Dayhoff-3b-GR-HM和Dayhoff-3b-GR-HM-c进行同源物条件化生成
模型架构采用混合状态空间Mamba层与Transformer自注意力机制,交织混合专家模块以最大化容量同时保持效率。模型原生支持长上下文处理,可同时处理单个序列和展开的多重序列比对。采用N→C和C→N双向自回归目标训练,支持顺序无关的填充,并可扩展至数十亿参数规模。
## 输入输出
- *输入格式**:单个蛋白质序列、展开的多重序列比对(MSA)、同源物序列
- *输出格式**:生成的蛋白质序列或同源蛋白质序列集
运行要求
- PyTorch 2.7.1
- CUDA 12.8及以上
- mamba-ssm
- causal-conv1d
- flash-attn
- 1.7亿参数模型:8块NVIDIA A100或8块NVIDIA H100 GPU(使用分布式数据并行)
- 30亿参数模型:176块NVIDIA H100 GPU(使用完全分片数据并行混合分片模式)
基本用法
推荐使用uv创建清洁环境并安装PyTorch 2.7.1,然后安装mamba-ssm、flash-attn、causal-conv1d及其依赖项。通过HuggingFace接口导入模型即可使用。
限制
- 仅限生成蛋白质序列或同源蛋白质序列
- 不可用于自然语言处理或其他生物序列(如DNA序列)
- 不保证所有生成的序列均具有现实可行性
- 难以生成与任何自然序列无同源性的高质量序列
License
MIT许可证
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.