模型介绍
中文整理# Dayhoff 模型卡片
## 用途
Dayhoff 是一个蛋白质序列数据与生成式语言模型的整合资源库。该模型汇集了来自宏基因组和天然蛋白质序列(GigaRef)的33.4亿条蛋白质序列(涵盖17亿个聚类)、来自结构衍生的合成序列(BackboneRef)的4600万条序列,以及来自开放蛋白质集(OpenProteinSet)的1600万条多重序列比对。这些模型能够原生预测突变对适应度的零样本影响,通过进化或结构背景条件来搭建结构基序的骨架,并在指定家族内引导生成新型蛋白质。
## 主要能力
- 无条件设计蛋白质序列
- 在 ProteinGym 上进行零样本突变效应预测
- 在 RFDiffusion 和 MotifBench 上通过序列空间设计结构基序的骨架
- 使用 Dayhoff-3b-GR-HM 和 Dayhoff-3b-GR-HM-c 进行同源物条件生成
## 架构
Dayhoff 采用混合架构,融合了状态空间 Mamba 层和 Transformer 自注意力机制,并交错排列专家混合模块以在保持效率的同时最大化容量。模型原生支持长上下文处理,可同时处理单序列和展开的多重序列比对。模型采用从 N 端到 C 端和从 C 端到 N 端的双向自回归目标进行训练,支持顺序无关的填充,并可扩展至数十亿参数规模。
## 输入输出
- 输入:蛋白质序列、多重序列比对
- 输出:生成的蛋白质序列、突变效应预测结果
运行要求
- PyTorch 2.7.1
- CUDA 12.8 及以上版本
- 需要安装 mamba-ssm、causal-conv1d、flash-attn
- 1.7亿参数模型:8 张 NVIDIA A100 或 8 张 NVIDIA H100 GPU
- 30亿参数模型:176 张 NVIDIA H100 GPU
基本用法
最简单的方式是通过 HuggingFace 接口使用这些模型和数据集。需要安装 PyTorch、mamba-ssm、causal-conv1d 和 flash-attn。
限制
- 仅限生成蛋白质序列或同源蛋白质序列,不得用于自然语言或其他生物序列(如 DNA 序列)
- 不保证所有生成的序列都真实可信
- 难以生成与任何天然序列均无同源性的高质量序列
许可证
MIT
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
