EE-Model-1.5B

EE-Model-1.5B (Electronic Information Discipline Model)

English 简体中文

全球首个电子信息学科轻量化大模型**

赋能高校教研，基于昇腾端边云协同架构*

模型概述 (Model Overview)

EE-Model-1.5B** 是"鸿斛"电子信息专业引擎的核心组件之一，专为电子信息学科设计的轻量化语言模型。

针对该学科知识点复杂、技术迭代快、跨学科性强等痛点，我们构建了包含3万余条高质量数据的 **EE-Bench** 评测基准，并基于 **昇腾 (Ascend)** 全栈技术体系（MindSpore + MindIE + CANN）进行了全流程的训练与微调。

EE-Model-1.5B 专为 **端侧/边侧 (Edge)** 部署设计（如昇腾香橙派 OrangePi AIPro），拥有极致的推理速度和极低的资源占用，能够与云端大模型（EE-Model-72B）协同工作，实现智能路由与高效负载均衡。

核心亮点 (Key Features)

• *学科专精**：填补了电子信息领域学科大模型的空白，涵盖"信号与系统"、"通信原理"、"数字信号处理"等八大核心课程。
• *端侧优化**：1.5B 参数量经过知识蒸馏与剪枝，适配资源受限的边缘设备，支持快速响应简单任务与路由决策。
• *全栈国产化**：从训练（Ascend 910B + MindSpore）到推理（MindIE），完全基于国产算力底座构建，安全可控。
• *多语言支持**：支持中、英、法、德四国语言，面向全球学术交流场景。

训练数据 (Training Data)

本模型基于全球首个电子信息学科能力评测基准数据集 **EE-Bench** 进行微调。

• *数据规模**：30,000+ 条高质量专业指令数据。
• *覆盖范围**：涵盖 20+ 电子信息核心知识点体系。
• *题型多样**：包含编程、单选、多选、计算、简答、判断、填空、证明、综合九大题型。
• *构建方式**：基于 Mineru 自动化提取教材/真题 + 人工清洗 + 专家校验。

模型训练 (Model Training)

EE-Model-1.5B 的训练依托于 **Ascend 910B** 集群，利用 **LLaMA-Factory** 统一训练框架进行微调。

• *基础模型**：Qwen2.5-1.5B (Base) / DeepSeek (Distilled)
• *硬件环境**：Huawei Ascend 910B (NPU)
• *训练框架**：MindSpore, MindSpeed
• *训练方法**：
• SFT (Supervised Fine-Tuning)
• DPO (Direct Preference Optimization)
• Knowledge Distillation (from EE-Model-72B)

模型推理 (Inference)

本模型完美适配 **MindIE** 推理加速框架，也可通过 Hugging Face transformers 库进行通用推理。

快速开始 (Python)

昇腾 MindIE 部署 (Ascend MindIE)

针对昇腾硬件（如 OrangePi AIPro），建议使用 MindIE 进行高性能推理：

模型效果 (Model Performance)

EE-Model-1.5B 在 **EE-Bench** 上展现了优秀的性能，特别是在处理基础概念问答和路由判别任务上。

Model Parameters EE-Bench Score

:--- :---: :---:

• *EE-Model-72B** 72B **94.70%**
• *EE-Model-1.5B** 1.5B **68.35%**

GPT-4o - 71.00%

Qwen2.5-72B-Instruct 72B 70.12%

Qwen2.5-1.5B-Instruct 1.5B 45.28%

注：EE-Model-1.5B 在同等参数量级下显著超越基座模型，且接近 GPT-4o 水平。1.5B 版本主要侧重于轻量化与边缘端快速响应。*

应用场景 (Applications)

基于 **端边云协同智能路由架构**，EE-Model-1.5B 主要承担以下职责：

• **L3-路由决策**：精准判别用户提问的文本复杂度，决定任务是在本地处理还是上传云端。
• **简单任务速答**：快速处理概念查询、名词解释等低算力需求任务。
• **本地隐私保护**：在边缘端处理敏感数据，减少上云需求。

协议与引用 (License & Citation)

本项目遵循 Apache 2.0 开源协议。

如果您在研究中使用了本模型或数据集，请按如下格式引用：

免责声明 (Disclaimer)

虽然 EE-Model 在电子信息专业数据上进行了深度微调，但作为语言模型，它仍可能产生幻觉或错误信息。涉及电路设计、安全规范等关键决策时，请务必咨询专业人士或参考权威教材。

Last Update: 2025-12-07*

Created by the Honghu Team (鸿斛战队)*