电力企业财务单据类型多样、数据量庞大且语义复杂，现有方法在特征提取中容易丢失关键信息。针对这一问题，本文构建了一种融合混合注意力与Transformer的电力财务单据分类模型。首先，对电力财务单据进行预处理并通过EDC框架自动构建知识图谱；然后，将知识图谱嵌入表征向量，基于混合注意力机制进行知识融合，并使用Transformer进行训练优化。实验结果表明，该方法相比传统方法在准确率上提升了5.7%，且推理速度显著提高，为电力财务单据智能处理提供了高效的解决方案。