发电技术, 2025, 46(3): 438-453 DOI: 10.12096/j.2096-4528.pgt.24152

AI在新型电力系统中的应用

基于大语言模型的电力系统预测技术研究综述

张祖菡1, 刘敦楠1, 凡航1, 杨柳青1, 段赟杰1, 李赟1, 马振宇2

1.华北电力大学经济与管理学院,北京市 昌平区 102206

2.国家电投集团数字科技有限公司,北京市 昌平区 102209

Review of Power System Prediction Technologies Based on Large Language Models

ZHANG Zuhan1, LIU Dunnan1, FAN Hang1, YANG Liuqing1, DUAN Yunjie1, LI Yun1, MA Zhenyu2

1.School of Economics and Management, North China Electric Power University, Changping District, Beijing 102206, China

2.State Power Investment Group Digital Technology Co. , Ltd. , Changping District, Beijing 102209, China

收稿日期: 2024-07-24   修回日期: 2024-10-28  

基金资助: 国家自然科学基金项目.  72171082
中央高校基本科研业务费专项资金.  2024MS027

Received: 2024-07-24   Revised: 2024-10-28  

作者简介 About authors

张祖菡(2000),男,硕士研究生,研究方向为电力市场人工智能,zhangzuhan23@163.com

凡航(1993),男,博士,讲师,主要研究方向为电力技术经济、机器学习等,本文通信作者,fanhang123456@163.com

马振宇(1988),男,高级工程师,研究方向为电力系统数字化、电力交易和调度,15853158870@163.com

摘要

目的 随着大规模新能源入网,新型电力系统在对灵活性需求提出一定要求的同时,对预测技术也有了更高的精确性要求,而传统预测方法在处理动态复杂的场景时存在一定局限性,因此,亟需研究适用于新型电力系统的预测技术。大语言模型(large language model,LLM)是一种基于生成式人工智能(artificial intelligence,AI)的技术,具有多模态数据融合、少样本学习、多任务处理的能力,能够为电力系统中的预测任务提供更加智能化和精准化的解决路径。为此,针对LLM在电力系统预测领域的应用现状及优势展开分析。 方法 首先,对LLM的基本架构、训练方法及其应用现状进行阐释;然后,说明了其应用在预测领域的原理及实现过程,并重点探讨了在电力负荷预测、新能源出力预测和电价预测方面的优势和潜力;最后,从数据质量管理、隐私保护及计算资源3个方面分析了目前LLM在预测应用中存在的问题,并给出了可行的解决思路。 结论 通过对比各种预测任务研究发现,与传统预测方法相比,LLM在少样本学习和多模态数据处理方面的强大能力使其更适用于复杂多变的预测场景,对LLM合理有效的应用能够为电力市场预测提供新的解决方案。

关键词: 大语言模型(LLM) ; 人工智能(AI) ; 新型电力系统 ; 负荷预测 ; 电价预测 ; 新能源出力预测 ; 隐私保护 ; 数据训练

Abstract

Objectives With the large-scale integration of renewable energy, new-type power systems require greater flexibility and higher prediction accuracy for prediction technology. Traditional prediction methods have limitations in handling dynamic and complex scenarios, highlighting the need for prediction technologies tailored to these systems. Large language models (LLMs), as generative artificial intelligence technologies, have capabilities in multimodal data integrating, few-shot learning, and multitask handling, enabling more intelligent and precise solutions for the prediction of power systems. Therefore, this study focuses on analyzing the current applications and advantages of LLMs in power system prediction. Methods First, the fundamental architecture, training methods, and current application status of LLMs are discussed. Then, their principles and implementations in prediction are explained, with emphasis on advantages and prospects in load prediction, renewable generation prediction, and electricity price prediction. Finally, challenges in LLM-based prediction applications are analyzed from three aspects: data quality management, privacy protection, and computational resources, and feasible solutions are proposed. Conclusions Through comparative analysis of various forecasting tasks, LLMs demonstrate superior capabilities in few-shot learning and multimodal data processing compared to traditional methods, making them more adaptable to complex and variable prediction scenarios. Effective application of LLMs can provide innovative solutions for electricity market prediction.

Keywords: large language model (LLM) ; artificial intelligence (AI) ; new-type power system ; load prediction ; electricity price prediction ; renewable energy output prediction ; privacy protection ; data training

PDF (1601KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

张祖菡, 刘敦楠, 凡航, 杨柳青, 段赟杰, 李赟, 马振宇. 基于大语言模型的电力系统预测技术研究综述. 发电技术[J], 2025, 46(3): 438-453 DOI:10.12096/j.2096-4528.pgt.24152

ZHANG Zuhan, LIU Dunnan, FAN Hang, YANG Liuqing, DUAN Yunjie, LI Yun, MA Zhenyu. Review of Power System Prediction Technologies Based on Large Language Models. Power Generation Technology[J], 2025, 46(3): 438-453 DOI:10.12096/j.2096-4528.pgt.24152

0 引言

随着全球能源结构的转型和我国碳达峰、碳中和目标的提出,电力系统的稳定性和效率已成为全球关注的焦点。在此背景下,面向高比例可再生能源渗透的新型电力系统转型已成为行业发展的必由之路[1-6]。电力负荷[7]、新能源出力[8-9]及电价预测[10]作为电力系统管理的关键环节,对确保电网稳定运行、优化能源分配和降低运营成本具有不可替代的重要性。随着新型电力系统的发展,高比例新能源的接入[11-15]以及负荷聚合商[16-18]、虚拟电厂[19-21]等新型市场主体的入市,电能替代和市场化进程不断加深,但也带来了更大的波动性和系统复杂性。与此同时,伴随着新一代通信与数据传输技术的发展,海量多源数据不断积累,传统基于精确数学模型的预测方法逐渐难以适应日益变化的市场环境和复杂的系统特征。因此,研究更先进的、适用于新型电力系统的预测技术势在必行。

电力系统预测技术的发展经历了从简单到复杂的演变过程。最初,预测工作主要依赖于基础的数理统计方法,如时间序列分析和回归分析[22]。这些方法在应对具有明显趋势或周期性的稳定数据时效果良好,但若处理电力市场中具有较强非线性特征的数据时有一定局限性,且难以满足实际预测需求。随着计算能力的提升和数据科学的发展,预测技术开始融合机器学习算法,如支持向量机(support vector machine,SVM)、随机森林回归和神经网络算法[23]。这些算法能够提取数据中的非线性特征,提高预测的精度和计算效率,但机器学习方法模型需要大量标准化数据支撑,在特征工程环节依赖专业技术人员的参与,且对数据样本要求也较高。随着计算机技术的发展,涌现出一批更先进的深度学习技术,包括卷积神经网络(convolutional neural network,CNN)、循环神经网络、长短时记忆网络(long short term memory,LSTM)等,这些算法在处理时间序列数据方面均展现出了较强的能力[24]。然而,深度学习技术存在特征提取能力有限、可应用场景较为固定等问题,缺乏多任务学习的能力,还存在仅能处理时间序列数据,无法融合电力系统中多模态数据、适应复杂多变的预测场景的问题。

当前,在智能测量设备全面覆盖及用户数据飞速增长的背景下,电力系统预测技术正朝着更加智能化的方向发展。近年来,生成式人工智能(artificial intelligence,AI)技术快速发展,因其具备理解多模态数据并提取问题抽象特征的能力,为解决电力系统预测问题提供了关键技术支撑。其中,以生成式预训练变换器(generative pre-trained transformer,GPT)系列为代表的大语言模型(large language model,LLM),凭借其强大的数据处理能力和在多模态任务中的理解能力,在能源电力领域的垂直化应用中展现出较好的需求适配性和广阔的应用前景[25]。值得一提的是,千亿级训练参数量级的LLM能够处理海量的非结构化数据,识别复杂的时间依赖性和空间关联性,提取多维度信息中的关键信息[26],展现出了传统人工智能模型不具备的强大常识语义理解能力和推理能力,为电力系统的预测提供了更为全面的视角。

基于此,本文从LLM的原理、核心架构及应用场景出发,深入探讨其在负荷预测、电价预测和新能源出力预测等多个方面的应用潜力。通过对现有文献的回顾分析及未来研究方向的展望,以期为电力市场预测领域的新型理论方法和应用发展提供参考。

1 LLM的基本原理及其应用特性

LLM是在自然语言处理和深度学习技术基础上融合发展的产物,与传统的预训练模型不同,LLM模型需要的参数和训练数据更多[27]。通过采用无监督学习预训练和自回归生成的方式,LLM能够从海量数据语料库中学习语义联系及通用知识,从而显著提升其在复杂语言环境和上下文中的感知能力。此外,LLM在少样本及零样本训练任务中,展现出了较强的迁移学习能力,在无需额外训练数据的情况下,能够完成表格数据分类[28]等特定任务。目前,LLM已在智能客服、数据处理等部分电力系统领域得到应用[29],并取得了一定成效。

1.1 LLM的神经网络模型架构

LLM的基本架构是深度学习中Transformer[30],它由编码器和解码器组成,可用于处理和生成序列数据[31],其结构如图1所示。编码器由多层堆叠的自注意力机制和前馈神经网络构成,它将输入文本序列转换为丰富的高维特征表示;解码器结构类似,可结合编码器输出和已生成的序列信息,逐步生成预测内容。自注意力机制作为Transformer的核心,赋予模型捕捉数据序列内长距离依赖关系的能力。

图1

图1   Transformer结构图

Fig. 1   Transformer structure


Transformer模型能够在处理输入的序列时,为序列中的每个元素分配不同的注意力权重,从而捕捉到不同元素之间的关系。其表达式如下:

YAttention(Q,K,V)=softmax(QKTdk)V

式中:YAttention为注意力机制的输出函数;softmax为归一化函数;Q,K,VRS×dk,分别为第dk维原始序列x作为输入矩阵时对应的查询向量、键向量和值向量,其中RS×dkSdk列的实数矩阵。

自注意力机制计算过程包括3个步骤:首先,将输入序列通过线性变换映射为键、查询和值向量;其次,计算查询与键的点积相似度并对其进行标准化处理,得到注意力权重;最后,将值向量与权重加权求和后生成输出信息。在每个自注意力层后均部署一个前馈神经网络,该网络可独立作用于序列的每个位置,以优化特征表达。为使模型能从不同角度捕捉信息特征,可采用多头注意力机制,它通过并行计算多个自注意力,将多个头的输出拼接后再进行线性变换。此外,为了增强LLM训练过程的稳定性,有效避免梯度消失和梯度爆炸问题,可结合全连接层、残差连接和层归一化技术[32]。一般而言,所建模型先在大规模文本语料上进行预训练,再针对特定任务对其进行微调,最终通过自回归方式生成序列元素。

1.2 LLM训练技术

尽管LLM在自然语言处理领域表现优异,但要满足电力系统等垂直领域的需求,有必要采用专门的训练方法。常见的LLM训练方法有预训练和微调技术。预训练是指利用大规模多模态数据构建具备通用语义理解能力的模型;微调是指使用特定的标签数据,在特定任务和领域上对大模型进行有监督学习,以提升其在特定领域的性能。预训练模型机制如图2所示。

图2

图2   预训练模型机制图

Fig. 2   Mechanism of pre-trained model


在模型预训练中,LLM经一系列前向传播和反向传播步骤来调整参数,在前向传播阶段,模型接受输入序列,通过嵌入层内多层网络预测下一时间步的值,并通过损失函数计算预测值与实际值之间的误差;在反向传播阶段,以上述误差为依据,计算损失函数对模型参数的梯度,并经优化算法更新模型参数。假设给定文本序列T={t1, t2, …, tn },训练LLM基于前n-1项文本序列预测tn,该过程的表达式为

L(t)=i=1nlgP(ti|t1,t2,,ti-1)

式中:L(t)为文本序列的对数似然值;n为文本个数;P为最大似然函数;ti 为第i项文本序列。

预训练的主要优势在于,模型可以基于大量数据学习丰富的语言特征和内在规律,因此在面对新任务时,仅需少量数据进行微调即可将预训练的知识迁移学习[33]。在预训练过程中,可以采用梯度累积等优化技术更高效学习,以及权重衰减等正则化技术防止出现过拟合现象。

微调技术主要有指令微调和对齐微调[34]。指令微调技术是通过向模型提供指令和选项的方式,将自然语言处理任务转化为指令,以提升LLM在零样本模式下的泛化能力[35]。对齐微调技术是通过参数冻结法将部分预训练模型参数冻结,并通过学习率调整及设定特定的损失函数,从而优化LLM输出的准确性和一致性[36]。除此之外,还可以应用知识蒸馏[37-38]等压缩技术生成更轻量级的模型,通过训练小模型模仿大模型的输出,使其在保证高性能的同时显著减少模型参数量,该方法更适用于垂直领域模型的部署和应用。

1.3 LLM在电力系统中的应用特性

在面对新型电力系统和电力市场预测领域的复杂问题时,所建模型需要具备强大的逻辑推理、启发式搜索、感知和处理不确定性的能力。LLM在这些应用中展现出显著的优势,主要得益于其以下4个方面的特性:

1)小样本学习能力。LLM能够在有限的数据样本上快速学习并适应新任务,这使得其在数据稀缺的领域仍具备一定优势。相较传统的计算机领域,电力领域数据规模较小、类型较少,而LLM可以根据场景进行泛化和扩充,具有较强的应用空间。

2)多模态信息处理及生成能力。LLM能够处理气候、政策文本等多维数据,这使得其在多模态数据分析和决策支持系统中具有应用潜力。同时,LLM在结合上下文信息方面具备优势,这使其能够在需要理解复杂业务情境的电力系统预测中生成更准确的输出。

3)低代码应用能力。LLM具备生成代码的能力,能够让非专业编程开发人员参与到模型优化工作中,这在自动化电力系统管理和优化算法开发中尤为重要。此外,LLM能够实现低代码的预测工作。

4)多任务学习能力。依据海量训练参数,LLM能够适应电力系统的复杂场景。当前,LLM可应用于电力智能客服、报价预测和决策等方面,能够从繁杂任务环境中捕捉共性,并进行迁移学习和自我更新。

2 LLM的预测原理及实现过程

2.1 LLM自监督预训练原理

LLM因其卓越的语言理解与生成能力而备受关注,关键在于涵盖了自监督预训练方法。自监督学习无需人工标注,通过预测文本序列中的下一个词,使模型自主学习语言结构与语义。在预训练过程中,模型以连续文本为输入,任务是预测下一词,例如,给定输入“Mary had a little lamb”,模型需预测接续文本“its fleece was white as snow”,这一过程需依赖其对上下文、语法及搭配的理解。通过不断优化,模型学会根据上下文进行精确预测。预训练目标可描述为最大化预测概率的期望[39],其表达式如下:

maxθEz~zm[i=1mlogpθ(sz,i|xc,sz,<i)]pθ(sz,i|xc,sz,<i)=j=1lip(si,j|xc,sz,<j,si<j)

式中:Ez为不同排列情况下的期望;zm 为所有可能的排列集合;pθ表示模型参数为θ的生成概率分布函数;sz,i为第i个被随机排列的文本跨度;xc表示将原始序列中的空缺序列替换标记化后的文本;sz,<isz,<j分别为在预测第i、j个跨度之前已预测出的跨度序列;li 为跨度si 的长度;si,j为跨度si 中的第j个标记;si<j 表示在第j个标记前所有已生成的标记序列。

预测准确性是评估模型性能的关键指标。训练过程中,模型通过不断调整和优化参数,逐步减小误差。随着训练的深入,模型逐渐能捕捉词义变化、句法复杂性及语篇连贯性等细微语言特征,从而提升语言生成与理解能力。预测驱动法不仅增强了模型的语言处理能力,也为处理复杂的自然语言任务提供了坚实基础。

2.2 LLM预测的实现过程

目前,预训练LLM在时间序列预测中备受关注,尤其广泛应用于电力系统的预测任务中。预测过程主要包括数据预处理、特征提取与模型构建,核心是拟合输入与输出数据之间的非线性关系,通常分为训练和推理2个阶段。电力系统的输入数据一般包含历史负荷、电价和天气等。预测前,需对数据进行清洗和归一化,构建固定步长的时间序列输入,然后,LLM通过嵌入层将多模态特征转化为统一的向量,以捕捉时序依赖关系。

在处理回归任务时,模型通过以下步骤计算预测值:综合输入序列中的多维信息,并结合上下文情景,输出高维特征向量 ht,如式(4)所示,该向量完整表征了在时间步t上的综合特征;然后,将特征向量 ht 输入到一个线性层(全连接层),最后映射到预测值空间。线性层的作用是将高维特征向量转换为一个标量,即预测值yt,表达式如式(5)所示。在某些情况下,可以选择用激活函数来增强模型的表达能力和预测稳定性。

ht=FFFN[MMulti(X)]
yt=δ(W0ht+b0)

式中:FFFN为前馈神经网络;MMulti表示多头注意力机制; X 为输入序列特征矩阵;δ为激活函数,其选择取决于具体任务; W0为线性层的权重矩阵;b0为偏置项。

在分类任务中,模型输出层的处理步骤如下:首先,将原始的分类得分通过线性层映射为类别的概率向量st;然后,将该概率向量输入softmax层,将其转换为类别的概率分布Pt;最后,输出得到概率分布,即各类别的预测概率。具体表达式如下:

st=Wcht+bcPt=softmax(st)Pti=softmax(sti)=esti/j=1Cestj

式中: Wc为线性层的权重矩阵;bc为偏置项;Pti为类别i的概率;stistj分别为类别ij的得分;C为类别总数。

当前,应用LLM进行时序预测的方法主要有2类:1)对时序数据进行处理,以便于转化为LLM可以识别的输入并直接进行预测;2)应用特定的数据集训练时间序列领域预测大模型,然后将其应用于具体的垂直领域预测任务中,从而提升该模型预测精度。文献[40]提出了利用LLM进行时间序列预测的方法,通过对时间序列数据进行文本化处理,以适配LLM的输入形式,实现自回归预测和不确定性评估。文献[41]总结了深度学习模型在时间序列预测中的发展,综述了Transformer架构在电力领域的应用。文献[42]对扩散模型在时间序列数据中的应用进行了回顾,讨论了扩散模型的基本原理及其在时间序列预测、插补和生成中的适应性。文献[43]搭建了用于时间序列预测的大模型,然后对该模型结构的位置编码进行优化,并使用多头注意力来拟合概率分布参数,从而得到每个时间点的预测概率分布。文献[44]基于多类型的海量时间序列数据,构建了GPT模型,在训练过程中应用大样本及低学习率提升鲁棒性,实验表明,在一些零样本学习任务中,该模型的预测效果较基础模型有显著提升。

3 基于LLM的电力系统预测场景

3.1 预测场景分类概述

LLM在新型电力系统中具备广泛的应用潜力,包括但不限于电力系统预测、电力系统规划和运行、电网优化调度、电力市场营销辅助等场景。其中在电力系统预测场景下,从系统需求侧到供给侧,LLM的应用场景包括但不限于负荷预测、电价预测和新能源出力预测3个部分。基于LLM的电力系统预测场景分类如图3所示。

图3

图3   基于LLM的电力系统预测场景分类

Fig. 3   Scene classifications for power system prediction based on LLM


3.2 负荷预测

电力系统负荷预测旨在支持电网实时运行,实现对电力需求的精准管理和快速响应。系统中的负荷类型包括工商业负荷、电动汽车充电负荷及需求响应负荷等,基于历史用电数据、季节性规律和实时消耗情况,可以进行短期到长期不同时间尺度的预测。精准预测有助于优化发、输、配电策略,适应电力市场和用户需求变化。

本文按照面向市场主体的负荷预测进行分类,考虑整体资源配置因素、运营规划调度,以及考虑用户与市场交互的思路,将负荷预测场景分为区域级负荷预测、电动汽车充电负荷预测、结合需求响应的负荷预测3个方面。

3.2.1 区域级负荷预测

区域级负荷预测对于地区电网优化电力资源分配,提高电网运行效率以及支持电网规划、市场运作具有重大意义。这是因为受季节、天气、节假日影响,负荷存在一定波动性和不确定性。目前,对区域级负荷预测采用的方法主要有传统机器学习方法和深度学习方法。

文献[45]对比了5种常见的机器学习算法在不同输入情形下的区域建筑负荷模型结果,提出了分段建模及参数寻优的预测优化方法,并验证了以温度和负荷历史数据作为预测模型输入的有效性。文献[46]聚焦区域微电网,基于LSTM神经网络构建了短期负荷预测模型。文献[47]利用灰色关联投影法,选择数据集内相似日样本,然后利用随机森林算法建立了负荷预测模型,最后验证了该模型具有泛化性强、收敛快等优点。文献[48]依据某区域独立能源系统场景,提出一种集成机器学习的预测方法,验证结果表明,所提方法较单类方法预测结果更为精准。

综合以上研究可以发现,当前针对区域级负荷预测场景的方法通常需要大量数据支撑,且对数据收集质量要求较高。而相比于传统机器学习和深度学习技术,LLM依靠其强大的小样本学习能力和迁移能力,能够更好地识别样本中的规律。文献[49]通过固定权重的LLM对数据特征进行提取,以把握输入变量的语义联系,提高预测的准确性。文献[50]提出了一种创新性的数据增强策略,减轻了LLM幻觉对负荷预测结果的影响。而对于中长期预测,LLM在预训练的基础上,结合微调、对齐策略和提示词优化等技术,耦合负荷数据、季节变化、政策法规等多种因素,将多维数据转化为模型易于理解的语句,使中长期预测结果更为详细和准确[51]

3.2.2 电动汽车充电负荷预测

随着电动汽车大规模并网,充电负荷表现出较强的时空随机性,对其进行准确预测对保障电网的安全、稳定及经济运行具有重要意义。电动汽车充电负荷预测研究是一个复杂且不断发展的领域,早期主要采用传统机理驱动的预测方法,如蒙特卡罗模拟法、排队论等,现阶段则广泛应用机器学习[52]和深度学习[53]等数据驱动技术。

文献[54]提出与电网连接的插电混动汽车的电池模型,用以描述充放电过程中的功率变化,该模型假设初始电池容量均匀分布,运用蒙特卡罗法抽取行驶里程,最终得到集群电动汽车的充放电负荷曲线。文献[55]考虑不同类型的电动汽车充电功率行为,运用概率统计分析,得出各项因素的概率分布函数,并利用蒙特卡罗法进行抽样,确定充电负荷。文献[56]建立了一种深度学习架构,该架构综合考虑交通情况、温度、车流量等信息,利用双向长短期记忆递归网络算法获得车辆驾驶行为的起讫点,并通过实时Dijkstra算法模拟电动汽车用户的驾驶行为,最终完成充电需求预测。文献[57]通过经验模态分解和模糊熵方法,将电动汽车充电负荷序列分解成子序列,然后应用LSTM和SVM构建子序列的预测模型,再由Stacking集成学习算法融合多类时序数据,从而提升模型的预测效果。文献[58]考虑了影响电动汽车出行的多种因素之间的相关性,提出了一种结合前馈和递归型人工神经网络方法,并引入基于粗糙集理论的网络训练策略,用以预测电动汽车的行驶行为和充电需求,并进一步预测所需的充电负荷。

数据驱动的预测方法可以通过数据挖掘建立充电负荷预测模型,与传统机理驱动模式相比,采用该方法的预测结果更加贴近实际充电负荷运行情况。但与此同时,上述方法存在数据处理难度大,以及无法结合用户充电特征反映用户充电行为等问题。当前已有部分基于Transformer的电动汽车充电需求预测研究。文献[59]通过考虑7、30、90 d三个时间步长,应用Transformer技术对电动汽车充电预测开展研究,结果表明,相较于传统深度学习技术,预测精度有所提高。然而,基于Transformer中自注意力机制的静态模型难以捕捉时空动态变化信息。文献[60]提出了一种基于LLM的多智能体框架,该框架中不同主体(Agent)共同参与规划和共享电动汽车充换电设施。文献[61]介绍了基于LLM的智能代理框架,该框架可用于模拟电动汽车的充电行为,并整合了用户偏好、心理特征和环境因素,以优化充电过程。LLM具备较强的多模态信息处理和生成能力、小样本学习能力,能够捕捉车-桩-网系统内多源异构时空数据中的关联信息,高效实现用户特征提取及分析,为电网运营商提供更全面和精确的负荷预测结果。

3.2.3 结合需求响应的负荷预测

需求响应指用户基于价格信号或激励信息,自愿调整用电行为。结合需求响应的负荷预测在电力系统运营中具有重要作用,有助于提升系统稳定性和优化资源配置。目前,相关预测方法主要分为价格导向型和激励导向型2类。

价格导向型预测通常指的是将电价作为预测的输入特征量,通过考虑价格影响下的负荷预测特性,构建预测模型。文献[62]综合考虑历史负荷、实时电价、预测日特性等不同因素,构建了基于LSTM的负荷预测模型,并采用自适应矩估计法进行模型训练。文献[63]引入了基于Stackelberg博弈实时定价机制,构建了综合能源系统的两阶段优化模型,并以多能源运营商收益最大和用户满意度最大为目标,建立了主从博弈模型,提高了用户参与需求响应程度。文献[64]构建了综合考虑分时电价等多因素的径向基函数短期负荷预测模型,完善了基于Logistic函数的用户模糊需求响应机理,以便于更准确地辨识用户在峰谷电价影响下的响应参数,更精确地量化负荷预测。

激励导向型预测以需求响应机理模型为基础,通过对激励手段的建模分析,构建负荷预测模型。文献[65]提出了一种电力用户行为模型,利用社会学知识对用户行为进行解读,并将响应的物理模型与数据模型相结合。文献[66]利用小波分解法将主动配电网的负荷分为季节性基础负荷及变动性负荷,并结合SVM回归模型对负荷进行了预测。文献[67]构建了面向虚拟电厂的精细化需求响应模型,计算了需求响应效益系数,并在此基础上,将响应模型与负荷预测相结合,将预测结果代入优化调度模型进行求解,最终得到较优的调度结果。

总而言之,在结合需求响应的负荷预测场景中,现有的LLM技术主要用于基于数据驱动的用户用电行为分析上,应用领域仍较少。目前,预测的主要难点在于电价信息和激励政策信息增加了建模的复杂度。因此,若需要开展相关场景下的技术应用,需着眼于如何进一步提高LLM在考虑电价及用户行为情况下负荷预测的精确度。

3.3 电价预测

电价预测在电力市场运转中至关重要,它能够为发售电双方和电力消费者提供决策支持,优化资源配置,降低运营成本,提高经济效益。电价按市场交易类型可分为中长期电价和现货电价,前者涉及多重影响因素,通常按照双边协商或集中竞价等方式定价,后者按交易的市场类型进行出清。准确的电价预测能够引导电力资源的合理流动,促进市场的有效竞争,确保供需平衡,并为监管防范操纵行为提供依据。本文基于时间跨度,将电价预测分为短期电价预测(小时级、日级)和中长期电价预测(月级、年级)。

3.3.1 短期电价预测

短期电价受负荷变化、历史电价、天气等因素影响,输入的预测信息多元化,且数据噪声庞杂。通常来讲,需要对影响因素进行相关性分析后再进行预测。目前,短期电价预测的方法主要有基于统计学知识的方法和结合AI的方法。

基于统计学知识的短期电价预测方法通过整合历史电价和其他相关因素,运用统计分析进行预测,具有计算效率高、易于理解的特点。文献[68]提出一种基于小波分析的累积式自回归滑动平均(wavelet analysis combined with autoregressive integrated moving average,WARIMA)方法,将电价进行随机序列分解,在平稳时段进行传统时序预测,在波动时段采用WARIMA方法进行预测,结果表明,采用WARIMA方法的预测结果比采用普通累积式自回归滑动平均(autoregressive integrated moving average,ARIMA)方法更为精确。当前,研究基于AI模型的预测方法较多。文献[69]先使用随机森林回归方法进行现货市场价格出清预测,再使用网格搜索与交叉验证方法确定参数。文献[70]在最小二乘支持向量机模型中应用了贝叶斯框架,构建了一种时序非线性预测模型,并以此预测现货市场的价格。文献[71]阐述了基于最大信息系数法和集成经验模态分解(ensemble empirical mode decomposition,EEMD)来改进Informer架构的方法:首先将和电价相关度高的几类因素作为原始输入,再用EEMD分解输入Informer中,最终构建了短期电价多步预测模型。

利用LLM进行短期电价预测的优势在于:能分析海量历史与实时数据,识别复杂非线性关系,提高预测精度。对整合天气、季节性、市场供需等多维因素的LLM进行综合分析,预测结果将更为全面和准确。

3.3.2 中长期电价预测

中长期电价预测在电力市场中具有重要意义,不仅可帮助发电企业制定年度生产计划,为投资决策提供参考,还可辅助监管部门制定长期政策及对电力衍生品定价。然而,由于影响因素较多且存在较高不确定性,再加上预测时间跨度较长,中长期电价预测难度较大。目前,国内外针对中长期电价预测的研究较为有限,主要采用随机过程模型分析电价分布特性,然后以此构建预测模型,因此研究仍有较大改进空间。

在中长期电价预测中,考虑的关键因素有电力负荷的长期需求、社会经济发展状况、发电企业的电源建设情况等。同时,还需关注电价与系统剩余容量的关系,重点分析电价的整体变化趋势,合理确定中长期电价的置信区间,以提高预测的可靠性。文献[72]构建了基于最小最大概率回归方法的中长期电价预测模型,并以月为预测周期,在美国加州电力市场运营数据上验证了模型有效性。文献[73]在考虑现货市场和中长期合约市场关系的基础上构建了改进多价格灰色模型,并对这2类市场电价进行了综合预测。文献[74]分析了负荷、功率、可调水平等多因素对电价的影响,将电价分为正常电价和高电价,以SVM技术预测未来电价归属,并将其应用于短期和中长期电价综合预测。

LLM在进行中长期电价预测时能够处理分析大量的历史和文本数据,识别市场趋势和复杂动态。此外,通过训练,LLM可以学习季节变化、经济发展、政策变动等因素与电价的关系,分析这些因素对供需的影响,并以此来预测电价走势。LLM能够提供更为深入的市场洞察,助力发电企业、电网及监管机构进行长期规划及决策。

3.4 新能源出力预测

电力系统实现供需实时平衡依赖于准确的新能源功率预测。为预测未来新能源出力情况,需要综合考虑历史和实时的发电数据、天气状况等信息。不同可再生能源因间歇性与波动性差异,在时间尺度和关键影响因素上存在区别。目前,研究多采用机器学习等方法提升预测精度,方向主要是风力和光伏发电功率预测。

3.4.1 风力发电功率预测

风力发电功率主要受风速影响,理论上风速-功率曲线呈“S”型,但实际出力还受风向、空气密度、温度、湿度及风机性能等多因素影响。传统预测多依赖物理和统计模型,如时间序列与回归分析,然而这些方法难以充分捕捉风电功率的非线性和多变量复杂关系,且对数据质量和模型假设敏感,影响了预测精度和模型适应性。随着大数据和AI的发展,数据驱动方法逐渐成为主流。

文献[75]应用人工神经网络、自适应神经模糊推理系统、径向基函数神经网络等技术来预测风电功率,生成了较为准确的预测结果。文献[76]提出了一种基于集成学习技术的概率性风力发电预测方法,通过结合小波变换和CNN来提取和学习风电数据中的非线性特征,经独立评估模型设定误差和数据噪声,有效提高了预测精度和系统鲁棒性。文献[77]对基于空间分布的数值天气预报(numerical weather prediction,NWP)模型进行排序与重组,并将此模型与应用梯度提升回归模型、分位数回归神经网络集成,最终构建了概率预测模型。当前,已有学者对LLM在风电功率预测领域进行了研究,文献[78]选取开源LLM作为基座模型,对风速数据进行解耦和时空特征融合,通过重新设计编码方式及多阶段微调,使得LLM更适用于风力预测任务。文献[79]提出了一种时空增强的预训练LLM,并将其用于风速预测。该研究通过系列分解,将风速分解为季节性趋势成分,此外,为了捕捉时空依赖性,引入了时间和空间提示词,整合了风电场地理及天气因素,实验表明,经训练后的模型在多种时间步长条件下均表现出良好的效果。

综合上述研究及LLM自身结构特性来看,LLM的深层自注意力机制能够高效捕捉风速与时间、地理等多维因素之间的复杂非线性关系,提升对风电功率时空动态的理解能力。此外,LLM具备较强的迁移能力,能够学习不同风电场及气候条件的变化对风电功率的影响,为风电功率预测提供了有力支撑。

3.4.2 光伏发电功率预测

影响光伏发电功率的主要因素是太阳辐射强度,因此,传统方法多先预测辐射强度,再结合光伏设备的转化效率进行间接功率预测。但由于天气变化(如云量和风向等)影响,光伏功率具有较强的随机性和波动性,间接预测易产生较大误差。随着AI技术的发展,以基于神经网络为代表的直接功率预测方法因展现出更强的适应性和准确性而逐渐受到关注。

文献[80]将与待预测日天气类型等因素欧氏距离最小的历史日作为相似日,把太阳辐射强度和温度作为输入变量,由此构建了遗传算法模糊径向基神经网络的预测模型。文献[81]通过结合卫星图像和时空图神经网络追踪云层的运动变化,从而预测短期内光伏发电情况。文献[82]基于深度学习网络构建了组合预测模型,在保证最优区间预测的同时提升了模型拟合优度。现有研究表明,先进算法可显著提升新能源发电预测的精度,但仍存在对复杂时空特征捕捉不足的问题。

与风力发电功率预测场景类似,通过融合多模态气象数据、设备状态及历史数据,LLM可深入挖掘光伏发电功率的随机性与波动性特征,此外,通过提示词优化技术,将关键天气和地理位置等信息转化为模型的输入上下文,可进一步提升预测的准确性和鲁棒性。

4 LLM在电力系统预测中面临的问题

在电力系统预测领域,LLM虽然展现出了显著的潜力和优势,但在实际应用中仍面临若干关键问题和挑战,亟需深入探讨和解决。

4.1 LLM的数据质量和管理问题

LLM在电力系统预测中的应用面临数据质量和可获取性挑战。预测准确性依赖高质量、全面的数据集,包括历史负荷、气象和设备运行状态等[83]。然而,现实中电力系统的数据通常来自设备中的各种传感器和检测设施,噪声和人为调度信号等因素,造成数据缺少、噪声干扰、实时性不足等问题[84],影响模型的训练和预测精度。此外,数据的可获取性也是一大挑战。由于数据分布于不同地域和系统,存在采集滞后和整合难题,而且,获取的数据需要进行实时处理,因此,数据获取需要同时克服技术和管理上的障碍。

为解决上述问题,通常需结合多种方法,包括开发高效的数据管理技术和策略。基于机器学习的噪声识别技术可自动过滤电力系统数据中的噪声,然后结合时间序列预测和空间关联分析,实现缺失数据的智能插补,保障数据的完整性和准确性[85]。此外,构建统一完善的数据采集与共享平台,利用分布式系统实时采集多源数据,采用标准化格式与接口,设计统一的数据处理框架,可实现数据标准化及共享,打破数据孤岛,避免重复处理,提升预测效率。

4.2 预测的信息安全和隐私保护问题

LLM在进行预测的过程中会包含复杂繁多的数据访问和交互,随之产生了信息安全与隐私保护问题。电力系统涉及大量的敏感信息,包含购售电企业的申报额度、电网运行信息和交易出清、个体用户用电数据等,这些信息的泄露可能对个人隐私和电网运行安全构成威胁[86]。因此,对LLM在训练和预测过程中应采取有效的安全措施,来处理和存储这些敏感数据。

此外,LLM在接入预测系统过程中面临隐私泄露和信息安全风险。LLM处理数据的阶段分为信息收集、信息利用、信息生成。在信息收集阶段,LLM可能弱化知情同意,导致数据上传方隐私泄露[87];在信息利用阶段,由于模型“黑盒”特性和解释性不足,易引发敏感信息泄露;在信息生成阶段,若敏感信息被恶意篡改,可能产生虚假误导信息,威胁市场安全。预测系统涉及大量敏感数据和复杂联合建模算法,涵盖设备、网络拓扑、运行状态、安全策略等信息。一旦系统或模型遭受篡改或攻击,将会对电力系统稳定和市场秩序造成极大的影响[88],因此,应加强LLM接入预测系统后的信息安全与隐私保护研究。

目前,在构建LLM训练语料库时,常通过K-匿名性等脱敏技术,去除用户身份、电力系统拓扑等敏感信息。在应用LLM进行数据挖掘和预测时,可结合差分隐私、同态加密、零信任访问控制,以及添加硬件安全模块等措施,确保数据处理过程安全可靠。对于多主体预测场景,可利用联邦学习和明密文混合隐私计算实现多方隐私保护,前者仅共享模型参数以实现联合训练,后者将明文与密文计算相结合,以满足高度敏感数据的多方协作需求。

为进一步增强LLM的可信性,可将数据驱动模型与知识规律模型相结合,即在数据模型中输入LLM所依赖的原始数据,在知识规律模型中融入专业知识及物理规律,从而确保预测结果符合电力系统实际运行原理。此外,在预训练过程中,结合人类反馈强化学习技术,可有效优化模型,使输出结果更贴合真实需求和应用场景。

4.3 LLM的计算资源与模型更新问题

在电力系统预测中,LLM的应用还面临着计算资源和效率问题。LLM的训练和推理需大量高性能硬件支持,这些资源需求导致了高昂的硬件成本和耗能,限制了LLM在实际应用中的可推广性。一次完整的模型训练可能需要上千小时,随着系统复杂度和数据量增长,训练时间和成本显著增加。此外,电力系统中数据的异质性加大了模型训练的难度[89]。在实际应用中,电力系统的实时预测和决策要求低延迟性,而目前LLM的推理时间较长,用于即时性预测难度较高。

此外,LLM模型的维护和更新也是不容忽视的问题。电力系统的特性不断变化,要求模型定期更新以保持其预测的准确性和有效性。然而,LLM的更新过程涉及重新训练,且不同版本模型之间的性能差异也可能带来预测结果偏差,这些都增加了预测的不确定性。

为了解决以上问题,可以采取LLM与垂直小模型结合的模式。首先,通过预训练和微调技术构建电力行业预测专用的大模型;然后,通过蒸馏与剪枝技术,将大模型压缩为便于边缘设备部署的小模型,并通过学习输出来保持模型性能[90]。此外,可通过云边协同实现边缘侧部署落地,在保证隐私的前提下优化成本;采用分布式计算和边缘计算提升训练效率与实时响应;应用低资源微调技术[91],冻结大模型的大部分参数,仅调优少量模块,在保证模型性能的前提下,大幅降低计算资源的需求,为电力行业提供个性化的LLM解决方案。

5 结论

探讨了在电力系统预测领域中应用LLM技术可能的预测场景及其优势,并指出了当前面临的挑战与解决思路。具体结论如下:

1)LLM具备强大的非结构化数据处理能力和多模态任务理解能力,能够挖掘电力系统多源数据背后的价值。相较于传统预测模型,LLM在捕捉数据复杂关系和模式方面展现出了一定优势,这为其应用于电力领域时间序列预测奠定了基础。

2)电力系统环境动态变化快,实时性要求高,LLM较强的小样本学习能力及自适应泛化能力能够在数据稀缺的场景下提供预测支持。此外,LLM在提升预测精度方面也展现出了一定的优势。

3)当前LLM在电力系统的应用存在优质训练数据获取困难、预测数据隐私安全难以保障、计算资源需求成本高和模型更新复杂等挑战。针对这些问题,建议采用隐私保护、模型蒸馏等混合应用技术,以期在一定程度上为LLM的应用问题提供解决方案。未来,随着大模型技术发展,此类问题仍是新型电力系统智能化发展亟待解决的重要方向。

参考文献

王灿张雅欣

碳中和愿景的实现路径与政策体系

[J].中国环境管理,202012(6):58-64

[本文引用: 1]

WANG CZHANG Y X

Implementation pathway and policy system of carbon neutrality vision

[J].Chinese Journal of Environmental Management,202012(6):58-64

[本文引用: 1]

李灏恩姜雨萌宋天立

新型电力系统背景下电力供需平衡特征和保供策略研究

[J].电网与清洁能源,202339(12):72-78

LI H EJIANG Y MSONG T Let al

Research on the characteristics of power supply and demand balance and supply guarantee strategies in the context of new power systems

[J].Power System and Clean Energy,202339(12):72-78

汤奕易俊薛峰

“双碳”目标下的新型电力系统规划与运行

[J].全球能源互联网,20247(3):241-242

TANG YYI JXUE F

Planning and operation of new power system under the goal of “dual carbon”

[J].Journal of Global Energy Interconnection,20247(3):241-242

高骞杨俊义洪宇

新型电力系统背景下电网发展业务数字化转型架构及路径研究

[J].发电技术,202243(6):851-859doi:10.12096/j.2096-4528.pgt.21124

GAO QYANG J YHONG Yet al

Research on digital transformation architecture and path of power grid development planning business under new power system blueprint

[J].Power Generation Technology,202243(6):851-859doi:10.12096/j.2096-4528.pgt.21124

顾靖达白小会李伟

新型电力系统变电站绿色低碳技术分析

[J].南方能源建设,202411(4):111-117

GU J DBAI X HLI Wet al

Analysis on green and low carbon technologies for new power system substations

[J].Southern Energy Construction,202411(4):111-117

王继业赵俊华

基于人工智能技术的新型电力系统优化运行与控制

[J].全球能源互联网,20236(3):238-239

[本文引用: 1]

WANG J YZHAO J H

Optimal operation and control of new power system based on artificial intelligence technology

[J].Journal of Global Energy Interconnection,20236(3):238-239

[本文引用: 1]

陈宋宋王阳周颖

基于客户用电数据的多时空维度负荷预测综述

[J].电网与清洁能源,202339(12):28-40

[本文引用: 1]

CHEN S SWANG YZHOU Yet al

A review of multi-time-space load forecasting based on customer electricity consumption data

[J].Power System and Clean Energy,202339(12):28-40

[本文引用: 1]

赵汉超从兰美刘杰

基于EMD-GM-Elman神经网络组合模型的新型电力系统新能源发电量及负荷需求量预测

[J].电网与清洁能源,202440(10):132-141

[本文引用: 1]

ZHAO H CCONG L MLIU Jet al

Forecasting of the new energy generation and load demand in the novel power system based on EMD-GM-Elman neural network combined model

[J].Power System and Clean Energy,202440(10):132-141

[本文引用: 1]

朱润泽王德军

基于LSTM神经网络的光伏系统功率预测

[J].电力科技与环保,202339(3):201-206

[本文引用: 1]

ZHU R ZWANG D J

Power prediction of photovoltaic system based on LSTM neural network

[J].Electric Power Technology and Environmental Protection,202339(3):201-206

[本文引用: 1]

郭雪丽华大鹏包鹏宇

一种基于改进VMD-PSO-CNN-LSTM的短期电价预测方法

[J].电力科学与技术学报,202439(2):35-43

[本文引用: 1]

GUO X LHUA D PBAO P Yet al

A short-term electricity price forecasting method based on improved VMD-PSO-CNN-LSTM

[J].Journal of Electric Power Science and Technology,202439(2):35-43

[本文引用: 1]

许竞赵铁军高小刚

高比例新能源电力系统调节资源灵活性不足风险分析

[J].中国电力,202457(11):129-138

[本文引用: 1]

XU JZHAO T JGAO X Get al

Risk analysis of insufficient flexibility from regulation resources in high proportion renewable energy power systems

[J].Electric Power,202457(11):129-138

[本文引用: 1]

颜炯卢生炜张涛

高比例新能源接入下电网输配电成本多主体分摊模型

[J].电力建设,202445(1):138-146

YAN JLU S WZHANG Tet al

A multi-stakeholder allocation model for transmission and distribution costs of power grid with high renewables

[J].Electric Power Construction,202445(1):138-146

张政伟陈谦牛应灏

基于实时生成定值的高比例新能源电网自适应电流保护

[J].电力建设,202445(2):137-146

ZHANG Z WCHEN QNIU Y Het al

Real-time generated protection settings based adaptive current protection for transmission line considering high proportion of new energy source

[J].Electric Power Construction,202445(2):137-146

刘洪波刘珅诚盖雪扬

高比例新能源接入的主动配电网规划综述

[J].发电技术,202445(1):151-161doi:10.12096/j.2096-4528.pgt.22106

LIU H BLIU S CGAI X Yet al

Overview of active distribution network planning with high proportion of new energy access

[J].Power Generation Technology,202445(1):151-161doi:10.12096/j.2096-4528.pgt.22106

魏韡范越谢睿

平抑高比例新能源发电功率波动的风-光-储容量最优配比

[J].电力建设,202344(3):138-147doi:10.12204/j.issn.1000-7229.2023.03.014

[本文引用: 1]

WEI WFAN YXIE Ret al

Optimal ratio of wind-solar-storage capacity for mitigating the power fluctuations in power system with high penetration of renewable energy power generation

[J].Electric Power Construction,202344(3):138-147doi:10.12204/j.issn.1000-7229.2023.03.014

[本文引用: 1]

赵先海刘晓峰季振亚

考虑居民用户动态行为的负荷聚合商决策分析

[J].中国电力,202457(10):179-189

[本文引用: 1]

ZHAO X HLIU X FJI Z Yet al

Decision analysis of load aggregator considering dynamic behavior of residential users

[J].Electric Power,202457(10):179-189

[本文引用: 1]

任洪波王楠吴琼

考虑阶梯型碳交易的多负荷聚合商协同优化调度与成本分配

[J].电力建设,202445(2):171-182

REN H BWANG NWU Qet al

Collaborative optimal scheduling and cost allocation of multiload aggregator considering ladder-type carbon trading

[J].Electric Power Construction,202445(2):171-182

刘金朋刘胡诗涵张雨菲

考虑居民用户可调节潜力的负荷聚合商日前投标决策优化模型研究

[J].智慧电力,202452(2):71-78

[本文引用: 1]

LIU J PLIU H S HZHANG Y Fet al

Day-ahead bidding decision optimization model of load aggregators considering adjustable potential of residential users

[J].Smart Power,202452(2):71-78

[本文引用: 1]

艾芊刘敦楠

虚拟电厂关键技术与市场机制

[J].全球能源互联网,20247(4):361-362

[本文引用: 1]

AI QLIU D N

Key technologies and market mechanism of virtual power plants

[J].Journal of Global Energy Interconnection,20247(4):361-362

[本文引用: 1]

赵建立向佳霓汤卓凡

虚拟电厂在上海的实践探索与前景分析

[J].中国电力,202356(2):1-13doi:10.11930/j.issn.1004-9649.202208078

ZHAO J LXIANG J NTANG Z Fet al

Practice exploration and prospect analysis of virtual power plant in Shanghai

[J].Electric Power,202356(2):1-13doi:10.11930/j.issn.1004-9649.202208078

钟永洁纪陵李靖霞

虚拟电厂智慧运营管控平台系统框架与综合功能

[J].发电技术,202344(5):656-666doi:10.12096/j.2096-4528.pgt.22105

[本文引用: 1]

ZHONG Y JJI LLI J Xet al

System framework and comprehensive functions of intelligent operation management and control platform for virtual power plant

[J].Power Generation Technology,202344(5):656-666doi:10.12096/j.2096-4528.pgt.22105

[本文引用: 1]

费熹

基于时间序列线性数学模型的电力系统短期负荷预测

[J].中国高新区,2018(14):30-31doi:10.1109/powercon.2018.8601585

[本文引用: 1]

FEI X

Short-term load forecasting of power system based on time series linear mathematical model

[J].Science & Technology Industry Parks,2018(14):30-31doi:10.1109/powercon.2018.8601585

[本文引用: 1]

JENDOUBI IBOUFFARD F

Data-driven sustainable distributed energy resources’ control based on multi-agent deep reinforcement learning

[J].Sustainable Energy,Grids and Networks,202232100919doi:10.1016/j.segan.2022.100919

[本文引用: 1]

冯斌胡轶婕黄刚

基于深度强化学习的新型电力系统调度优化方法综述

[J].电力系统自动化,202347(17):187-199

[本文引用: 1]

FENG BHU Y JHUANG Get al

Review on optimization methods for new power system dispatch based on deep reinforcement learning

[J].Automation of Electric Power Systems,202347(17):187-199

[本文引用: 1]

张俊徐箭许沛东

人工智能大模型在电力系统运行控制中的应用综述及展望

[J].武汉大学学报(工学版),202356(11):1368-1379

[本文引用: 1]

ZHANG JXU JXU P Det al

Overview and prospect of application of artificial intelligence large model in power system operation control

[J].Engineering Journal of Wuhan University,202356(11):1368-1379

[本文引用: 1]

TOUVRON HLAVRIL TIZACARD Get al

LLaMA:open and efficient foundation language models

[EB/OL].(2023-02-27)[2024-03-14].

[本文引用: 1]

CHOWDHERY ANARANG S RDEVLIN Jet al

PaLM:scaling language modeling with pathways

[J].Journal of Machine Learning Research,2023241532-4435

[本文引用: 1]

HEGSELMANN SBUENDIA ALANG Het al

Tabllm:few-shot classification of tabular data with large language models

[C]//International Conference on Artificial Intelligence and StatisticsValencia,SpainPMLR. 20235549-5581

[本文引用: 1]

曹祎张莉郭静

基于大语言模型的低碳电力市场发展应用前景

[J].智慧电力,202452(2):8-16

[本文引用: 1]

CAO YZHANG LGUO Jet al

Prospects for development of low-carbon electricity markets based on large language models

[J].Smart Power,202452(2):8-16

[本文引用: 1]

DEVLIN JCHANG M WLEE Ket al

BERT:pre-training of deep bidirectional transformers for language understanding

[EB/OL].(2019-05-24)[2024-05-23].. doi:10.18653/v1/n18-1

[本文引用: 1]

VASWANI ASHAZEER NPARMAR Net al

Attention is all you need

[C]//31st Conference on Neural Information Processing Systems (NIPS 2017)California,USANIPS20171-11

[本文引用: 1]

JIN MWANG S YMA L Tet al

Time-LLM:time series forecasting by reprogramming large language models

[EB/OL].(2024-01-29)[2024-05-23].. doi:10.1007/979-8-8688-1276-7_4

[本文引用: 1]

TAO C FHOU LZHANG Wet al

Compression of generative pre-trained language models via quantization

[EB/OL].(2022-01-16)[2024-05-23].. doi:10.18653/v1/2022.acl-long.331

[本文引用: 1]

赵俊华文福拴黄建伟

基于大语言模型的电力系统通用人工智能展望:理论与应用

[J].电力系统自动化,202448(6):13-28

[本文引用: 1]

ZHAO J HWEN F SHUANG J Wet al

Prospect of artificial general intelligence for power systems based on large language model:theory and applications

[J].Automation of Electric Power Systems,202448(6):13-28

[本文引用: 1]

CHUNG H WHOU LLONGPRE Set al

Scaling instruction-finetuned language models

[J].Journal of Machine Learning Research,202425(70):1-53

[本文引用: 1]

丁俐夫陈颖肖谭南

基于大语言模型的新型电力系统生成式智能应用模式初探

[J].电力系统自动化,202448(19):1-13

[本文引用: 1]

DING L FCHEN YXIAO T Net al

Preliminary exploration of a new generative intelligent application model for power systems based on large language models

[J].Automation of Electric Power Systems,202448(19):1-13

[本文引用: 1]

张翼朱永利

结合知识蒸馏和图神经网络的局部放电增量识别方法

[J].电工技术学报,202338(5):1390-1400

[本文引用: 1]

ZHANG YZHU Y L

Incremental partial discharge recognition method combining knowledge distillation with graph neural network

[J].Transactions of China Electrotechnical Society,202338(5):1390-1400

[本文引用: 1]

贺才郡李开成董宇飞

基于知识蒸馏与RP-MobileNetV3的电能质量复合扰动识别

[J].电力系统保护与控制,202351(14):75-84

[本文引用: 1]

HE C JLI K CDONG Y Fet al

Power quality compound disturbance identification based on knowledge distillation and RP-MobilenetV3

[J].Power System Protection and Control,202351(14):75-84

[本文引用: 1]

DU Z XQIAN Y JLIU Xet al

GLM:general language model pretraining with autoregressive blank infilling

[EB/OL].(2022-03-17)[2024-05-23].. doi:10.18653/v1/2022.acl-long.26

[本文引用: 1]

GRUVER NFINZI MQIU Set al

Large language models are zero-shot time series forecasters

[J].Advances in Neural Information Processing Systems,20233619622-19635

[本文引用: 1]

LIU X HWANG W M

Deep time series forecasting models:a comprehensive survey

[J].Mathematics,202412(10):1504doi:10.3390/math12101504

[本文引用: 1]

LIN L QLI Z KLI R Ket al

Diffusion models for time-series applications:a survey

[J].Frontiers of Information Technology & Electronic Engineering,202425(1):19-41doi:10.1631/fitee.2300310

[本文引用: 1]

RASUL KASHOK AWILLIAMS A Ret al

Lag-llama:towards foundation models for probabilistic time series forecasting

[EB/OL].(2024-02-28)[2024-03-14]..

[本文引用: 1]

GARZA ACHALLU CMERGENTHALER-CANSECO M

TimeGPT-1

[EB/OL].(2024-05-27)[2024-06-12]..

[本文引用: 1]

步婷范蕊孙可欣

基于机器学习算法的区域建筑负荷预测建模研究

[J].建筑科学,202238(4):85-96

[本文引用: 1]

BU TFAN RSUN K Xet al

Research on modeling of regional cooling and heating load forecast based on machine learning algorithm

[J].Building Science,202238(4):85-96

[本文引用: 1]

尹春杰肖发达李鹏飞

基于LSTM神经网络的区域微网短期负荷预测

[J].计算机与现代化,2022(4):7-11

[本文引用: 1]

YIN C JXIAO F DLI P Fet al

Short-term load forecasting of regional microgrid based on LSTM neural network

[J].Computer and Modernization,2022(4):7-11

[本文引用: 1]

吴潇雨和敬涵张沛

基于灰色投影改进随机森林算法的电力系统短期负荷预测

[J].电力系统自动化,201539(12):50-55

[本文引用: 1]

WU X YHE J HZHANG Pet al

Power system short-term load forecasting based on improved random forest with grey relation projection

[J].Automation of Electric Power Systems,201539(12):50-55

[本文引用: 1]

MATRENIN PSAFARALIEV MDMITRIEV Set al

Medium-term load forecasting in isolated power systems based on ensemble machine learning models

[J].Energy Reports,20228612-618doi:10.1016/j.egyr.2021.11.175

[本文引用: 1]

LEE JREW J

Large language models-based feature extraction for short-term load forecasting

[J].Journal of Korea Society of Industrial Information Systems,202429(3):51-65

[本文引用: 1]

GAO M YZHOU S YGU Wet al

A general framework for load forecasting based on pre-trained large language model

[EB/OL].(2024-09-03)[2024-09-04]..

[本文引用: 1]

XUE HSALIM F D

Utilizing language models for energy load forecasting

[C]//Proceedings of the 10th ACM International Conference on Systems for Energy-Efficient Buildings,Cities,and TransportationIstanbul,TurkeyACM2023224-227doi:10.1145/3600100.3623730

[本文引用: 1]

范培潇杨军温裕鑫

基于可进化模型预测控制的含电动汽车多微电网智能发电控制策略

[J].电工技术学报,202439(3):699-713

[本文引用: 1]

FAN P XYANG JWEN Y Xet al

A multi microgrid intelligent generation control strategy with electric vehicles based on evolutionary model predictive control

[J].Transactions of China Electrotechnical Society,202439(3):699-713

[本文引用: 1]

姚芳汤俊豪陈盛华

基于ISSA-CNN-GRU模型的电动汽车充电负荷预测方法

[J].电力系统保护与控制,202351(16):158-167

[本文引用: 1]

YAO FTANG J HCHEN S Het al

Charging load prediction method for electric vehicles based on an ISSA-CNN-GRU model

[J].Power System Protection and Control,202351(16):158-167

[本文引用: 1]

杨洪明熊脶成刘保平

插入式混合电动汽车充放电行为的概率分析

[J].电力科学与技术学报,201025(3):8-12

[本文引用: 1]

YANG H MXIONG L CLIU B P

Probabilistic analysis of charging and discharging for plug-in hybrid electric vehicles

[J].Journal of Electric Power Science and Technology,201025(3):8-12

[本文引用: 1]

王浩林张勇军毛海鹏

基于时刻充电概率的电动汽车充电负荷预测方法

[J].电力自动化设备,201939(3):207-213

[本文引用: 1]

WANG H LZHANG Y JMAO H P

Charging load forecasting method based on instantaneous charging probability for electric vehicles

[J].Electric Power Automation Equipment,201939(3):207-213

[本文引用: 1]

李奕杰宋恒叶晨晖

基于融合模型驱动和数据驱动的电动汽车充电负荷预测

[J].湖南电力,202343(3):9-15

[本文引用: 1]

LI Y JSONG HYE C Het al

EV charging load forecasting based on model driven and data driven

[J].Hunan Electric Power,202343(3):9-15

[本文引用: 1]

王毅谷亿丁壮

基于模糊熵和集成学习的电动汽车充电需求预测

[J].电力系统自动化,202044(3):114-121

[本文引用: 1]

WANG YGU YDING Zet al

Charging demand forecasting of electric vehicle based on empirical mode decomposition-fuzzy entropy and ensemble learning

[J].Automation of Electric Power Systems,202044(3):114-121

[本文引用: 1]

宋向峰

电动汽车出行行为预测及其聚合商优化调度研究

[D].郑州郑州大学2021

[本文引用: 1]

SONG X F

Research on electric vehicle travel behavior prediction and optimal scheduling of aggregators

[D].ZhengzhouZhengzhou University2021

[本文引用: 1]

KOOHFAR SWOLDEMARIAM WKUMAR A

Prediction of electric vehicles charging demand:a transformer-based deep learning approach

[J].Sustainability,202315(3):2105doi:10.3390/su15032105

[本文引用: 1]

ANSALDO G

AgentSpeak:a framework for agent-based modeling with integrated large language models;case study:analyzing policy interventions in electric vehicle adoption

[D].Boston,MA,USANortheastern University2023

[本文引用: 1]

FENG J KCUI C GZHANG C Let al

Large language model based agent framework for electric vehicle charging behavior simulation

[EB/OL].(2024-08-03)[2024-09-04]..

[本文引用: 1]

李鹏何帅韩鹏飞

基于长短期记忆的实时电价条件下智能电网短期负荷预测

[J].电网技术,201842(12):4045-4052

[本文引用: 1]

LI PHE SHAN P Fet al

Short-term load forecasting of smart grid based on long-short-term memory recurrent neural networks in condition of real-time electricity price

[J].Power System Technology,201842(12):4045-4052

[本文引用: 1]

李宁撖奥洋张智晟

基于Stackelberg博弈实时定价机制的电-气综合能源系统优化调度

[J].电力需求侧管理,202325(4):80-85

[本文引用: 1]

LI NHAN A YZHANG Z S

Optimal dispatching of integrated energy system based on Stackelberg game real-time pricing mechanism

[J].Power Demand Side Management,202325(4):80-85

[本文引用: 1]

张智晟于道林

考虑需求响应综合影响因素的RBF-NN短期负荷预测模型

[J].中国电机工程学报,201838(6):1631-1638

[本文引用: 1]

ZHANG Z SYU D L

RBF-NN based short-term load forecasting model considering comprehensive factors affecting demand response

[J].Proceedings of the CSEE,201838(6):1631-1638

[本文引用: 1]

王毅张宁康重庆

电力用户行为模型:基本概念与研究框架

[J].电工技术学报,201934(10):2056-2068

[本文引用: 1]

WANG YZHANG NKANG C Qet al

Electrical consumer behavior model:basic concept and research framework

[J].Transactions of China Electrotechnical Society,201934(10):2056-2068

[本文引用: 1]

苏小林刘孝杰阎晓霞

计及需求响应的主动配电网短期负荷预测

[J].电力系统自动化,201842(10):60-66

[本文引用: 1]

SU X LLIU X JYAN X Xet al

Short-term load forecasting of active distribution network based on demand response

[J].Automation of Electric Power Systems,201842(10):60-66

[本文引用: 1]

陈张宇刘东刘浩文

基于精细化需求响应的虚拟电厂优化调度

[J].电网技术,202145(7):2542-2550doi:10.13335/j.1000-3673.pst.2019.2019

[本文引用: 1]

CHEN Z YLIU DLIU H Wet al

Optimal dispatching of virtual power plant based on refined demand response

[J].Power System Technology,202145(7):2542-2550doi:10.13335/j.1000-3673.pst.2019.2019

[本文引用: 1]

周明聂艳丽李庚银

基于小波分析的短期电价ARIMA预测方法

[J].电网技术,200529(9):50-55

[本文引用: 1]

ZHOU MNIE Y LLI G Yet al

Wavelet analysis based ARIMA hourly electricity prices forecasting approach

[J].Power System Technology,200529(9):50-55

[本文引用: 1]

魏勤陈仕军黄炜斌

利用随机森林回归的现货市场出清价格预测方法

[J].中国电机工程学报,202141(4):1360-1367

[本文引用: 1]

WEI QCHEN S JHUANG W Bet al

Forecasting method of clearing price in spot market by random forest regression

[J].Proceedings of the CSEE,202141(4):1360-1367

[本文引用: 1]

李正欣赵林度

基于贝叶斯框架下LS-SVM的时间序列预测模型

[J].系统工程理论与实践,200727(5):142-146

[本文引用: 1]

LI Z XZHAO L D

Time series prediction based on LS-SVM within the Bayesian framework

[J].Systems Engineering-Theory & Practice,200727(5):142-146

[本文引用: 1]

许越李强崔晖

基于MIC-EEMD-改进Informer的含高比例清洁能源与储能的电力市场短期电价多步预测

[J].电网技术,202448(3):949-958

[本文引用: 1]

XU YLI QCUI H

Short-term multi-step price prediction for the electricity market with a high proportion of clean energy and energy storage based on MIC-EEMD-improved informer

[J].Power System Technology,202448(3):949-958

[本文引用: 1]

沈秀汶吴耀武熊信银

基于最小最大概率回归方法的中长期电价预测模型

[J].中国电力,200740(3):1-5

[本文引用: 1]

SHEN X WWU Y WXIONG X Yet al

The mid-term price forecasting model in electricity market using MPMR

[J].Electric Power,200740(3):1-5

[本文引用: 1]

范玉宏张维丁珩

改进灰色模型预测电力现货与中长期市场价格

[J].管理观察,2018(22):45-49

[本文引用: 1]

FAN Y HZHANG WDING Het al

Price forecasting of electric power spot,medium and longterm market based on improved grey model

[J].Management Observer,2018(22):45-49

[本文引用: 1]

冯长有王锡凡王秀丽

电价分布及分类预测模型

[J].电力系统自动化,200933(6):25-30

[本文引用: 1]

FENG C YWANG X FWANG X Let al

Electricity price distribution and classified forecasting model

[J].Automation of Electric Power Systems,200933(6):25-30

[本文引用: 1]

MIRCEA ECHEN C LABDEL-ATY E

Artificial intelligence and computational intelligence:a challenge for power system engineers

[J].Advanced Solutions in Power Systems:HVDC,FACTS,and Artificial Intelligence,2016721-729doi:10.1002/9781119175391.ch14

[本文引用: 1]

WANG H ZLI G QWANG G Bet al

Deep learning based ensemble approach for probabilistic wind power forecasting

[J].Applied Energy,201718856-70doi:10.1016/j.apenergy.2016.11.111

[本文引用: 1]

BRACALE ACARAMIA PCARPINELLI Get al

Day-ahead probabilistic wind power forecasting based on ranking and combining NWPs

[J].International Transactions on Electrical Energy Systems,202030(7):e12325doi:10.1002/2050-7038.12325

[本文引用: 1]

WU T JLING Q

STELLM:spatio-temporal enhanced pre-trained large language model for wind speed forecasting

[J].Applied Energy,2024375124034doi:10.1016/j.apenergy.2024.124034

[本文引用: 1]

LAI Z FWU T JFEI X Het al

BERT4ST:fine-tuning pre-trained large language model for wind power forecasting

[J].Energy Conversion and Management,2024307118331doi:10.1016/j.enconman.2024.118331

[本文引用: 1]

叶林陈政赵永宁

基于遗传算法-模糊径向基神经网络的光伏发电功率预测模型

[J].电力系统自动化,201539(16):16-22

[本文引用: 1]

YE LCHEN ZZHAO Y Net al

Photovoltaic power forecasting model based on genetic algorithm and fuzzy radial basis function neural network

[J].Automation of Electric Power Systems,201539(16):16-22

[本文引用: 1]

CARL D

Tutorial on variational autoencoders

[EB/OL].(2021-01-16)[2024-05-25]..

[本文引用: 1]

高岩吴汉斌张纪欣

基于组合深度学习的光伏功率日前概率预测模型

[J].中国电力,202457(4):100-110

[本文引用: 1]

GAO YWU H BZHANG J Xet al

Day-ahead probabilistic prediction model for photovoltaic power based on combined deep learning

[J].Electric Power,202457(4):100-110

[本文引用: 1]

侯庆春杜尔顺田旭

数据驱动的电力系统运行方式分析

[J].中国电机工程学报,202141(1):1-12

[本文引用: 1]

HOU Q CDU E STIAN Xet al

Data-driven power system operation mode analysis

[J].Proceedings of the CSEE,202141(1):1-12

[本文引用: 1]

MORENO ESCOBAR J JMORALES MATAMOROS OTEJEIDA PADILLA Ret al

A comprehensive review on smart grids:challenges and opportunities

[J].Sensors,202121(21):6978doi:10.3390/s21216978

[本文引用: 1]

廖若愚刘友波沈晓东

基于双向循环插补网络的分布式光伏集群时序数据耦合增强方法

[J].电网技术,202448(7):2784-2794

[本文引用: 1]

LIAO R YLIU Y BSHEN X Det al

Time series data coupling enhancement method of distributed photovoltaic cluster based on bidirectional recurrent imputation network

[J].Power System Technology,202448(7):2784-2794

[本文引用: 1]

MAJUMDER SDONG LDOUDI Fet al

Exploring the capabilities and limitations of large language models in the electric energy sector

[J].JOULE,20248(6):1544-1549doi:10.1016/j.joule.2024.05.009

[本文引用: 1]

YAO Y FDUAN J HXU K Det al

A survey on large language model (LLM) security and privacy:the good,the bad,and the ugly

[J].High-Confidence Computing,20244(2):100211doi:10.1016/j.hcc.2024.100211

[本文引用: 1]

LI H RCHEN Y LLUO J Let al

Privacy in large language models:attacks,defenses and future directions

[EB/OL].(2023-10-16)[2024-05-04]..

[本文引用: 1]

张政冯少飞

大模型算力基础设施技术趋势、关键挑战与发展路径

[J].信息通信技术与政策,2024(6):2-9

[本文引用: 1]

ZHANG ZFENG S F

Large model computing infrastructure technological trends,key challenges,and development trajectories

[J].Information and Communications Technology and Policy,2024(6):2-9

[本文引用: 1]

LEE JDAI Z YREN X Qet al

Gecko:versatile text embeddings distilled from large language models

[EB/OL].(2024-03-29)[2024-05-04]..

[本文引用: 1]

SAHA RSAGAN N MSRIVASTAVA Vet al

Compressing large language models using low rank and low precision decomposition

[EB/OL].(2024-05-29)[2024-05-04]..

[本文引用: 1]

/