分类目录归档:其他

2022年9月29日 组会报告摘要-02

本次组会汇报近期看的一个模型。2017 年,Google 在论文 Attention is All you need 中提出了 Transformer 模型,其使用 Self-Attention 结构取代了在 NLP 任务中常用的 RNN 网络结构。我会从Transformer整体结构的入手开始汇报。

Transformer 模型(Encoder-Decoder 架构模式

1.Transformer的inputs 输入

2.Transformer的Encoder

3 Transformer的Decoder

4 Transformer的输出

Transformer的结构图,拆解开来,主要分为图上4个部分,其中最重要的就是2和3Encoder-Decoder部分

以上内容都会在组会中详细介绍

2022年9月29日 组会报告摘要-01

本次组会将会分享我的一项新的研究,题目暂定为Application of Deep Reinforcement Learning to Dynamic Role-Based Access Control Policy: a Case Study in Smart Grid,即深度强化学习在动态角色访问控制策略中的应用——以智能电网为例。

本次报告将会从四个方面进行介绍,包括研究背景,研究目标,拟采用方案,以及研究计划。

研究背景

随着信息和通讯技术的发展,基于角色的访问控制(RBAC)已经广泛的应用于身份验证,成为大型组织为建立访问控制的一种解决方案,然而,在一些场景下可能会导致传统的RBAC模型失效,例如:

1.凭证(credential)的丢失或被盗取。[El Kalam et al., 2018]

2.来自内部的恶意威胁。[Fragkos et al., 2021]

3.错误的设置了RBAC的策略。[Fragkos et al., 2021]

上述的问题可能会使未经获得授权的人浏览到敏感的信息,或使信息遭到恶意破坏。

其中,RBAC的结构图如图1所示。

图1 RBAC模型的结构图

研究目的

因此,鉴于传统的RBAC在上述场景下存在缺陷,我们希望设计一种动态的RBAC模型,能够基于授权用户的行为属性,自动的对用户-角色的分配进行更新。

基于上述的需求,我们以智能电网为例,使用深度强化学习设计了一种动态的RBAC模型,从而应对凭证泄露后,来自内部已经得到授权的用户所带来的威胁。

拟采用方案

图片2展示了我们的混合RBAC模型的操作流程,当用户请求一个角色后,首先会检测其是否拥有角色(role),如果拥有角色的话,接下来就会使用DRL中的最优策略函数,对用户的可信度等级进行评估,从而决定是否对用户进行授权,给予其申请的角色。

图片2 动态RBAC混合模型流程图

其中,深度强化学习的状态空间,动作空间,奖励等设置问题将会在组会中进行详细的介绍。

2022年9月22日 组会报告摘要-01

本次组会将按照博士开题报告要求介绍如下一些内容:

一、选题背景及其意义(包括理论意义和学术价值);
二、国内外研究现状及发展动态分析
三、课题研究内容、目标以及拟解决关键问题;课题研究内容
四、拟采取的研究方案及可行性分析(包括有关方法、技术路线、实验手段、关键技术等说明)研究方案及难点
五、预期成果和可能的创新点
六、论文工作计划

一,研究背景

2. 研究问题:

3.研究目标

为了能够使用个体供应商电力数据的同时保证数据的隐私,我们提出了一种受差分隐私约束联邦学习数据生成模型相结合的框架,实现分布的隐私数据共享。

4.研究的内容

为实现研究目标,我们需要研究如下几个问题

a.数据生成技术研究发展已久,但考虑到电力数据的时序性、高维度等特点,哪种生成技术最为适合我们的研究目标?

b. 考虑实际的电力系统中,用户的用电数据是分散在各个供应商手中,联邦学习虽然已经应用到许多电力系统的监督学习模型中,但无监督学习的生成模型联邦学习相结合研究目前还比较少。尤其是对于GAN这种生成模型中没有直接优化目标函数的模型,联邦学习如何组织各个供应商手中的数据稳定、快速、训练高质量的生成模型仍是一个难点。

c. 为提供生成数据可证明的隐私性保障,方案打算通过2006年提出的差分隐私技术实现。但对于所用的深度学习模型,需要具体考虑差分隐私的噪声如何加入到我们的数据中,是模型训练前,训练后还是训练中?噪声应该加入多少才能保证可用性和隐私性?数据的敏感度是如何度量的?

d. 生成数据是为了能够取代真实数据进行发布的,但如何度量生成数据的相似性可用性,隐私性是一个开放性的问题,涉及到高维度的时间序列数据,生成数据评估方案计算量和可行性也是一个需要考虑的内容。

5. 拟采用方案

针对研究的内容,我们采用的方案如下:

a:比较了主流的数据生成技术,我们选用目前最好的数据生成模型GAN

b:考虑到实际的数据分布情况,我们将联邦学习与GAN结合并将模型的结构进行了适当的改进,采用了中心节点一个生成器的结构,加速模型训练。为了稳定模型训练过程,我们使用了WGAN-GP对数据的梯度进行了约束。为了能够充分提取出电力数据的时序特征,我们在GAN中构建了多层的卷积网络。

c. 经过梳理与分析,我们的方案采用模型训练过程中加入噪声的方式实现差分隐私,即2016年提出的DP-SGD方案,具体而言,我们在GAN中的生成器模型中最后一层激活函数中加入高斯差分隐私。对于敏感度的测量,我们采用2018年提出的瑞丽(Renyi)散度进行计算。

d. 为了能够更好的评估生成的数据的相似性,可用性和隐私性,我们对现有的众多评估指标进行了梳理。对于生成数据的隐私性评估方案这一难题,我们提出了自己的方案,简单来说,是找到真实数据集与生成数据集中最相似的点,同时去除这些记录来构造相邻数据集,实现对隐私损失的计算。

2022-09-15组会报告摘要03

本次组会汇报的是近期读的一篇论文,是2021年发表在IEEE TSC上的”Blockchain based Multi-Authority Fine-Grained Access Control System with Flexible Revocation”。文章提出了一种基于密钥策略属性的多权限和灵活撤销加密方案(MAFR-KP-ABE),以实现分散授权和灵活撤销的特性。又提出了一种基于MAFR-KP-ABE方案和区块链的细粒度访问控制系统,该系统满足付费数据共享服务的需求,并增强了若干安全属性。

科研背景:

随着云计算的发展,企业和组织更多会选择云服务来进行数据存储和资源共享。但是当用户想安全且有选择地共享数据时,加密数据的云存储给数据细粒度访问控制带来了巨大挑战。并且从2005年至今,属性密码备受学术界和工业界关注,一直是热门研究方向。但是国内外研究侧重纯理论、特定场景解决方案研究,研究成果之间不成体系。

科研问题:

一是实际部署的密码系统离不开用户撤销和用户密钥撤销机制,但既存的属性密码撤销机制无法兼容效率和可靠性,二是访问控制要满足越来越复杂的数据共享需求,传统的数据共享系统面临新的挑战。

科研内容:

2022年7月21日 组会报告摘要-01

本次组会将介绍个人近期设计实施的一个GAN网络参数更新优化算法:GAN-optimization。 该算法参考工业控制领域中的PID算法,将其结合深层网络的参数梯度更新优化算法,尝试以此解决GAN网络中因为生成器与判别器在对抗训练过程中某一方太强导致模型崩溃的问题。该方案在我们的分布式GAN架构中进行了实验, 在MNIST数据上的结果表明我们的该优化方案能够稳定的训练GAN。

内容主要包括

1.分析GAN网络训练失败的原因,参考其他研究者的解决思路,提出自己的解决方案,

2.回顾梯度,参数更新的基本内容,总结常用的参数更新的策略:SGD,SGD-Momentum, Nesterov Momentum等内容,

3.介绍工业控制领域常用的控制策略PID,

4.比较PID针对误差的控制策略与SGD等参数更新的方案,分析两者之间的区别与联系,将PID优化策略纳入到GAN网络的参数优化过程中。

通过本次组会介绍,我们希望大家能有如下一些收获

1.自动控制领域的闭环控制,PID控制策略

2.回顾梯度,梯度更新,SGD,SGD-Momentum, Nesterov Momentum等深度学习模型的更新策略

3.GAN网络的参数更新策略

4.GAN网络面临的问题以及解决方案

2022-06-23 组会报告摘要-03

上一次组会报告中我介绍了我对我的研究《基于区块链的隐私保护电动汽车充电桩推荐系统》的研究进展报告,主要介绍了系统框架,系统流程,数学模型以及实验安排等。

本次汇报主要介绍,我自己对科研问题的理解,上次组会后对于系统框架的一些修改,以及实验结果。

本次汇报主要分为:科研背景、科研问题、科研目的、进度报告、实验结果、研究计划六大部分。

科研背景
传统的充电桩推荐算法并没有提供用户隐私保护方案,并且他们所采用的集中式架构存在着服务信任问题,恶意中心节点的存在会影响充电桩推荐系统结果,同时也会对用户隐私安全产生巨大威胁。

l目前车联网与区块链结合的研究中还没有针对电动汽车充电桩推荐过程的方案。将区块链技术引入电动汽车充电桩推荐过程中,用以解决可能会产生的服务信任问题,并且利用激励机制来鼓励用户参与到推荐过程中,保障系统的运行。

科研问题
1.传统集中式服务架构存在恶意中心节点影响系统服务质量;
2.用户位置信息隐私安全。

科研目的
提出基于区块链的电动汽车充电桩推荐系统,并且使用基于k匿名的电动汽车充电桩推荐算法来保证数据隐私。该系统能够在保证服务可信的同时为用户提供隐私安全的充电桩推荐服务。

进度报告

系统整体架构图
工作流

优化模型
采用多目标优化的方法确定目的充电桩,从车辆行驶距离与充电站车辆数目两大方面进行优化,优化目标函数为:                                              

1)车辆行驶距离优化目标

该优化目标是为了尽可能的缩短车辆行驶里程,减少用户行驶时间,具体优化函数如下:

2)充电站车辆数目优化目标

该优化目标是为了尽可能的利用充电站的充电资源,平均充电站车辆数目,具体优化函数如下:

实验结果

不同车辆数的系统通信成本
不同车辆数的系统时间成本
车辆隐私泄露概率
隐私保护算法对推荐结果的影响
优化前后车辆行驶里程对比
优化前后充电站利用情况

研究计划

时间任务
6.20-7.4完善论文,7.10前投递
7.4-7.18开展下一阶段工作,针对恶意用户提出解决方案并设计实验。

2022-06-02 组会报告摘要-03

本次将会介绍有关《客服中心场景下基于情感分析的业务流程预测研究》的进展情况。主要内容如下:

科研背景:

  • 针对大型、复杂的业务流程,业务流程管理(BPM)有利于降低流程执行成本、有助于管理人员进行决策。预测性的业务流程监控(PBPM)是业务流程管理中的重要研究领域,近年来涌现出很多相关的研究工作与成果。
  • 业务流程预测分析已完成流程实例的事件日志,对正在运行的实例进行预测,以采取更为有效的资源调度等执行策略,避免不必要的损失,提升业务系统的整体性能。
  • 随着技术的发展和消费模式的升级,对于面向过程的服务,客服中心直接与客户交流互动,能够直接、客观地获取客户数据。企业通过分析对应的客户数据,及时发现问题改善问题,能优化流程,降低企业成本。客服中心已成为推动企业和政府等组织机构开展数字化和智能化转型的重要切入点。

科研问题:

  • 现有的研究认为,客户情绪与认知具有相关性,且明显影响着顾客满意度及后续行为。当前研究没有有效探索客服中心通话文本中的客户情绪对业务流程状态的影响。
  • 没有对比多种主流深度学习模型对业务流程预测效果的影响。

科研目的:

  • 引入客户情感:创新性的提出将客服中心感知的客户情绪数据应用到业务流程预测中,提出一种客服中心场景下基于情感分析技术的业务流程预测方法,对客户的发问意图、抒发情感、表达语义等进行识别和理解,针对多个任务提高流程预测精度。
  • 多模型比较:对比CNN、LSTM、Transformer预测模型在业务流程预测上的效果。

流程框架:

实验结果: