图卷积网络原理(二)【图信号与图的拉普拉斯矩阵】

矩阵乘法的三种视角后续图卷积网络的原理讲解主要以矩阵乘法的显示展开,这里介绍矩阵乘法的几种不同的视角,这些视角有助于我们理解图卷积网络的逻辑过程。对于矩阵 A∈Rm×nA\in R^{m\times n}A∈Rm×n 和 矩阵 B∈Rn×pB \in R^{n\times p}B∈Rn×p,它们的乘积 C∈Rm×pC \in R^{m \times p}C∈Rm×p,可以由如下三种视角计算得到。內积视角:这是我们本科阶段就接触到的视角。矩阵CCC 的第i 行第 j 列是由矩阵 AAA 的第iii 和
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras 给定输入数据,获取LOSS关于输入的梯度

需求论文需要使用对抗训练 adversarial training,里面需要拿到目标函数的loss关于输入样本的梯度。方法:使用Keras.backbend的function函数要点:想办法把输入feed给模型from keras import backbend as K#model是编译好的模型,with model.session.as_default(): #模型所在的session with model.graph.as_default(): #模型所在的graph
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

pytorch 踩坑集

错误1: 多LossRuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=True when calling backward the first time.原因:一次feed,多次backward()了。方法:把各个LOSS加权求和起来,然后再backward().原来有问题的代码:
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras ValueError: Unknown layer 自定义层历史参数无法载入

导入模型的时候出现: File “/root/anaconda3/lib/python3.6/site-packages/keras/utils/generic_utils.py”, line 140, in deserialize_keras_object': ’ + class_name)ValueError: Unknown layer: Denoising_layerDenoising_layer是我自己写的一个层,现在导入已经训练的模型时报这个错误。解决方法:在模型载入的时候添加类似如.
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras 自定义层以及在Summary时自定义层的参数个数为0的问题

今天 开开心心的实现了一个带降噪功能的残差层:__author__ = 'dk'''' 定义降噪和增强模块'''from keras import backend as Kfrom keras.engine.topology import Layerfrom keras.layers import add,Flatten,Conv1D, AveragePooling1D,Dotimport kerasclass Denoising_layer(Layer): def __i
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras:An operation has `None` for gradient. Please make sure that all of your ops have a gradient

Keras 报错:ValueError: An operation has None for gradient. Please make sure that all of your ops have a gradient defined (i.e. are differentiable). Common ops without gradient: K.argmax, K.round, K.eval.意思是说,构建的模型里面包含一些类似于K.argmax, K.round, K.eval.不可导的操作。
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

pytorch 载入历史模型时更换gpu卡号,map_location设置

pytorch 在保存训练后模型的时候,会把训练过程中使用的设备号(例如gpu卡号cuda:0 ,cpu)也一并保存下来。当pytorch重新载入历史模型时,模型默认根据训练时的设备卡号,把权值载入到相应的卡号上。然而,有的时候测试过程和训练过程的设备情况是不一致的。举个例子,A主机有四块GPU卡,然后我们用cuda:3 训练模型,并保存模型。在测试时候,我们需要在客户的B主机跑模型,但是B主机只有一块gpu卡:cuda:0 。如果按照默认方式载入模型的话,pytorch会报找不到gpu设备,或其他
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras 如何搭建复杂模型?

前言在Keras中,我们最常用到的是使用Sequencial 模型来搭建神经网络模型。Sequencial搭建模型特别的简单、直接,但是缺点是这种途径无法搭建非线性的模型(例如残差网络),无法搭建多个输入、多个输出的模型。本博客就是介绍如何使用Keras里面函数式API 搭建非线性、多输入输出的神经网络模型。Keras 函数式APIKeras 函数式API——翻译前叫做 Keras functional API—— 是指可以将Keras里面创建的层(layer)或者模型(Model) 当做一个函数
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras 载入历史模型报错: AttributeError: ‘str‘ object has no attribute ‘decode‘

Keras 2.3.0 载入历史模型时报错:AttributeError: ‘str’ object has no attribute ‘decode’解决方法:1. 降级h5pypip3 install h5py==2.10.02. 更换模型载入方式上面的报错出现在调用load_weights() 载入模型参数的过程中,然而载入历史模型还可以调用keras.models.load_model函数,按照如下载入即可:model= keras.models.load_model(model_pa
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

OriginLab学生版激活码续期

OriginLab学生版的激活码每次续费只有6个月的有效期,当有效期过了之后,只需要重新对激活码进行申请。申请方法:打开: http://www.originlab.com/OriginProLearning.aspx,在里面填入一些基本的信息。其中最关键的是你使用邮箱,请使用你们学校的邮箱。高校的邮箱,一般是以.edu结尾,同时还支持以下单位的邮箱:中科院:@ac.cn中科院:@*.cas.cn中国农业科学院:@caas.cn成都理工大学:@cdut.cn广西大学: @mail.gxu
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Keras 添加自定义Losses

前言有时候,我们需要往模型里面添加一些自定义的loss。这些自定义的loss主要分为两大类:loss是基于样本的正确标签 yrealy_{real}yreal​ 和预测的logit ypredy_{pred}ypred​ 计算得到。这种loss主要集中在对分类损失的改进上,例如Focal Loss等。loss需要模型的中间层信息参与运算。这种loss常见的就是对权重的正则化项,高级一点还有对抗机器学习里面的FGSM的对抗学习正则化项。其中,第一类loss可以通过自定义loss函数,或者los
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

多分类条件下分类指标:Macro-average和Micro-average,以及Weighted-average

在二分类条件下,我们可以很轻易的在混淆矩阵的基础上定义出各种指标(例如Accurarcy, precision, F1F_1F1​, recall),其定义方法如下:true positive: TP,真实情况为True,预测也为正的样本数。false positive:FP,真实情况为False,预测为正的样本数。false negative:FN,真实情况为True,预测为负的样本数。true negative: TN,真实情况为False,预测为负的样本数。对于这四个指标,在英文的取名是是
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

虚拟环境使用matplotlib报错:Can‘t find a usable init.tcl in the following directories

在虚拟环境使用matplotlib报错两例:_tkinter.TclError: Can’t find a usable init.tcl in the following directories:解决方法:首先,退出虚拟环境:deactivate.然后输入pip3 -V,查看当前系统默认的python3的lib目录:jmh@ubuntu:~$ pip3 -Vpip 21.0.1 from /root/anaconda3/lib/python3.6/site-packages/pip (pyth
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

RuntimeError: cublas runtime error : resource allocation failed at THCGeneral.cpp:250

pytorch报错:RuntimeError: cublas runtime error : resource allocation failed at THCGeneral.cpp:250 #10排查方法:如果模型本身没有GPU存储不够的问题,那么考虑使用torch.nn.Embedding()除了问题。embedding_layer = th.nn.Embedding(num_embeddings=3, embedding_dim= self.embedding_dim)那么输入给embed
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Winodws/Linux 平台上 各个版本pytorch的pip安装

v1.8.0# RocM 4.0.1 (Linux only)pip install torch -f https://download.pytorch.org/whl/rocm4.0.1/torch_stable.htmlpip install ninjapip install 'git+https://github.com/pytorch/[email protected]'# CUDA 11.0pip install torch==1.8.0+cu111 torchvision==0.9
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

Windows Edit 10注册码

注册码:Name:Cracker TeCHiScyRegister Code:1130140925535334280WinEdit下载URL:http://www.winedt.com/download/winedt103-64.exe2019-08-19实测有用
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

flowcontainer: 基于python3的pcap网络流量特征信息提取库

库介绍flowcontainer是本人编写的基于python3的网络流量基本信息提取库,方便做加密网络流量的分类任务。给定pcap文件,该库会提取pcap所有的流的相关信息,其中流信息包括:流的源端口、源IP、目的IP、目的端口、IP数据包的长度序列、IP数据集的到达时间序列、有效载荷序列以及相应有效载荷的到达时间序列、TLS的SNI。库会对IP数据包做过滤,那些tcp/udp载荷不为0的数据包会统计到有效载荷序列里面。工具简单易用,扩展性和复用性高。库的安装pip3 install git+http
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

湿泪

世界那么大,我只想回家
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

vue中mixins的使用方法

参考官网以及网上的一些资料,最基本的用法混入 (mixin) 提供了一种非常灵活的方式,来分发 Vue组件中的可复用功能。一个混入对象可以包含任意组件选项。当组件使用混入对象时,所有混入对象的选项将被“混合”进入该组件本身的选项。common.js文件export const mixin = { data() { return { num: 1 } }, methods: { fangfa() { console.log('vue中mix
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0

vue css改变右侧滑动条样式

改变右侧滑动条样式.rowUnder { max-height: 246px; overflow-y: auto; } .rowUnder::-webkit-scrollbar { width: 6px; background-color: rgba(25, 132, 165, 0.3); border-radius: 10px; } .rowUnder::-webkit-scrollbar-thumb { background-colo
分类: 其他 发布时间: 04-01 10:23 阅读次数: 0