zeppelin设置python版本

1、登录zeppelin,右上解选择interpreter菜单。 2、在搜索框中键入python,点击搜索按钮、结果中点击“edit”按钮。 3、修改zeppelin.python键对应的值,再点击保存按钮。 4、重启解释器。
分类: 其他 发布时间: 04-15 22:49 阅读次数: 0

linux下docker安装skil

1.如果没有安装docker,则先安装docker yum install docker 2.启动docker sudo service docker start 3.拉取镜象,大约要90分钟 docker pull skymind/skil 4.启动skil docker run --rm -it -p 9008:9008 -p 8080:8080 skymind/skil
分类: 其他 发布时间: 04-15 22:49 阅读次数: 0

SKIL/安装/单服务器安装

安装 - 单服务器 添加仓库 要添加仓库,请在/etc/yum.repos.d/skymind.repo中创建yum存储库配置,执行如下命令 sudo nano /etc/yum.repos.d/skymind.repo 并在/etc/yum.repos.d/skymind.repo中添加如下内容: [Skymind] name=Skymind Repository baseurl=https://nexus-ci.skymind.io/repository/rpms/centos/7/l
分类: 其他 发布时间: 04-15 22:49 阅读次数: 0

SKIL/安装/多服务器安装

安装 - 多服务器 在多个服务器上安装skil遵循与在单个服务器上安装skil相同的安装路径,但还有一些附加要求。 ZooKeeper 为了使多个服务器能够彼此工作和协调,skil的每个服务器/实例必须具有相同的ZOOKEEPER_HOST设置,并且所有skil的服务器/实例都必须能够访问zookeeper集群。 安装细节见Zookeeper。 SKIL 配置 在每台skil机器上,将/etc/profile.d/skil-env.sh中的ZOOKEEPER_HOST值设置为完全相同的值。 数
分类: 其他 发布时间: 04-15 22:49 阅读次数: 0

SKIL/工作流程/概述

概述 SKIL减少了实验数据科学建模、关键测试和产品决策以及可扩展部署工程之间的冲突。它弥合了Python生态系统与DevOps、IT和数据工程师部署体系结构之间的鸿沟。 从开始到结束 使用skil的团队可以期望对以下工作流程提供支持: 模型与数据配置 DNN 训练 数据和结果的协作用户界面 实验和模型的版本化 可扩展的微服务部署架构 模型服务API 管理 UI 与Hadoop和Spark集成后,Skil被设计用于分布式GPU上的业务环境,以及Prem、云端或混合系统上的CPU。 工具和配置
分类: 其他 发布时间: 04-15 22:48 阅读次数: 0

SKIL/工作流程/工作间

工作间 工作间是一个功能集合,可以实现不同的任务,例如进行实验、训练模型和测试不同的数据集转换。工作间与部署不同,它作为非生产性工作间来操作。 创建一个工作间 登录skil后,可以通过单击左侧导航栏上的“工作间(Workspaces)”直接访问工作间。单击列表窗格右上角的“创建工作间(Create Workspace)”,并为你的工作间命名。 在大多数情况下,你可以使用默认的模型历史服务器(Default Model History Server)。当你有一个更复杂的安装或多个skil进程运行
分类: 其他 发布时间: 04-15 22:48 阅读次数: 0

SKIL/工作流程/笔记本

笔记本 笔记本对编写代码、使用深度学习库和进行实验很有用。有几个关键特性与skil直接相关,允许你保存模型、评估结果等。笔记本是工作间的专有产品,与实验概念有直接关系。 Apache Zeppelin是笔记本的后端,主要由spark解释器(Spark Interpreter)提供支持。 阅读以下内容了解有关Zeppelin和Spark的更多信息: Apache Spark 编程指南 Spark 解释器指南 创建笔记本 创建并打开“工作间”和“实验”后,将自动生成一个笔记本并将其附加到该实验上。
分类: 其他 发布时间: 04-15 22:48 阅读次数: 0

SKIL/工作流程/数据转换

数据转换 在实践中,数据很少以方便神经网络使用的格式存在。它是字符串、类别、数字、不同格式的图像的混合体,而且大部分时间它没有被归一化。通常,数据科学家必须花费超过50%的时间来清理和转换数据,然后才能将其输入深度神经网络。 什么是转换? 数据转换是一个广义的术语,用来描述适合于输入函数的数据转换。在深度学习环境中,这通常意味着获取原始文件(如csv)、删除列或计算新列、按公共键对行进行分组(如果创建序列)、规范化数据(通常是统计数据),最后将输入矢量化为NDArrays。 skil支持在Da
分类: 其他 发布时间: 04-15 22:48 阅读次数: 0

SKIL/工作流程/定义模型

定义模型 SKIL有一个强大的模型存储、服务和导入系统来支持主要的深度学习库。SKIL可以用于端到端的训练、配置和模型部署,或者你也可以将模型导入SKIL。 模型互操作性 导入和托管在SKIL上的模型有三个主要来源: DL4J模型 Keras 模型 (和Keras模型格式系列) TensorFlow 模型 TensorFlow模型可以采用Keras模型文件格式,也可以采用Caffe模型文件格式。 这三个主要选项使企业组织能够灵活地允许多个团队选择他们自己的工具,同时围绕一个用于深入学习和机器学
分类: 其他 发布时间: 04-15 22:47 阅读次数: 0

SKIL/工作流程/导入模型

导入模型 TensorFlow, Caffe, Keras, 与 Deeplearning4j 都可以导入到SKIL SKIL模型导入允许数据科学家将他们在其他地方创建的深度学习模型部署到SKIL模型服务器。SKIL支持来自任何keras后端库的模型,包括TensorFlow、Caffe,还支持DL4J。 一个拥有经过训练的TensorFlow模型的团队,将其模型托管在模型服务器上,以便更好地与企业应用程序集成。SKIL模型服务器还允许数据科学和DevOps团队从一个中心位置管理所有的深度学习
分类: 其他 发布时间: 04-15 22:47 阅读次数: 0

SKIL/工作流程/TensorFlow模型

TensorFlow模型 SKIL1.0.3使用TensorFlow C++ API (版本1.4)的自定义JVM绑定,不施加限制。未来版本的SKIL将使用nd4j中的samediff功能来执行导入的模型。 从TensorFlow导入 参见导入模型页面。 TensorFlow Word2Vec 支持 如果使用了lookup_embedding函数,那么skil应该能够将模型导入到模型服务器中。 部署的先决条件 为了部署TensorFlow模型,图及其相关权重必须存储在单个pb文件中。使用ten
分类: 其他 发布时间: 04-15 22:47 阅读次数: 0

SKIL/工作流程/Keras模型

Keras 模型 SKIL v1.0.3系统通过笔记本(用于训练和配置)以及模型导入(接受外部创建的模型)支持Keras模型。 Keras笔记本支持 在Skil Zeppelin笔记本中,开发人员可以像在任何其他shell或笔记本系统中那样,在python中与keras进行交互。 (一个主要的区别是skil笔记本包括一个SKILContext对象,允许python SKIL笔记本与其他SKIL基础设施进行互操作,就像基于dl4j scala的笔记本一样。) Keras模型导入支持 如导入Ker
分类: 其他 发布时间: 04-15 22:47 阅读次数: 0

SKIL/工作流程/KNN(K邻近值算法)

K邻近值算法 除了部署转换和网络模型,SKIL还允许你部署KNN模型。 KNN (k邻近值算法) 是最简单的分类算法之一,广泛用于解决机器学习的基本问题。通过计算输入数据和数据集中所有示例之间的相似度(或距离)函数,找出最接近给定数据点的示例。knn中的“k”表示算法在对数据执行时,我们希望获得的最接近的示例的“k”个分类数。 K邻近值算法流程 该工作流程涉及到生成一个二进制KNN向量文件,其中包含将在其上执行K邻近值算法的数据集。向量文件将包含行向量,表示数据集中的每个示例。有一个可选的标签
分类: 其他 发布时间: 04-15 22:46 阅读次数: 0

【Spring-Security源码分析】AuthenticationManagerBuilder

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/shenchaohao12321/article/details/87721655 1、继承结构类图 AuthenticationManagerBuilder用于创建AuthenticationManager。 允许轻松构建内存身份验证,LDAP身份验证,基于JDBC的身份验证,添加UserDetailsService以及添加AuthenticationProvider。 public inte
分类: 其他 发布时间: 04-15 22:46 阅读次数: 0

【Spring-Security源码分析】WebSecurity

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/shenchaohao12321/article/details/87864499 上一篇我们分析了AuthenticationManagerBuilder的实现,这一篇分析另一个SecurityBuilder实现类——WebSecurity。 1、FilterChainProxy的创建 WebSecurity由WebSecurityConfiguration创建,用于创建称为Spring Sec
分类: 其他 发布时间: 04-15 22:46 阅读次数: 0

【Spring-Security源码分析】Spring Security启动过程

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/shenchaohao12321/article/details/87714141 1、开启Spring Security 将@EnableWebSecurity添加到@Configuration类以在任何WebSecurityConfigurer中定义Spring Security配置,或者更有可能通过扩展WebSecurityConfigurerAdapter基类并覆盖单个方法: @Conf
分类: 其他 发布时间: 04-15 22:45 阅读次数: 0

【Spring Security入门】17-核心过滤器源码分析

前面的部分,我们关注了Spring Security是如何完成认证工作的,但是另外一部分核心的内容:过滤器,一直没有提到,我们已经知道Spring Security使用了springSecurityFillterChian作为了安全过滤的入口,这一节主要分析一下这个过滤器链都包含了哪些关键的过滤器,并且各自的使命是什么。 4 过滤器详解 4.1 核心过滤器概述 由于过滤器链路中的过滤较多,即使是Spring Security的官方文档中也并未对所有的过滤器进行介绍,在之前,《Spring Se
分类: 其他 发布时间: 04-15 22:45 阅读次数: 0

【Spring Security入门】18-动手实现一个IP_Login

在开始这篇文章之前,我们似乎应该思考下为什么需要搞清楚Spring Security的内部工作原理?按照第二篇文章中的配置,一个简单的表单认证不就达成了吗?更有甚者,为什么我们不自己写一个表单认证,用过滤器即可完成,大费周章引入Spring Security,看起来也并没有方便多少。对的,在引入Spring Security之前,我们得首先想到,是什么需求让我们引入了Spring Security,以及为什么是Spring Security,而不是shiro等等其他安全框架。我的理解是有如下几
分类: 其他 发布时间: 04-15 22:45 阅读次数: 0

【Spring-Security源码分析】Spring Security基于注解认证原理

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/shenchaohao12321/article/details/87973800 1、开启注解功能 Spring Security默认是禁用注解的,要想开启注解功能需要在@Configuration类上加入@EnableMethodSecurity注解来判断用户对某个控制层的方法是否具有访问权限。 @Configuration @EnableGlobalMethodSecurity(prePo
分类: 其他 发布时间: 04-15 22:45 阅读次数: 0

【Spring-Security源码分析】Spring安全表达式解析

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/shenchaohao12321/article/details/87982513 在使用Spring Security进行权限检查的时候会用到SecurityExpressionHandler,具体参考《【Spring-Security源码分析】Spring Security基于注解认证原理》。 SecurityExpressionHandler接口定义了两个方法。 public interf
分类: 其他 发布时间: 04-15 22:44 阅读次数: 0