Spark 对象是从Spark包,一个RApache Spark 的接口。 Spark 对象可用的 ax 方法被设计为保持互操作性。换句话说,对于多语言机器学习团队来说,从实例化的 Spark 对象中删除了Spark仍然可以序列化到磁盘、在 Python 中工作、部署在 Scala 上等。这里还值得注意的是,从Spark附加了很多元数据,包括但不限于公式、数据集、模型、索引标签等。提供的 ax 函数用于在保存到磁盘或从磁盘加载之前解析模型对象。传统的R保存函数不适用于这些对象,因此提供了函数sparklyr::ml_save
。此函数使用户可以选择保留pipeline_model
或者pipeline
,因此这两个对象都不会被删除,但删除其中一个可能有助于释放磁盘上的内存。
用法
# S3 method for ml_model
axe_call(x, verbose = FALSE, ...)
# S3 method for ml_model
axe_ctrl(x, verbose = FALSE, ...)
# S3 method for ml_model
axe_data(x, verbose = FALSE, ...)
# S3 method for ml_model
axe_fitted(x, verbose = FALSE, ...)
例子
if (FALSE) {
library(sparklyr)
sc <- spark_connect(master = "local")
iris_tbls <- sdf_copy_to(sc, iris, overwrite = TRUE) %>%
sdf_random_split(train = 2/3, validation = 2/3, seed = 2018)
train <- iris_tbls$train
spark_fit <- ml_logistic_regression(train, Species ~ .)
out <- butcher(spark_fit, verbose = TRUE)
spark_disconnect(sc)
}
相关用法
- R butcher axe-survreg 砍掉一个 survreg。
- R butcher axe-survreg.penal 取消监管处罚
- R butcher axe-sclass 砍掉一个 sclass 对象。
- R butcher axe-flexsurvreg 砍掉一个flexsurvreg。
- R butcher axe-ranger 砍掉一名护林员。
- R butcher axe-ipred 砍倒一棵装袋的树。
- R butcher axe-train.recipe 砍掉一个 train.recipe 对象。
- R butcher axe-terms 取消术语输入。
- R butcher axe-mda 砍掉 mda。
- R butcher axe-earth 砍伐地球物体。
- R butcher axe-gausspr 砍掉高斯。
- R butcher axe-glmnet 砍掉 glmnet。
- R butcher axe-rpart 砍掉一个零件。
- R butcher axe-nnet 砍掉一个网络。
- R butcher axe-formula 取消公式。
- R butcher axe-kknn 砍掉 kknn。
- R butcher axe-bart 砍掉巴特模型。
- R butcher axe-model_fit 取消 model_fit。
- R butcher axe-recipe 砍掉一个配方对象。
- R butcher axe-randomForest 砍掉随机森林。
- R butcher axe-multnet 砍掉多网。
- R butcher axe-gam 砍掉一个游戏。
- R butcher axe-mass 砍掉 MASS 判别分析对象。
- R butcher axe-lm 砍掉一部电影。
- R butcher axe-xrf 砍掉 xrf。
注:本文由纯净天空筛选整理自Davis Vaughan等大神的英文原创作品 Axing a spark object.。非经特殊声明,原始代码版权归原作者所有,本译文未经允许或授权,请勿转载或复制。