下麵的代碼片（Spark Pthon SVM）段說明了如何導入一個樣本數據集，進行模型訓練，並做出預測。(Python中的SVMModel目前還不支持load和save數據)

#!/usr/bin/python
from pyspark import SparkContext;
from pyspark.mllib.util import MLUtils;
from pyspark.mllib.classification import SVMWithSGD;

sc = SparkContext(appName="svmTesting");

# Load training data in LIBSVM format.
data = MLUtils.loadLibSVMFile(sc, 'data/mllib/sample_libsvm_data.txt');
print "FirstRecord:", data.take(1);

# Split data into training (70%) and test (30%).
splits = data.randomSplit([0.7, 0.3], seed = 11L);
training = splits[0].cache();
print "TrainingCount:[%d]"%training.count();
test = splits[1];
print "TestingCount:[%d]"%test.count();

# Run training algorithm to build the model
numIterations = 100;
model = SVMWithSGD.train(training, numIterations);

# Clear the default threshold.
model.clearThreshold();

# Compute raw scores on the test set.
scoreAndLabels = test.map(lambda point : (model.predict(point.features), point.label));

# output score and label.
for score, label in scoreAndLabels.collect():
	print score, label;

附SVMWithSGD.train(data, iterations=100, step=1.0, regParam=0.01, miniBatchFraction=1.0, initialWeights=None, regType=’l2′, intercept=False)的參數說明：

邏輯回歸(Logistic regression)

邏輯回歸廣泛應用於二分類問題。它是線性分類方法（參見公式(1))，損失函數是logistic loss:

其中exp是以自然常數e為底的指數函數。對二分類問題來說，這個算法輸出一個二分邏輯回歸模型。給定一個新的數據點(x)，模型應用下麵的邏輯函數給出預測：

二分邏輯回歸可以泛化為多項式邏輯回歸 ，用於訓練和預測多分類問題。例如，對於K個可能的輸出，其中一個輸出可被選作“中心點”(pivot)，另外的K-1個輸出可以分別跟中心點輸出進行回歸。在MLlib中，第一個類0被選作“中心點”類。可以參考《The Elements of Statistical Learning》的章節4.4了解詳情。

對於多分類問題，算法會輸出一個多項式回歸模型，它包含K-1個跟第一類配對的二元回歸模型。給定一個新的數據點，K-1個模型都會被執行，概率最大的類會被選作預測的類型。

我們實現了兩種算法用於解決邏輯回歸問題：min-batch梯度下降和L-BFGS。推薦使用L-BFGS，因為它收斂更快。

from pyspark.mllib.classification import LogisticRegressionWithLBFGS
from pyspark.mllib.regression import LabeledPoint
from numpy import array

# Load and parse the data
def parsePoint(line):
    values = [float(x) for x in line.split(' ')]
    return LabeledPoint(values[0], values[1:])

data = sc.textFile("data/mllib/sample_svm_data.txt")
parsedData = data.map(parsePoint)

# Build the model
model = LogisticRegressionWithLBFGS.train(parsedData)

# Evaluating the model on training data
labelsAndPreds = parsedData.map(lambda p: (p.label, model.predict(p.features)))
trainErr = labelsAndPreds.filter(lambda (v, p): v != p).count() / float(parsedData.count())
print("Training Error = " + str(trainErr))

回歸

線性最小二乘法，Lasso，嶺回歸（Linear least squares, Lasso, and ridge regression)

線性最小二乘法是回歸問題中最常用的公式，如公式(1)所述它是一個線性方法，損失函數是squared loss：

from pyspark.mllib.regression import LabeledPoint, LinearRegressionWithSGD
from numpy import array

# Load and parse the data
def parsePoint(line):
    values = [float(x) for x in line.replace(',', ' ').split(' ')]
    return LabeledPoint(values[0], values[1:])

data = sc.textFile("data/mllib/ridge-data/lpsa.data")
parsedData = data.map(parsePoint)

# Build the model
model = LinearRegressionWithSGD.train(parsedData)

# Evaluate the model on training data
valuesAndPreds = parsedData.map(lambda p: (p.label, model.predict(p.features)))
MSE = valuesAndPreds.map(lambda (v, p): (v - p)**2).reduce(lambda x, y: x + y) / valuesAndPreds.count()
print("Mean Squared Error = " + str(MSE))

流式線性回歸（Streaming linear regression）

當數據以流的方式到達時，就很有必要使回歸模型適應在線環境，每當有新的數據到來時就得更新模型參數。MLlib當前支持普通最小二乘法的流式線性回歸。擬合過程跟離線情況類似，但是要實時擬合每一批數據，使得模型能夠及時持續更新從而能夠預測流式數據。（目前隻有Scala支持流式線性回歸）

實現 (developer)

幕後，MLlib實現了一個簡單分布式版本的隨機梯度下降算法，建立在底層的梯度下降優化原語上（參見 optimization ）。所有算法都會接受一個正則化參數(regParam)和多個其他的梯度下降相關的參數(stepSize, numIterations, miniBatchFraction)。每種算法都支持三種可能的正則化（none, L1或者L2)。

對於邏輯回歸，L-BFGS 版本在LogisticRegressionWithLBFGS中實現。這個版本支持二分邏輯回歸和多項式邏輯回歸，而SGD版本隻能支持二分邏輯回歸。但是，L-BFGS版本不支持L1正則化，SGD版本支持L1正則化。當L1不是必須的時候，強烈推薦用L-BFGS版本，因為相對於SGD來說，它通過擬牛頓近似逆Hessian矩陣收斂得更快更準。

算法都是使用Scala語言實現的：

• SVMWithSGD
• LogisticRegressionWithLBFGS
• LogisticRegressionWithSGD
• LinearRegressionWithSGD
• RidgeRegressionWithSGD
• LassoWithSGD

Python通過 PythonMLLibAPI 調用Scala的實現。