蓝桥杯人工智能团队赛大纲及内容简述
基于 官方比赛大纲的考核内容简单描述各项细节,祝您比赛顺利~
一、数据预处理
- 数据(数值、文本、图像等)清洗
- 异常值检测与处理
- 数据转换
- 数据标准化/归一化
- 数据不均衡处理
- 特征提取等数据处理技术
主要利用 Pandas 对数据进行清洗,使用 sklearn 进行数据标准化和归一化,使用 imbalanced-learn 进行数据不均衡处理,使用 scikit-image 进行图像处理等。
二、模型训练与评估
传统机器学习算法应用
- 线性回归
- 逻辑回归
- 决策树
- 朴素贝叶斯
- 随机森林
线性回归:
线性回归是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法
使用 sklearn 中的 LinearRegression 进行线性回归模型的训练和预测。
其他类似模型:Ridge 回归、Lasso 回归、ElasticNet 回归等。
from sklearn.datasets import load_iris
from sklearn.linear_model import LinearRegression
X, y = load_iris(return_X_y=True)
clf = LinearRegression().fit(X, y)
clf.predict(X[:2, :])
clf.score(X, y)
逻辑回归:
逻辑回归是一种广义的线性回归分析模型,常用于对分类问题进行概率预测。
使用 sklearn 中的 LogisticRegression 进行逻辑回归模型的训练和预测。
其他类似模型:SGDClassifier、LogisticRegressionCV 等。
from sklearn.datasets import load_iris
from sklearn.linear_model import LogisticRegression
X, y = load_iris(return_X_y=True)
clf = LogisticRegression(random_state=0).fit(X, y)
clf.predict(X[:2, :])
clf.predict_proba(X[:2, :])
clf.score(X, y)
决策树:
决策树是一种树形结构,其中每个内部节点表示一个特征属性上的测试,每个分支代表一个测试输出,每个叶节点代表一种类别。
使用 sklearn 中的 DecisionTreeClassifier 进行决策树模型的训练和预测。
其他类似模型:DecisionTreeRegressor、RandomForestClassifier、RandomForestRegressor 等。
from sklearn.datasets import load_iris
from sklearn.tree import DecisionTreeClassifier
X, y = load_iris(return_X_y=True)
clf = DecisionTreeClassifier(random_state=0).fit(X, y)
clf.predict(X[:2, :])
clf.predict_proba(X[:2, :])
clf.score(X, y)
朴素贝叶斯:
朴素贝叶斯分类器是一种基于贝叶斯定理和特征条件独立假设的分类方法。
使用 sklearn 中的 GaussianNB 进行朴素贝叶斯模型的训练和预测。
其他类似模型:MultinomialNB、BernoulliNB、CategoricalNB、ComplementNB 等。
from sklearn.datasets import load_iris
from sklearn.naive_bayes import GaussianNB
X, y = load_iris(return_X_y=True)
clf = GaussianNB().fit(X, y)
clf.predict(X[:2, :])
clf.predict_proba(X[:2, :])
clf.score(X, y)
随机森林:
随机森林是一种基于决策树的集成学习方法,通过构建多个决策树并将它们的预测结果进行平均来提高模型的准确性和鲁棒性。
使用 sklearn 中的 RandomForestClassifier 进行随机森林模型的训练和预测。
其他类似模型:RandomForestRegressor、ExtraTreesClassifier、ExtraTreesRegressor 等。
from sklearn.datasets import load_iris
from sklearn.ensemble import RandomForestClassifier
X, y = load_iris(return_X_y=True)
clf = RandomForestClassifier(random_state=0).fit(X, y)
clf.predict(X[:2, :])
clf.predict_proba(X[:2, :])
clf.score(X, y)
深度学习模型应用
- 卷积神经网络(ConvolutionalNeuralNetworks,CNN)
- 循环神经网络(Recurrent NeuralNetworks,RNN)
- 长短期记忆网络(Long Short-Term Memory,LSTM)
- 自编码器(AutoEncoders)
- 生成对抗网络(GenerativeAdversarial Networks,GAN)
卷积神经网络:
卷积神经网络是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。
使用 keras 中的 Sequential 进行卷积神经网络模型的训练和预测。
其他类似模型:ResNet、VGG、Inception 等。
from keras.models import Sequential
from keras.layers import Dense, Conv2D, Flatten
model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3), activation='relu', input_shape=(28, 28, 1)))
model.add(Conv2D(64, kernel_size=(3, 3), activation='relu'))
model.add(Flatten())
model.add(Dense(10, activation='softmax'))
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model.fit(X_train, y_train, epochs=5)
model.evaluate(X_test, y_test)
循环神经网络:
循环神经网络是一种人工神经网络,用于处理序列数据。它能够捕捉序列中的时间依赖性。
使用 keras 中的 Sequential 进行循环神经网络模型的训练和预测。
其他类似模型:LSTM、GRU 等。
from keras.models import Sequential
from keras.layers import Dense, LSTM
model = Sequential()
model.add(LSTM(64, input_shape=(10, 1)))
model.add(Dense(1))
model.compile(optimizer='adam', loss='mse')
model.fit(X_train, y_train, epochs=5)
model.evaluate(X_test, y_test)
自编码器:
自编码器是一种无监督学习模型,用于学习数据的低维表示。
使用 keras 中的 Sequential 进行自编码器模型的训练和预测。
其他类似模型:变分自编码器(VAE)等。
from keras.models import Sequential
from keras.layers import Dense
model = Sequential()
model.add(Dense(64, activation='relu', input_shape=(784,)))
model.add(Dense(32, activation='relu'))
model.add(Dense(64, activation='relu'))
model.add(Dense(784, activation='sigmoid'))
model.compile(optimizer='adam', loss='mse')
model.fit(X_train, X_train, epochs=5)
model.evaluate(X_test, X_test)
生成对抗网络:
生成对抗网络是一种生成模型,由两个神经网络组成:生成器和判别器。生成器生成数据,判别器判断数据是否真实。
使用 keras 中的 Sequential 进行生成对抗网络模型的训练和预测。
from keras.models import Sequential
from keras.layers import Dense
model = Sequential()
model.add(Dense(64, activation='relu', input_shape=(784,)))
model.add(Dense(32, activation='relu'))
model.add(Dense(64, activation='relu'))
model.add(Dense(784, activation='sigmoid'))
model.compile(optimizer='adam', loss='mse')
model.fit(X_train, X_train, epochs=5)
model.evaluate(X_test, X_test)
深度学习框架
- Scikit-learn 机器学习库应用
- Tensorflow
- Keras
- Pytorch
Scikit-learn 应用方向:
- 数据预处理
- 特征工程
- 模型训练与评估
- 模型调优
- 模型部署
Tensorflow 应用方向:
- 图像识别
- 语音识别
- 自然语言处理
- 机器翻译
- 自动驾驶
Keras 应用方向:
- 图像识别
- 语音识别
- 自然语言处理
- 机器翻译
- 自动驾驶
Pytorch 应用方向:
- 图像识别
- 语音识别
- 自然语言处理
- 机器翻译
- 自动驾驶
模型效果评估
- 准确率
- 精确率
- 召回率
- F1 分数
- R-squared
- 均方误差
- 交叉验证
准确率:
使用 sklearn 中的 accuracy_score 进行准确率的计算。
from sklearn.metrics import accuracy_score
y_true = [0, 1, 1, 0]
y_pred = [0, 1, 0, 1]
accuracy_score(y_true, y_pred)
精确率:
模型预测为正类的样本中实际为正类的比例。
使用 sklearn 中的 precision_score 进行精确率的计算。
from sklearn.metrics import precision_score
y_true = [0, 1, 1, 0]
y_pred = [0, 1, 0, 1]
precision_score(y_true, y_pred)
召回率:
实际为正类的样本中被模型正确预测为正类的比例。
使用 sklearn 中的 recall_score 进行召回率的计算。
from sklearn.metrics import recall_score