青少年编程与数学 02-018 C++数据结构与算法 21课题、机器学习与人工智能算法

明月看潮生2025-05-03 13:40

青少年编程与数学 02-018 C++数据结构与算法 21课题、机器学习与人工智能算法

课题摘要

机器学习和人工智能是计算机科学中非常活跃的领域，涵盖了从简单的数据拟合到复杂的智能系统设计的各种算法。

一、线性回归算法

线性回归是一种预测连续值的监督学习算法，用于拟合数据点之间的线性关系。

线性回归的目标是找到一个线性函数，使得预测值与真实值之间的误差最小。通常使用最小二乘法来求解。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <Eigen/Dense> // 使用Eigen库进行矩阵运算

using namespace std;
using namespace Eigen;

VectorXd linear_regression(const MatrixXd& X, const VectorXd& y) {
    // 添加偏置项
    MatrixXd X_b = MatrixXd::Ones(X.rows(), 1);
    X_b.rightCols(X.cols()) = X;
    // 计算参数
    VectorXd theta = (X_b.transpose() * X_b).inverse() * X_b.transpose() * y;
    return theta;
}

int main() {
    // 示例数据
    MatrixXd X(5, 1);
    X << 1, 2, 3, 4, 5;
    VectorXd y(5);
    y << 2, 4, 6, 8, 10;

    VectorXd theta = linear_regression(X, y);
    cout << "参数: " << endl << theta << endl;

    return 0;
}

二、逻辑回归算法

逻辑回归是一种分类算法，用于预测离散值。它通过Sigmoid函数将线性回归的输出映射到0和1之间。

逻辑回归的目标是找到一个Sigmoid函数，使得预测值与真实值之间的误差最小。通常使用梯度下降法来求解。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <Eigen/Dense>
#include <cmath>

using namespace std;
using namespace Eigen;

VectorXd sigmoid(const VectorXd& z) {
    VectorXd result = z.unaryExpr([](double x) { return 1.0 / (1.0 + exp(-x)); });
    return result;
}

VectorXd logistic_regression(const MatrixXd& X, const VectorXd& y, double learning_rate = 0.01, int num_iterations = 1000) {
    int m = X.rows();
    int n = X.cols();
    VectorXd theta(n);
    theta.setZero();

    for (int i = 0; i < num_iterations; ++i) {
        VectorXd z = X * theta;
        VectorXd h = sigmoid(z);
        VectorXd gradient = X.transpose() * (h - y) / m;
        theta -= learning_rate * gradient;
    }

    return theta;
}

int main() {
    // 示例数据
    MatrixXd X(4, 2);
    X << 1, 2, 2, 3, 3, 4, 4, 5;
    VectorXd y(4);
    y << 0, 0, 1, 1;

    VectorXd theta = logistic_regression(X, y);
    cout << "参数: " << endl << theta << endl;

    return 0;
}

三、K近邻算法（K-Nearest Neighbors, KNN）

K近邻算法是一种简单的分类和回归算法，它通过找到最近的K个邻居来预测新数据点的类别或值。

K近邻算法的目标是找到与新数据点最近的K个数据点，并根据这些邻居的类别或值来预测新数据点的类别或值。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <cmath>
#include <algorithm>
#include <unordered_map>

using namespace std;

int knn(const vector<vector<double>>& X_train, const vector<int>& y_train, const vector<double>& X_test, int k = 3) {
    vector<pair<double, int>> distances;
    for (size_t i = 0; i < X_train.size(); ++i) {
        double distance = 0.0;
        for (size_t j = 0; j < X_train[i].size(); ++j) {
            distance += pow(X_train[i][j] - X_test[j], 2);
        }
        distance = sqrt(distance);
        distances.push_back({distance, y_train[i]});
    }

    sort(distances.begin(), distances.end());

    unordered_map<int, int> label_count;
    for (int i = 0; i < k; ++i) {
        ++label_count[distances[i].second];
    }

    int most_common_label = -1;
    int max_count = 0;
    for (const auto& pair : label_count) {
        if (pair.second > max_count) {
            max_count = pair.second;
            most_common_label = pair.first;
        }
    }

    return most_common_label;
}

int main() {
    // 示例数据
    vector<vector<double>> X_train = {{1, 2}, {2, 3}, {3, 4}, {4, 5}};
    vector<int> y_train = {0, 0, 1, 1};
    vector<double> X_test = {2.5, 3.5};

    int prediction = knn(X_train, y_train, X_test);
    cout << "预测类别: " << prediction << endl;

    return 0;
}

四、决策树算法

决策树是一种基于树结构的分类和回归算法，它通过一系列的决策规则来预测新数据点的类别或值。

决策树的目标是通过分裂数据集来构建一棵树，使得每个叶子节点代表一个类别或值。常用的分裂标准包括信息增益和基尼不纯度。

示例代码：

cpp 复制代码 
// C++中使用决策树算法通常需要借助一些库，如mlpack等，这里仅给出一个简单的框架示意

#include <iostream>
#include <vector>
#include <mlpack/core.hpp>
#include <mlpack/methods/decision_tree/decision_tree.hpp>

using namespace std;
using namespace mlpack;

int main() {
    // 示例数据
    arma::mat X = {{1, 2}, {2, 3}, {3, 4}, {4, 5}};
    arma::Row<size_t> y = {0, 0, 1, 1};

    // 构建决策树模型
    tree::DecisionTree<> clf(X, y, 2);

    // 预测新数据点
    arma::mat X_test = {{2.5, 3.5}};
    size_t prediction = clf.Classify(X_test);

    cout << "预测类别: " << prediction << endl;

    return 0;
}

五、支持向量机（SVM）

支持向量机是一种强大的分类算法，它通过找到一个最优超平面来分割不同类别的数据点。

支持向量机的目标是找到一个超平面，使得不同类别的数据点之间的间隔最大。常用的核函数包括线性核、多项式核和径向基核。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <mlpack/core.hpp>
#include <mlpack/methods/svm/svm.hpp>

using namespace std;
using namespace mlpack;

int main() {
    // 示例数据
    arma::mat X = {{1, 2}, {2, 3}, {3, 4}, {4, 5}};
    arma::Row<size_t> y = {0, 0, 1, 1};

    // 构建SVM模型
    svm::SVM<kernel::LinearKernel> clf;
    clf.Train(X, y);

    // 预测新数据点
    arma::mat X_test = {{2.5, 3.5}};
    size_t prediction = clf.Classify(X_test);

    cout << "预测类别: " << prediction << endl;

    return 0;
}

六、神经网络算法

神经网络是一种模拟人脑神经元的计算模型，它通过多层的神经元来学习数据中的复杂模式。

神经网络的目标是通过训练数据来调整神经元之间的权重，使得网络的输出与真实值之间的误差最小。常用的训练算法包括反向传播和梯度下降。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <mlpack/core.hpp>
#include <mlpack/methods/ann/ann.hpp>

using namespace std;
using namespace mlpack;

int main() {
    // 示例数据
    arma::mat X = {{1, 2}, {2, 3}, {3, 4}, {4, 5}};
    arma::Row<size_t> y = {0, 0, 1, 1};

    // 构建神经网络模型
    ann::FFN<ann::MeanSquaredError<>, ann::RandomInitialization> clf;
    clf.Add<ann::Linear<>>(2, 5);
    clf.Add<ann::LogisticSigmoid<>>();
    clf.Add<ann::Linear<>>(5, 1);
    clf.Add<ann::LogisticSigmoid<>>();

    clf.Train(X, y);

    // 预测新数据点
    arma::mat X_test = {{2.5, 3.5}};
    arma::mat prediction;
    clf.Classify(X_test, prediction);

    cout << "预测类别: " << prediction(0) << endl;

    return 0;
}

七、聚类算法

聚类算法是一种无监督学习算法，它将数据点分组成多个簇，使得同一簇内的数据点相似度高，不同簇内的数据点相似度低。

K均值聚类算法的目标是将数据点分成K个簇，使得每个簇内的数据点到簇中心的距离最小。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <mlpack/core.hpp>
#include <mlpack/methods/kmeans/kmeans.hpp>

using namespace std;
using namespace mlpack;

int main() {
    // 示例数据
    arma::mat X = {{1, 2}, {2, 3}, {3, 4}, {4, 5}, {5, 6}};

    // 构建K均值聚类模型
    size_t k = 2;
    arma::Row<size_t> assignments;
    mlpack::kmeans::KMeans<> kmeans(X, k);
    kmeans.Cluster(assignments);

    cout << "簇标签: " << assignments.t() << endl;

    return 0;
}

八、降维算法

降维算法是一种用于减少数据特征维度的算法，它通过提取数据中的主要特征来降低计算复杂度。

主成分分析（PCA）

主成分分析是一种常用的降维算法，它通过线性变换将数据投影到新的坐标系中，使得数据的方差最大化。

示例代码：

cpp 复制代码 
#include <iostream>
#include <vector>
#include <mlpack/core.hpp>
#include <mlpack/methods/pca/pca.hpp>

using namespace std;
using namespace mlpack;

int main() {
    // 示例数据
    arma::mat X = {{1, 2, 3}, {2, 3, 4}, {3, 4, 5}, {4, 5, 6}};

    // 构建PCA模型
    mlpack::pca::PCA<> pca(X);
    arma::mat X_pca;
    pca.Apply(X, X_pca);

    cout << "降维后的数据: " << endl << X_pca << endl;

    return 0;
}

九、总结

机器学习和人工智能算法在数据分析、图像识别、自然语言处理等领域都有广泛的应用。这些算法包括线性回归、逻辑回归、K近邻、决策树、支持向量机、神经网络、聚类和降维等。在实际应用中，需要根据具体问题选择合适的算法，并注意算法的效率和正确性。

相关推荐
耀耀_很无聊1 小时前
02_使用 AES 算法实现文件加密上传至阿里云、解密下载
java·spring boot·算法·阿里云·云计算·aes·oss
共享家95272 小时前
C++模板知识
c++
阿沁QWQ2 小时前
友元函数和友元类
开发语言·c++
Xiaoxiaoxiao02093 小时前
GAEA商业前景和生态系统扩展
人工智能·架构·web3·去中心化·区块链
乌恩大侠4 小时前
【东枫科技】AMD / Xilinx Alveo™ V80计算加速器卡
人工智能·科技·5g·nvidia·6g·usrp
LIUDAN'S WORLD4 小时前
OpenCV实战教程：从零开始的计算机视觉之旅
人工智能·opencv·计算机视觉
江沉晚呤时4 小时前
Redis缓存穿透、缓存击穿与缓存雪崩：如何在.NET Core中解决
java·开发语言·后端·算法·spring·排序算法
achene_ql4 小时前
缓存置换：用c++实现最近最少使用（LRU）算法
开发语言·c++·算法·缓存
中科岩创4 小时前
某建筑石料用灰岩矿自动化监测
大数据·人工智能
shao9185164 小时前
Gradio全解20——Streaming：流式传输的多媒体应用（3）——实时语音识别技术
人工智能·ffmpeg·语音识别·transformers·gradio·asr
热门推荐
01KGG转MP3工具|非KGM文件|解密音频02西电B测-计算机网络综合实验(含验收问题)03从零安装 LLaMA-Factory 微调 Qwen 大模型成功及所有的坑04AI生成写真，从产品经理的角度看看「妙鸭相机」05Coze扣子平台完整体验和实践（附国内和国际版对比）06YOLOv8入门 | 重要性能衡量指标、训练结果评价及分析及影响mAP的因素【发论文关注的指标】07Springboot集成Spring AI和Milvus，验证RAG构建过程08DeepSeek各版本说明与优缺点分析09苍穹外卖面试总结10【SpeedAI科研小助手】2分钟极速解决知网维普重复率、AIGC率过高，一键全文降！文件格式不变，公式都保留的！