【LR逻辑回归】原理以及tensorflow实现

LR 将所有输入特征进行线性组合,通过 Sigmoid 函数将结果压缩到 (0, 1) 区间,输出概率

LR 仅做了一阶特征的线性加权,特征之间是相互独立的

python 复制代码
import numpy as np
import tensorflow as tf
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler

# 1. 模拟生成推荐场景的点击数据
def generate_mock_data(n_samples=5000, n_features=20):
    # 随机生成特征矩阵 X
    X = np.random.randn(n_samples, n_features)
    # 模拟一个真实的线性关系加上一点随机扰动
    # 假设真实的权重是固定的,y = sigmoid(X * weights + bias)
    true_weights = np.random.randn(n_features, 1)
    logits = np.dot(X, true_weights) + 0.5
    # 将连续值转为 0/1 标签(点击或未点击)
    y = (1 / (1 + np.exp(-logits)) > 0.5).astype(int)
    return X, y

# --- 准备数据 ---
X, y = generate_mock_data()
# 划分训练集和测试集(80% 训练,20% 测试)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

# 特征标准化(工程必备:让梯度下降更平稳)
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)

# 2. 构建模型 (The "Body")
model = tf.keras.Sequential([
    # input_shape 对应特征维度
    tf.keras.layers.Dense(units=1, activation='sigmoid', input_shape=(20,))
])
#unit为输出的节点数,w的形状为(20,1)

# 3. 编译模型 (The "Soul")
model.compile(
    optimizer=tf.keras.optimizers.Adam(learning_rate=0.01),
    loss='binary_crossentropy',
    metrics=['accuracy', tf.keras.metrics.AUC(name='auc')]
)

# 4. 启动训练 (The "Action")
# fit 函数会让数据在计算图中循环运行
print("--- 开始训练 ---")
history = model.fit(
    X_train, y_train, 
    epochs=20,           # 整个数据集跑 20 遍
    batch_size=32,       # 每次喂 32 条数据进行梯度更新
    validation_split=0.1 # 从训练集里抽 10% 做实时监控
)

# 5. 测试与评估 (The "Audit")
print("\n--- 测试集评估 ---")
results = model.evaluate(X_test, y_test)
print(f"测试集准确率: {results[1]:.4f}, AUC: {results[2]:.4f}")

# 6. 预测 (The "Prediction")
# 模拟对前 5 个新用户进行点击率预测
sample_preds = model.predict(X_test[:5])
print("\n前5个样本的点击预测概率:\n", sample_preds)
相关推荐
yi0117 小时前
LeetCode 219:存在重复元素 II——哈希表记录“最近一次出现的位置”
数据结构·人工智能·笔记·python·算法·leetcode·哈希表
灯澜忆梦9 小时前
【面向对象编程C++】| 基础语法
java·c++·算法
小蒋观天下9 小时前
专项方案:大场景港口AI安防、多干扰环境下的算法调优与落地实操
人工智能·深度学习·算法·安全·机器学习·计算机视觉·ai大模型
Evand J10 小时前
【电机滤波例程5】渐消因子自适应扩展卡尔曼滤波(EKF),MATLAB。PMSM负载突变下的状态估计。附下载链接
算法·matlab
H.莓飛10 小时前
【数据结构】二叉树_OJ题
linux·开发语言·数据结构·算法
好想像大佬一样能够ak所有10 小时前
Leetcode35.搜索插入位置
数据结构·算法·leetcode
aqiu11111111 小时前
【C++算法打怪专栏】LeetCode 165. 比较版本号(双指针与字符串流法)
c++·算法·leetcode
黄金龙PLUS11 小时前
如何基于置换算法来设计对称加密算法
算法·网络安全·密码学·哈希算法·同态加密
不会就选b11 小时前
算法日常・每日刷题--<动态规划>14
算法
赛博守夜人11 小时前
跨境业务与出海合规之九:海外买量投放与营销虚假流量(Ad Fraud):跨国机房群控与归因欺诈识别算法
算法·安全