传统机器学习导读：LLM出现之前，AI是怎么工作的

本章阅读时间：约40分钟（共5篇）

在大模型出现之前，机器学习已经在工业界解决了大量实际问题，而且今天依然在大量场景中是最优选择。

1.1 机器学习是什么

官方定义（来自 AWS）：

Machine learning is a type of artificial intelligence that performs data analysis tasks without explicit instructions.

机器学习是一种无需明确指令即可执行数据分析任务的人工智能。

scikit-learn（Python 最主流的机器学习库）的官方文档这样描述：

Scikit-learn is an open source machine learning library that supports supervised and unsupervised learning. It also provides various tools for model fitting, data preprocessing, model selection, model evaluation, and many other utilities.

scikit-learn 是一个支持监督学习和无监督学习的开源机器学习库，提供模型拟合、数据预处理、模型选择、模型评估等工具。

一句话理解：机器学习让计算机从数据中自动学习规律，而不是由人工编写规则。

1.1.1 机器学习的三大类型

类型	定义	典型算法	应用场景
监督学习	从带标签的数据中学习输入到输出的映射	线性回归、决策树、SVM	分类、预测
无监督学习	从无标签数据中发现隐藏结构	K-means、PCA	聚类、降维
强化学习	通过与环境交互和奖励信号学习策略	Q-learning、PPO	游戏、机器人控制

1.1.2 机器学习 vs 传统编程

传统编程：人工编写规则 → 程序执行规则 → 输出结果
机器学习：输入数据 + 期望输出 → 算法自动学习规则 → 模型

这个范式转变的意义在于：有些规则太复杂，人工无法完整描述（如识别图片中的猫），但机器可以从大量示例中自动学习。

为什么要学传统机器学习？

很多人觉得：有了LLM（Large Language Model，大语言模型，如ChatGPT、Claude等），传统ML（Machine Learning，机器学习）是不是过时了？

没有。

2026年，传统ML在以下场景仍然是首选：

结构化数据（表格数据）的预测任务：金融风控、用户流失预测、电商推荐
需要高可解释性的场景：金融风控要告诉客户拒贷原因，医疗诊断需要解释依据
数据量少、计算资源有限的情况：创业公司、中小企业
实时推理、低延迟要求：每次推理需要<10ms的场景，LLM根本做不到

更重要的是：理解传统ML，才能真正理解LLM在做什么。梯度下降、过拟合、交叉验证、特征工程——这些概念在LLM里同样适用，只是规模更大。

学习路径提示：如果你走的是路径A（Agent应用开发），可以跳过本章，直接从第6章LLM基础开始。本章是**路径B（完整AI工程师）**的必读内容。

传统ML vs 大模型的选择原则

这是一个你将反复面对的决策。简短版本：

用传统ML	用LLM
表格数据（结构化）	文本、图像等非结构化数据
大量标注数据已有	标注数据少或没有
需要实时推理（<10ms）	延迟要求不高
需要可解释性	任务本身很模糊
高频调用（成本敏感）	低频、复杂任务

第5篇《传统ML与LLM的边界》会深入讲这个决策框架。

本章内容

文章	你会学到什么	阅读时间
01.监督学习入门	带标签的数据如何训练模型，线性回归与分类的原理	约15分钟
02.决策树与随机森林	最常用的树模型，工业界主力算法	约12分钟
03.模型评估与调参	怎么知道模型好不好？怎么避免过拟合？	约12分钟
04.sklearn实战	鸢尾花分类和房价预测完整项目（有代码、有预期输出）	约10分钟
05.传统ML与LLM的边界	什么时候用哪个？决策框架+实际案例	约10分钟

工具准备

bash

pip install scikit-learn pandas numpy matplotlib seaborn

本章定位

本章是理解层+实战层的结合。

你会写代码、跑模型、看结果。但深度不是完整的ML课程，而是"AI工程师需要掌握的ML基础"。完成本章后，继续第5章深度学习基础。