# Identification Estimation and Learning

**Repository Path**: kevun/Identification-Estimation-and-Learning

## Basic Information

- **Project Name**: Identification Estimation and Learning
- **Description**: Identification, Estimation and Learning 理论学习笔记，系统整理系统辨识、参数估计、状态估计与学习理论中的核心概念、数学推导和典型方法。
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2026-07-11
- **Last Updated**: 2026-07-20

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

#  理论学习笔记 Identification, Estimation and Learning

本仓库用于整理 **Identification, Estimation and Learning** 相关理论学习笔记，内容围绕系统辨识、参数估计、状态估计与机器学习中的基础理论和典型方法展开。

笔记主要关注如何从观测数据中建立数学模型、估计未知参数、分析模型误差，并进一步理解学习算法背后的统计与优化思想。内容包括但不限于最小二乘估计、极大似然估计、贝叶斯估计、递推估计、滤波方法、模型辨识、误差分析以及学习理论中的基本概念。

本仓库旨在形成一份结构清晰、便于复习和查阅的理论笔记，帮助理解“由数据到模型、由模型到预测、由误差到优化”的基本逻辑。适合控制、导航、信号处理、人工智能、机器人以及相关工程方向的学习者参考。

## 笔记索引/Notes Index

| 章节 | 主题                       | 笔记                                                         |
| ---- | -------------------------- | ------------------------------------------------------------ |
| P1   | 系统辨识、估计与学习导论   | [笔记](./notes/01-introduction.md)       |
| P2   | 最小二乘法                 | [笔记](./notes/02-least-squares.md)      |
| P3   | 带遗忘因子的递推最小二乘法 | [笔记](./notes/03-recursive-least-squares.md) |
| P4   | 随机变量与随机过程         | [笔记](./notes/04-random-variables-and-processes.md) |
| P5   | 主成分回归                 | [笔记](./notes/05-principal-component-regression.md) |

## 专题总结 / Topic Summaries

除按课程顺序整理的单讲笔记外，本仓库还会对相关内容进行专题化总结，方便从知识体系角度复习 Identification, Estimation and Learning 的核心方法。

| 序号 | 专题                     | 内容说明                                                     | 文件                                                         |
| ---- | ------------------------ | ------------------------------------------------------------ | ------------------------------------------------------------ |
| S1   | 估计理论基础             | 总结最小二乘、递推最小二乘、无偏估计、参数估计误差与渐近分布等内容 | [总结](./summaries/estimation-theory.md) |
| S2   | 滤波与状态估计           | 总结 Kalman Filter、EKF、UKF、Bayes Filter、Particle Filter 等状态估计方法 | [总结](./summaries/filtering-and-state-estimation.md) |
| S3   | 系统辨识方法             | 总结非参数辨识、参数辨识、子空间辨识、MOESP、N4SID 等方法    | [总结](./summaries/system-identification.md) |
| S4   | 机器学习方法             | 总结 PCA/PLS 回归、神经网络、深度学习、SVM、核方法与 Gaussian Process | [总结](./summaries/machine-learning-methods.md) |
| S5   | 非线性系统与数据驱动建模 | 总结非线性函数逼近、Koopman 算子理论与非线性系统线性化方法   | [总结](./summaries/nonlinear-systems-and-koopman.md) |