对于最小二乘优化问题的求解，笔者在本次实验中对比分析了以下几种求解思路： 1、用正规方程法求解最小二乘问题：运算量最小,而且简单直观，但由于A^T * A的条件数是A的条件数的平方,因此对于病态情形(即A的条件数比较大),不建议使用该方法。 2、用正规方程QR分解来求最小二乘问题：通常…
【如何求解经典优化问题：最小二乘求解】Matlab｜正规方程｜QR分解｜梯度下降法｜最优化方法
【经典问题：Matlab实现QR分解】最优化方法｜Gram-Schmidt算法｜Householder算法｜矩阵求逆｜稳定性分析
本实验笔者将尝试使用Gram-Schmidt正交化（CGS+MGS）和Householder（自编HS+Matlab qr）方法进行QR分解，并对比分析不同方法的稳定性，同时使用QR分解方法求矩阵的逆。思维导图如下： 
【机器学习入门：K-Means聚类算法】Python实现手写数字图像分类｜PCA算法可视化｜MNIST数据集｜最优化方法分析
一、实验目的与要求 熟练掌握k-Means方法对手写数字图像进行分类； 编写代码，熟悉其画图工具，进行实验，并验证结果； 锻炼数学描述能力，提高报告的叙述能力。 二、问题 手写数字图像数据分类问题：文件train_images.mat包含大小为28*28的手写数字图像，共60000张；文件train…