简述数据预处理的作用和主要过程? 简述数据预处理的主要步骤


简述数据预处理的作用和主要过程? 简述数据预处理的主要步骤

文章插图
简述数据预处理的内容是:
【简述数据预处理的作用和主要过程? 简述数据预处理的主要步骤】
数据预处理(datapreprocessing)是指在主要的处理以前对数据进行的一些处理 。如对大部分地球物理面积性观测数据在进行转换或增强处理之前,首先将不规则分布的测网经过插值转换为规则网的处理,以利于计算机的运算 。另外,对于一些剖面测量数据,如地震资料预处理有垂直叠加、重排、加道头、编辑、重新取样、多路编辑等 。现实世界中数据大体上都是不完整,不一致的 脏数据,无法直接进行数据挖掘,或挖掘结果差强人意 。为了提高数据挖掘的质量产生了数据预处理技术 。
数据预处理有多种方法:数据清理,数据集成,数据变换,数据归约等 。这些数据处理技术在数据挖掘之前使用,大大提高了数据挖掘模式的质量,降低实际挖掘所需要的时间 。数据清理例程通过填写缺失的值、光滑噪声数据、识别或删除离群点并解决不一致性来“清理”数据 。主要是达到如下目标:格式标准化,异常数据清除,错误纠正,重复数据的清除 。数据集成例程将多个数据源中的数据结合起来并 统一存储,建立数据仓库的过程实际上就是数据集成 。通过平滑聚集,数据概化,规范化等方式将数据转换成适用于数据挖掘的形式 。数据挖掘时往往数据量非常大,在少量数据上进行挖掘分析需要很长的时间,数据归约技术可以用来得到数据集的归约表示,它小得多,但仍然接近于保持原数据的完整性,并结果与归约前结果相同或几乎相同 。数据预处理是数据挖掘一个热门的研究方面,毕竟这是由数据预处理的产生背景所决定的,现实世界中的数据几乎都脏数据 。