Ir al contenido principal

Procesamiento de la información en un proyecto de mineria de datos.

Simultáneamente cuando se esta identificando los datos anómalos, nos podemos dar cuenta que se necesita estructurar la base de datos, para que su lectura sea mucho mas eficiente, por ejemplo necesitaríamos segmentar aquellas registros atípicos ya identificados, clasificar las variables que cuentan unas características especiales, crear nuevos campos o registros, o cambiar el tipo de la variable y hacer transformaciones para que la información sea coherente. En este documento vamos a identificar los diferentes procedimientos que se pueden hacer para mejorar nuestra base de datos:

  • Cambio de nombre en los campos: Esta funcionalidad consiste en renombrar una variable o varios campos. El origen de hacer estas modificaciones es muy amplia, algunas de las causas son: que algunos programas de captura, solo soportan  8 caracteres, o que no existe espacio entre palabras del titulo, o que estén escritos de los encabezados estén en otro idioma.  También puede pasar que se este repitiendo  variables, seguidamente  puede suceder que queramos darle un mayor sentido explicativo al  titulo de nuestra variable y la cambiemos por un titulo mas acorde a nuestro estudio.  


  • Eliminar o no tener en cuenta campos: Este trabajo consiste en no tener cuenta aquellos campos que no aportan en el modelamiento de la información dado que su peso a la explicación de los datos no es relevante por ejemplo ID, los apellidos, los nombres de personas, y variables similares no aportan mucho a mi modelo por eso se recomienda eliminarlos del proceso de minería de datos. Igualmente esta funcionalidad de eliminación aplica cuando después de correr un modelo se identifica que algunas de las variables no tiene un peso estadisticamente significativo, por lo tanto se siguiere eliminarlo. Entre menos variables tengamos y nuestro modelo sea mas explicativo mejor serán nuestros resultados, es algo similar al principio de parsimonia donde se espera elegir la menor y mejor cantidad de componentes posibles que puedan explicar el modelo. 


  • Reodenar Campos y registros: En algunas ocasiones es necesario visualizar mas fácilmente nuestras variables objetivo, igual puede ocurrir con los registros, en donde puede pasar que sea necesario que nuestra base de datos tenga un orden especifico que permita ver mas fácilmente la estructura de la data.

  • Creación de nuevas variables: También puede suceder que debemos de crear nuevas variables a partir de de unas existentes, por ejemplo sumas totales de deudas,  identificar edades superiores a los 18 años, Transformar una variable cualitativa en una cuantitativa, o crear una nueva variable a partir de una formulación condicional donde si se cumple la lógica se genere una nueva categoría, de lo contrario se crea otra categórica diferente de tal manera se llegue a un campo dicotomico. También puedo agrupar categorías asignando un titulo a un grupo, con el objetivo de reducir mis variables cuantitativas. O tener que crear nuevas variables después de correr el modelo para lograrlos ajustar a los supuestos de un modelo.


Comentarios

Entradas populares de este blog

Importación de un archivo csv utilizando SAS Vs R Vs Python

E n el siguiente articulo, se realizara una comparación entre tres software, en cuanto a la velocidad, cantidad de caracteres del código, lógica y entendimiento de los lenguajes. Acá los resultados: El Archivo Se trata de un documento .CSV, llamado CaseStudy1. Y son datos de empleados de una compañía, la tabla contiene 8 variables y 424 registros. Figura 1: Tabla CaseStudy1 Importación SAS: Para importar el archivo usando SAS, es necesario clarificar que se esta trabajando desde un servidor llamado  On Demand For Academic, la cual es una interfaz de mi PC hacia SAS que se conecta vía web a un servidor a estados unidos. Abrir la version web de SAS que es el SAS Studio. Introducir el usuario y contraseña.  Figura 2: Credenciales Le damos clic en la area del SAS Studio, la cual nos va a llevar a version web de SAS. Como no es posible leer los archivos directamente desde mi equipo es necesario realizar un puente para poder importar los datos, para l...

Items importantes para la construcción de Dashboard.

  A través de la elaboración de diversos reportes y del análisis de múltiples artículos que ofrecen recomendaciones sobre su construcción, he identificado una serie de pasos esenciales, los cuales se asemejan a los ingredientes de una receta para el éxito en la creación de dashboards. Definición de Roles Dependiendo del tamaño de la organización, algunos usuarios pueden cumplir más de un rol. En una organización más pequeña, una persona podría ser responsable de crear contenido y administrar el sistema. En organizaciones más grandes, puede haber departamentos enteros para cada Rol Para la elaboración de reportes efectivos, es fundamental iniciar con la definición de roles, asignando responsabilidades claras a cada miembro del equipo. Se recomienda la estandarización de colores y formatos, garantizando una apariencia uniforme en todos los gráficos y visualizaciones. Antes de comenzar, es crucial definir qué información se desea conocer y confirmar que se cuenta con los datos correct...

DATOS DEL AUTOR DEL BLOG

Mi nombre, es Laureano Romero Velásquez soy Estadístico de la Universidad del Valle, esta foto es con el profesor Víctor Guerrero de la UNAM, México (derecha) durante el cursillo Estimación de tendencias de series de tiempo mediante mínimos cuadrados penalizados, en el First International Workshop on Applied Statistics, Universidad Santo Tomas Bogotá Colombia 2009. Este BLOG tendrá como objetivo ser una fuente de discusión de temas estadísticos y como estos influyen en nuestro entorno. Bienvenidos!!!