Ir al contenido principal

Procesamiento de la información en un proyecto de mineria de datos.

Simultáneamente cuando se esta identificando los datos anómalos, nos podemos dar cuenta que se necesita estructurar la base de datos, para que su lectura sea mucho mas eficiente, por ejemplo necesitaríamos segmentar aquellas registros atípicos ya identificados, clasificar las variables que cuentan unas características especiales, crear nuevos campos o registros, o cambiar el tipo de la variable y hacer transformaciones para que la información sea coherente. En este documento vamos a identificar los diferentes procedimientos que se pueden hacer para mejorar nuestra base de datos:

  • Cambio de nombre en los campos: Esta funcionalidad consiste en renombrar una variable o varios campos. El origen de hacer estas modificaciones es muy amplia, algunas de las causas son: que algunos programas de captura, solo soportan  8 caracteres, o que no existe espacio entre palabras del titulo, o que estén escritos de los encabezados estén en otro idioma.  También puede pasar que se este repitiendo  variables, seguidamente  puede suceder que queramos darle un mayor sentido explicativo al  titulo de nuestra variable y la cambiemos por un titulo mas acorde a nuestro estudio.  


  • Eliminar o no tener en cuenta campos: Este trabajo consiste en no tener cuenta aquellos campos que no aportan en el modelamiento de la información dado que su peso a la explicación de los datos no es relevante por ejemplo ID, los apellidos, los nombres de personas, y variables similares no aportan mucho a mi modelo por eso se recomienda eliminarlos del proceso de minería de datos. Igualmente esta funcionalidad de eliminación aplica cuando después de correr un modelo se identifica que algunas de las variables no tiene un peso estadisticamente significativo, por lo tanto se siguiere eliminarlo. Entre menos variables tengamos y nuestro modelo sea mas explicativo mejor serán nuestros resultados, es algo similar al principio de parsimonia donde se espera elegir la menor y mejor cantidad de componentes posibles que puedan explicar el modelo. 


  • Reodenar Campos y registros: En algunas ocasiones es necesario visualizar mas fácilmente nuestras variables objetivo, igual puede ocurrir con los registros, en donde puede pasar que sea necesario que nuestra base de datos tenga un orden especifico que permita ver mas fácilmente la estructura de la data.

  • Creación de nuevas variables: También puede suceder que debemos de crear nuevas variables a partir de de unas existentes, por ejemplo sumas totales de deudas,  identificar edades superiores a los 18 años, Transformar una variable cualitativa en una cuantitativa, o crear una nueva variable a partir de una formulación condicional donde si se cumple la lógica se genere una nueva categoría, de lo contrario se crea otra categórica diferente de tal manera se llegue a un campo dicotomico. También puedo agrupar categorías asignando un titulo a un grupo, con el objetivo de reducir mis variables cuantitativas. O tener que crear nuevas variables después de correr el modelo para lograrlos ajustar a los supuestos de un modelo.


Comentarios

Entradas populares de este blog

DATOS DEL AUTOR DEL BLOG

Mi nombre, es Laureano Romero Velásquez soy Estadístico de la Universidad del Valle, esta foto es con el profesor Víctor Guerrero de la UNAM, México (derecha) durante el cursillo Estimación de tendencias de series de tiempo mediante mínimos cuadrados penalizados, en el First International Workshop on Applied Statistics, Universidad Santo Tomas Bogotá Colombia 2009. Este BLOG tendrá como objetivo ser una fuente de discusión de temas estadísticos y como estos influyen en nuestro entorno. Bienvenidos!!!

Sobre la ley 379 de 1997.

Sobre la ley 379 de 1997. Organizando unos archivos empecé a leer la ley que reglamenta la profesión de estadístico en Colombia; y se entiende  como: (…) “la aplicación de los conocimientos y medios de las ciencias, las matemáticas, la informática y las humanidades en el análisis, administración, dirección, supervisión y control de proceso en los cuales se efectúen recolección, ordenamientos, evaluación, control, captura y crítica de la información así mismo en el diseño de modelos matemáticos, económicos y administrativos que se utilizarán en toda entidad pública, privada, universidad, entidad dedicada a la investigación que necesite de este proceso para tomar decisiones” (…) También me llama la atención que la ley obliga a todas las entidades comerciales que manejan  y divulgan información a contratar estadísticos (…) Las firmas comerciales destinadas al tratamiento de información estadística que incluye la recolección, procesamiento, análisis y divulgación...

Como crear un blog

Una de las cosas que hay hacer en la vida además de plantar un árbol es crear un blog por eso, ayer recibí la llamada de una amigo el cual me solicitaba ayuda para crear un blog. A mi amigo y a todo aquel que este interesado, le respondo: Es fácil, y nada complicado montar un blog en la red  además es muy gratificante, es muy similar a crear un perfil en una red social, la diferencia es el objetivo de la pagina, ya que el blog esta dirigido principalmente a promulgar opiniones y conceptos de temas específicos. existen diferentes proveedores tales como Blogger que es una empresa Google ; Wordpress ; Movable Type . Despues de una inscripción, el mismo proveedor nos da las pausas necesarias para personalizar nuestro blog, lo cuales muy sencillo de hacer.