Ir al contenido principal

Procesamiento de la información en un proyecto de mineria de datos.

Simultáneamente cuando se esta identificando los datos anómalos, nos podemos dar cuenta que se necesita estructurar la base de datos, para que su lectura sea mucho mas eficiente, por ejemplo necesitaríamos segmentar aquellas registros atípicos ya identificados, clasificar las variables que cuentan unas características especiales, crear nuevos campos o registros, o cambiar el tipo de la variable y hacer transformaciones para que la información sea coherente. En este documento vamos a identificar los diferentes procedimientos que se pueden hacer para mejorar nuestra base de datos:

  • Cambio de nombre en los campos: Esta funcionalidad consiste en renombrar una variable o varios campos. El origen de hacer estas modificaciones es muy amplia, algunas de las causas son: que algunos programas de captura, solo soportan  8 caracteres, o que no existe espacio entre palabras del titulo, o que estén escritos de los encabezados estén en otro idioma.  También puede pasar que se este repitiendo  variables, seguidamente  puede suceder que queramos darle un mayor sentido explicativo al  titulo de nuestra variable y la cambiemos por un titulo mas acorde a nuestro estudio.  


  • Eliminar o no tener en cuenta campos: Este trabajo consiste en no tener cuenta aquellos campos que no aportan en el modelamiento de la información dado que su peso a la explicación de los datos no es relevante por ejemplo ID, los apellidos, los nombres de personas, y variables similares no aportan mucho a mi modelo por eso se recomienda eliminarlos del proceso de minería de datos. Igualmente esta funcionalidad de eliminación aplica cuando después de correr un modelo se identifica que algunas de las variables no tiene un peso estadisticamente significativo, por lo tanto se siguiere eliminarlo. Entre menos variables tengamos y nuestro modelo sea mas explicativo mejor serán nuestros resultados, es algo similar al principio de parsimonia donde se espera elegir la menor y mejor cantidad de componentes posibles que puedan explicar el modelo. 


  • Reodenar Campos y registros: En algunas ocasiones es necesario visualizar mas fácilmente nuestras variables objetivo, igual puede ocurrir con los registros, en donde puede pasar que sea necesario que nuestra base de datos tenga un orden especifico que permita ver mas fácilmente la estructura de la data.

  • Creación de nuevas variables: También puede suceder que debemos de crear nuevas variables a partir de de unas existentes, por ejemplo sumas totales de deudas,  identificar edades superiores a los 18 años, Transformar una variable cualitativa en una cuantitativa, o crear una nueva variable a partir de una formulación condicional donde si se cumple la lógica se genere una nueva categoría, de lo contrario se crea otra categórica diferente de tal manera se llegue a un campo dicotomico. También puedo agrupar categorías asignando un titulo a un grupo, con el objetivo de reducir mis variables cuantitativas. O tener que crear nuevas variables después de correr el modelo para lograrlos ajustar a los supuestos de un modelo.


Comentarios

Entradas populares de este blog

Items importantes para la construcción de Dashboard.

  A través de la elaboración de diversos reportes y del análisis de múltiples artículos que ofrecen recomendaciones sobre su construcción, he identificado una serie de pasos esenciales, los cuales se asemejan a los ingredientes de una receta para el éxito en la creación de dashboards. Definición de Roles Dependiendo del tamaño de la organización, algunos usuarios pueden cumplir más de un rol. En una organización más pequeña, una persona podría ser responsable de crear contenido y administrar el sistema. En organizaciones más grandes, puede haber departamentos enteros para cada Rol Para la elaboración de reportes efectivos, es fundamental iniciar con la definición de roles, asignando responsabilidades claras a cada miembro del equipo. Se recomienda la estandarización de colores y formatos, garantizando una apariencia uniforme en todos los gráficos y visualizaciones. Antes de comenzar, es crucial definir qué información se desea conocer y confirmar que se cuenta con los datos correct...

Un Gráfico de pastel para elecciones presidenciales 2010 en Colombia que no suma el 100%.

No se si este sumando mal pero a este grafico de pastel no le da el 100%; al parecer le falta un 8.4%. Y al parecer el 23.3% de Sanin ocupa más espacio en la torta que los demás candidatos. fuente: http://www.laopinion.com.co/noticias/index.php?option=com_content&task=view&id=347881&Itemid=31

LAS 8 ETAPAS PARA REALIZAR UNA INVESTIGACIÓN ESTADÍSTICA

Muchos profesionales de diferentes áreas se preguntan cuales son las etapas necesarias para implementar un apropiado estudio estadístico. El siguiente documento no pretende ser una guía estricta de los pasos necesarios para hacer un estudio, si no por el contrario es una guía sencilla y simple a la hora de hacer una investigación. 1. Definir la Problemática. Acá de define el porque es necesario realizar el análisis, lo cual es acompañado con la contextualización de los objetivos lo cual debe estar acompañado de cuales son las hipótesis que desean comprobar o rechazar paralelamente se podría plantear la estimación de los parámetros que se quiere llegar. Todo esto debe estar acompañado de un plan de presupuestos y el tiempo estimado para el cual se va a finalizar el estudio estadístico. 2. Limitación de la Población. En este paso se pretende dejar claro cual es la población objeto de estudio, sus limites y alcances, cabe anotar que es muy importante analizar la representabilidad d...