Tarea de aprendizaje automático: ¿qué herramienta usar?

Question

Actualmente estoy experimentando con una tarea de ML que implica el entrenamiento supervisado de un modelo de clasificación. Hasta la fecha, tengo ~ 5M de ejemplos de entrenamiento y ~ 5M de validación cruzada. Cada ejemplo tiene, por el momento, 46 ​​características, sin embargo, es posible que desee generar 10 más en el futuro cercano, por lo que cualquier solución debería dejar espacio para mejorar.

Mi problema es el siguiente: ¿qué herramienta utilizo para resolver este problema? Me gustaría usar bosques aleatorios o SVM, sin embargo, me temo que este último puede ser demasiado lento en mi caso. He considerado a Mahout, pero me volví, ya que parece requerir una cierta cantidad de configuración, junto con jugar con los scripts de línea de comandos. Prefiero codificar directamente en una biblioteca (¡bien documentada!) O definir mi modelo con una GUI.

También debo especificar que estoy buscando algo que se ejecutará en Windows (sin cosas como cygwin), y que las soluciones que funcionan bien con .NET son muy apreciadas.

Se puede imaginar que, cuando llegue el momento será, llegado, el código se ejecutará en un Cluster Compute Eight Extra Large Instance en Amazon EC², así que cualquier cosa que hace amplio uso de la CPU y la memoria RAM de varios núcleos es bienvenido.

Por último, pero no menos importante, se especificará que mi conjunto de datos es denso (en la que no hay ningún valor que falta/todas las columnas tienen un valor para cada vector)

Answer 1

Yo recomiendo mirar descenso de gradiente estocástico para esta escala de un problema. Una buena herramienta para mirar es VowpalWabbit. En ese tamaño, probablemente pueda ejecutar sus experimentos en un escritorio con especificaciones razonables. El único inconveniente para usted, creo, es que no está centrado en Windows, pero aunque no lo he comprobado, debería ejecutarse en cygwin.

EDIT: Ha habido un gran interés por parte de los desarrolladores para obtener VowpalWabbit se ejecuta en Windows. A partir de marzo de 2013, VowpalWabbit (versión 7.2) se ejecuta en Windows de forma inmediata. Hay un par de características avanzadas/opcionales que todavía no están implementadas en Windows, una de ellas está ejecutando VowpalWabbit como daemon, pero parece que se manejará en el futuro a corto plazo.

Answer 2

Rutinariamente ejecuto conjuntos de datos de conteo/características similares en R en EC2 (el tipo de instancia de 16 núcleos/60 Gb es particularmente útil en caso de que esté usando un método que puede aprovechar múltiples cpus como paquete caret.) Como mencionaste, no todos los métodos de aprendizaje (como SVM) van a funcionar bien en ese conjunto de datos.

Es posible que desee considerar el uso de una muestra del 10% más o menos para la evaluación comparativa rápida de rendimiento/prototipos antes de pasar al conjunto de datos completo.

Si desea un rendimiento extremadamente alto y luego Vowpal Wabbit es un mejor ajuste (pero sólo es compatible con los alumnos lineales generalizados por lo que no gbm o Random Forest.) Además, VW no es muy ventanas de usar.