Máquinas de soporte vectorial y el truco del núcleo

Si dos clases se pueden separar con una recta, hay infinitas rectas que lo logran. Las máquinas de soporte vectorial eligen una en particular —la que deja el pasillo más ancho entre las clases— y esa elección tiene una justificación que se traduce en mejor generalización.

El margen, y por qué maximizarlo

El margen es la distancia del hiperplano al punto más cercano de cada clase. Maximizarlo da la frontera más “segura”: la que tolera más ruido antes de equivocarse.

La solución depende únicamente de los puntos que quedan sobre el borde del pasillo. Esos son los vectores de soporte, y son pocos. Todos los demás puntos podrían moverse sin cambiar nada, lo que hace al modelo compacto y robusto frente a datos lejanos a la frontera.

El margen blando y el parámetro que lo regula

Los datos reales casi nunca son perfectamente separables, y exigir margen duro con un solo punto mal ubicado arruina la solución. El margen blando permite violaciones, penalizadas en el costo.

El parámetro $C$ regula ese balance: alto, prioriza clasificar bien el entrenamiento y achica el margen; bajo, tolera errores y ensancha. Es el hiperparámetro principal y equivale a una regularización.

El truco: productos internos sin construir coordenadas

Para datos que no separa ninguna recta, la idea es llevarlos a un espacio de más dimensiones donde sí haya un hiperplano que los separe. Dos círculos concéntricos en el plano se separan con una superficie plana si se agrega una tercera dimensión con la distancia al centro.

El problema es que ese espacio puede ser enorme o infinito. El truco del núcleo lo esquiva: la solución sólo necesita productos internos entre pares de puntos, y una función núcleo los calcula directamente en el espacio original, sin construir las coordenadas transformadas.

Los núcleos habituales, que son pocos

Los núcleos habituales son pocos. El lineal, que es no transformar. El polinomial, que representa interacciones de cierto grado. Y el gaussiano o RBF, el más usado, que corresponde a un espacio de dimensión infinita y mide similitud por cercanía.

En RBF, el parámetro gamma controla cuán local es la influencia de cada punto: alto, fronteras muy sinuosas que sobreajustan; bajo, fronteras casi lineales. Junto con $C$ forman el par que hay que buscar por validación.

El costo es el límite práctico

El costo es el límite práctico. Entrenar requiere trabajar con una matriz de similitudes entre todos los pares, así que escala mal: entre cuadrático y cúbico en la cantidad de ejemplos. Con cientos de miles de filas deja de ser viable.

Además necesita atributos escalados, porque las distancias mandan, y no produce probabilidades naturales: hay que estimarlas con un paso extra. Frente a datos tabulares grandes, un ensamble de árboles casi siempre es mejor opción.

Dónde sigue siendo fuerte

Donde sigue siendo fuerte es en conjuntos medianos con muchos atributos y pocas filas, que es exactamente el caso de bioinformática o clasificación de texto: ahí la maximización del margen controla bien el sobreajuste.

Y el truco del núcleo excede a las SVM: es una idea reutilizable. Cualquier algoritmo que dependa sólo de productos internos —PCA, regresión, detección de anomalías— admite su versión con núcleo. Esa generalidad es la parte que más rinde recordar.

Dónde queda hoy

Donde sigue siendo la mejor opción es en el caso opuesto al que domina hoy: pocos ejemplos y muchas dimensiones. Clasificación de textos con miles de atributos y cientos de documentos, bioinformática, cualquier problema donde etiquetar sea caro.

En la práctica

Cierre

Maximizar el margen da una frontera robusta que depende sólo de los vectores de soporte; el margen blando la hace usable con $C$ como regulador. El núcleo permite separar en un espacio de más dimensiones sin construirlo, y el costo cuadrático la deja fuera de los conjuntos grandes.