Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los...

50
Proyecto Piloto sobre Viabilidad de Internet como Fuente de Datos Resultados del Proyecto

Transcript of Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los...

Page 1: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Proyecto Piloto sobre Viabilidad de Internet como Fuente de DatosResultados del Proyecto

Page 2: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

ÍNDICE

1. Detección automática de B2C2. Análisis de demanda de profesionales TICC y

programas formativos3. Análisis comparativo de la oferta y la demanda

de profesionales TICC.4. Detección de ofertas de empleo en los sitios

web de empresas españolas.5. Conclusiones

Page 3: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

01.El proyecto

Page 4: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Concepción

Utilizar Internet como fuente de datos (IaD, Internet asData source), con dos objetivos diferenciados:

• Hacer el seguimiento del comercio electrónico enempresas españolas (subproyecto 1)

• Hacer el seguimiento de la oferta y la demanda deprofesionales TIC en España (subproyecto 2)

Page 5: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Subproyecto 1

• Objetivos:

1. Detectar la presencia de comercioelectrónico en los sitios web deempresas españolas.

2. Capturar indicadores asociados a laventa electrónica.

Page 6: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Subproyecto 2

• Objetivo:• Caracterizar la demanda de profesionales TIC y de

los Contenidos, así como la oferta formativa decentros universitarios y de formación profesional

• Estrategias:• Acceso a portales centralizados

• Acceso a la web de empresas y universidades

Page 7: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Subproyecto 2

• Objetivos concretos:

1. Detectar automáticamente la presencia de ofertas de empleo en los sitios web de empresas.

2. Analizar comparativamente la oferta laboral y curricular a partir de portales centralizados.

Page 8: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Metodología

1. Desarrollar un SW de captura,análisis y visualización de datos.

2. Aplicar el SW a las tareas dedetección, perfilado y matching.

3. Extraer conclusiones sobre laviabilidad del ML para IaD

Page 9: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Procesos

Page 10: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Componentes del análisis

Rastrear

Clasificar

Analizar textos

Perfilar

Comparar

Page 11: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

02.Detección automática de B2C

Page 12: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Proceso de detección automática de B2Cp. 1 - Título de la presentación / Sección 01

Preprocesado

Etiquetado

InternetD

etección B2C

Resultados del

análisis

Interfaz de etiquetado

Aprendizaje Activo

Clasificación

Extracción de características

Análisis BoW

Rastreo inteligente

Listado de URLs

Detección de B2C

Page 13: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

La aplicación de exploración y análisis web

p. 1 - Título de la presentación / Sección 01

Page 14: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

FUENTE DE DATOS

162.849EMPRESAS,

145.920DOMINIOS WEB diferentes

EXPLORACIÓN WEB

El CRAWLER obtiene unarepresentación de cada sitio webbasada en

8.763.024TÉRMINOS, que se reducen a

343.780

Exploración web EXTRACCIÓN

DE CARACTERÍSTICAS

Identifica los

10.000TÉRMINOS, más relevantes paradetección de B2C.

Page 15: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

2.540PÁGINAS WEB ETIQUETADAS.

1.606webs SIN B2C

776webs CON B2C

¿Cuándo hay B2C?

Condición 1: Variedad de productos, añadir a cesta de la compra, completar pago, finalizar pedido.

Condición 2: Realizar una reserva (de habitaciones de hotel, de entradas, de billetes de viaje), pagar o señalizar la operación

Etiquetado

Page 16: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Detección

Det

ecto

r

Umbral

Con B2C

Sin B2C

Falsos positivos

Falsos negativos

Page 17: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

http://IaD.tsc.uc3m.es/

Resultados

Page 18: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Perfiles “con B2C”

p. 3 - Título de la presentación / Sección 03

Page 19: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Perfiles “sin B2C”

p. 3 - Título de la presentación / Sección 03

Page 20: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

03.Análisis de demanda de profesionales TICC y programas formativos.

Page 21: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Tareas de perfilado y “matching”

p. 3 - Título de la presentación / Sección 03

• Objetivo 1: Utilizar fuentes de datos disponibles en Internet para estimar y modelar la demanda de profesionales del Sector TICC

• Objetivo 2:Ídem para la oferta formativa disponible

• Objetivo 3 (“matching”): Analizar la adecuación de la oferta formativa a la demanda de profesionales

• Se han aplicado técnicas de ML que evitan la necesidad de etiquetado manual y que permiten detectar grupos de términos “coherentes” en los documentos

Page 22: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Análisis comparativo de oferta y demanda de profesionales TICC

p. 1 - Título de la presentación / Sección 01

Estructura global del suproyecto 2

Resultados

Resultados

Matching de oferta y demanda

Internet

Aná

lisis

de

dem

anda

Análisis de oferta

Resultados

Perfilado

Análisis BoW

Rastreo inteligente

Listado de URLs

Perfilado

Análisis BoW

Rastreo (sistemático)

Listado de URLs

Page 23: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

La aplicación de exploración y análisis web

p. 1 - Título de la presentación / Sección 01

Page 24: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Fuente de datos

Page 25: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Fuente de datos

Page 26: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Exploración web

72 cualificaciones profesionales:• 31 cualificaciones de la

rama de Artes Gráficas.• 18 cualificaciones de

Imagen y Sonido.• 23 cualificaciones de

Informática yComunicaciones.

Page 27: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

• Objetivo: Encontrar “bloques constructivos” para los documentos del corpus. Sin etiquetas.

• Perfiles verticales y transversales

• Asignación “blanda” de documentos a perfiles

Perfilado con LDA

Page 28: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Perfilado de Ofertas de empleo

Page 29: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

• Cada nivel de la jerarquía se puede considerar un modelo completo de perfiles para el corpus de datos

• Las relaciones jerárquicas no implican una asignación dura de documentos a nodos

• Postprocesado para limpiar el árbol• Alternativa: Modelos que agrupen

de forma aglomerativa losdocumentos del corpus de datosen base a su“similitud semántica”

Perfilado jerárquico.

Page 30: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

http://IaD.tsc.uc3m.es/

Resultados

Page 31: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

04.Análisis comparativo de la oferta y demanda de profesionales TICC.

Page 32: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Exploración web

Page 33: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Matching: vocabularios de oferta y demanda

Page 34: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

• Restricción al vocabulario “relevante” para las ofertas de empleo

• Únicamente 40 / 150 términos aparecen en el corpus de titulaciones FP

• 90/150 términos aparecen el corpus de Grados y Master, pero la gran mayoría en muy baja proporción

• 92 documentos del corpus de Grados y Máster no contienen términos de los 150 más importantes del corpus de empleo.

• Conclusión 1: En Sector TIC la oferta laboral parece estar más dirigida a titulados superiores

• Conclusión 2: Las Universidades deberían hacer un esfuerzo por acercar (al menos) sus descripciones de planes de estudio a lo demandado por el mercado laboral

Relaciones ofertas-formación

Page 35: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Las técnicas de matching exploradas permiten:•Establecer similitudes entre documentos y/o perfiles de distintos corpus de documentos•Proporcionar un ranking de cobertura de la oferta de empleo.redes, telecomunicaciones, ingeniero

web, diseño, html5datos, sas, magento

web, java, aplicacionesingles, nivel, alto

seguridad, gestion, softwaremarketing, comunicación, publicidad

oracle, pl, analisisandroid, ios, moviles

.net, php, programacionequipo, gestion, comunicaciones

java, j2ee, springwindows, sistemas, server

frances, liferay, tecnicosap, proyectos, gestion

seo, manager, redes socialesbusiness intelligence, funcional, consultor

cobol, db2, hostmicrosoft, crm, dynamics

linux, oracle, unix

Matching: resultados disponibles

Page 36: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

http://IaD.tsc.uc3m.es/

Resultados

Page 37: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

05.Detección de ofertas de empleo en los sitios web de empresas españolas

Page 38: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Preprocesado

Etiquetado

Internet Detección ofertas

Resultados del

análisis

Interfaz de etiquetado

Aprendizaje Activo

Clasificación

Extracción de características

Análisis BoW

Rastreo inteligente

Listado de URLs

Detección de ofertas de empleo

Objetivos:

1.Detectar la presencia deofertas de empleo.

2. Localizar las ubicacionesde las ofertas de empleoen la web.

3. Segmentar las ofertas4. Caracterizar la oferta

total.

Page 39: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

La aplicación de exploración y análisis web

p. 1 - Título de la presentación / Sección 01

Page 40: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

FUENTE DE DATOS

8.349EMPRESAS, del sector TICC

EXPLORACIÓN WEB

El CRAWLER obtiene unarepresentación de cada sitio webbasada en

94.673TERMINOS

Exploración web EXTRACCIÓN

DE CARACTERÍSTICAS

Identifica los

1.000TÉRMINOS, más relevantes paradetección de B2C.

Page 41: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

828PÁGINAS WEB ETIQUETADAS

803webs SIN OFERTAS DE EMPLEO

perfilables

25webs CON OFERTAS de EMPLEO

perfilables, en castellano

Etiquetado manual

Page 42: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Detección

Det

ecto

rUmbral

Con Oferta

Sin Oferta

Falsos positivos

Falsos negativos

Cra

wle

r

Page 43: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Perfilado de la oferta de empleo

p. 3 - Título de la presentación / Sección 03

Page 44: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

http://IaD.tsc.uc3m.es/

Resultados

Page 45: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

06.Conclusiones

Page 46: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Conclusiones particulares• El ML constituye una potente herramienta de análisis

masivo de información a bajo coste, que no sustituye a otras fuentes de análisis, pero que las complementan

• Permite la detección automática de B2C.• La combinación de rastreo inteligente + ML permite

detectar ofertas de empleo en la web de las empresas.• Los algoritmos de perfilado automático identifican

patrones generales en el conjunto de las oferta de empleo de las empresas, o de la oferta formativa.

• A pesar de las diferencias (en formato, vocabulario, estructura) de los corpus de datos, los algoritmos de matching pueden constituir una potente herramienta de análisis comparativo del ajuste global entre la oferta y la demanda de profesionales en España.

Page 47: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Lecciones

• Combinar:• El desarrollo de un buen sistema para

escenarios de IaD requiere de la combinación eficiente de varias tecnologías (crawling, NLP, ML)

• Es importante optimizar cada paso:• Rastreo… selectivo• Procesamiento del lenguaje natural y de

la estructura del documento• Clasificación… escalable.

Page 48: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Lecciones

• La intervención manual es importante.• Económica, sin exigencias tecnológicas• Criterios y metodología de etiquetado

sistemático.• Metodología de supervisión de perfiles.

• El proceso de evaluación es importante• Evaluación objetiva.• Evaluación de los procesos manuales.

Page 49: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

p. 1 - Título de la presentación / Sección 01

Potencial de mejoras

• Esto es versión 1.• Mejoras en el etiquetado• Procesamiento más eficiente del

contenido web (javascript, segmentación de ofertas de empleo en la página web, mejoras en los modelos jerárquicos, aplicación de modelos dinámicos, etc)

• Tratamiento avanzado de textos.

Page 50: Proyecto Piloto sobre Viabilidad de Internet como … · Detección de ofertas de empleo en los sitios web de empresas españolas. 5. Conclusiones. 01. El proyecto. ... • Acceso

Muchas Gracias