Marlo Souza. 4 de Outubro de 2018

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Aprendizagem de M ´aquina e PLN

Universidade Federal da Bahia - UFBA, Instituto de Matem ´atica e Estat´ıstica

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

1 Introduc¸ ˜ao

2 Aprendizagem de M ´aquina

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O ciclo do PLN

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM 1 Introduc¸ ˜ao 2 Aprendizagem de M ´aquina

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

• _{Area Multidisciplinar que investiga m ´etodos para que}´ um sistema inteligente possa ”aprender”a partir de dados;

• _{”Aprender”== Reconhecer padr ˜oes de co-ocorr ˆencia;} • Envolve as ´areas de I.A., Ci ˆencia da Computac¸ ˜ao,

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

• _{Area Multidisciplinar que investiga m ´etodos para que}´ um sistema inteligente possa ”aprender”a partir de dados;

• _{”Aprender”== Reconhecer padr ˜oes de co-ocorr ˆencia;} • Envolve as ´areas de I.A., Ci ˆencia da Computac¸ ˜ao,

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

• _{Area Multidisciplinar que investiga m ´etodos para que}´ um sistema inteligente possa ”aprender”a partir de dados;

• _{”Aprender”== Reconhecer padr ˜oes de co-ocorr ˆencia;} • Envolve as ´areas de I.A., Ci ˆencia da Computac¸ ˜ao,

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

Os m ´etodos de AM podem ser separados nas seguintes classes:

• _{Aprendizagem supervisionada: o m ´etodo recebe}

dados marcados com o resultado esperado da func¸ ˜ao-objetivo a ser aprendida;

• Aprendizagem n ˜ao supervisionada: o m ´etodo recebe dados sem qualquer marcac¸ ˜ao da func¸ ˜ao-objetivo; • Aprendizagem semi-supervisionada: o m ´etodo recebe

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

Os m ´etodos de AM podem ser separados nas seguintes classes:

• _{Aprendizagem supervisionada: o m ´etodo recebe}

dados marcados com o resultado esperado da func¸ ˜ao-objetivo a ser aprendida;

• Aprendizagem n ˜ao supervisionada: o m ´etodo recebe

dados sem qualquer marcac¸ ˜ao da func¸ ˜ao-objetivo;

• Aprendizagem semi-supervisionada: o m ´etodo recebe dados em que parte est ´a marcada e parte n ˜ao;

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

Os m ´etodos de AM podem ser separados nas seguintes classes:

• _{Aprendizagem supervisionada: o m ´etodo recebe}

dados marcados com o resultado esperado da func¸ ˜ao-objetivo a ser aprendida;

• Aprendizagem n ˜ao supervisionada: o m ´etodo recebe

dados sem qualquer marcac¸ ˜ao da func¸ ˜ao-objetivo;

• Aprendizagem semi-supervisionada: o m ´etodo recebe

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

• _{Aprendizagem ativa: o m ´etodo pode obter uma}

quantidade limitada de marcac¸ ˜oes pros dados recebidos e deve escolher ´otimamente quais dados devem ser anotados;

• _{Aprendizagem por reforc¸o: feedback ´e passado ao} m ´etodo (na forma de recompensas ou punic¸ ˜oes) em resposta `as ac¸ ˜oes tomadas pelo m ´etodo no ambiente;

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

O que ´e AM?

• _{Aprendizagem ativa: o m ´etodo pode obter uma}

quantidade limitada de marcac¸ ˜oes pros dados recebidos e deve escolher ´otimamente quais dados devem ser anotados;

• _{Aprendizagem por reforc¸o: feedback ´e passado ao}

m ´etodo (na forma de recompensas ou punic¸ ˜oes) em resposta `as ac¸ ˜oes tomadas pelo m ´etodo no ambiente;

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Aprendizagem Supervisionada:

Classificac¸ ˜ao e Regress ˜ao

X = hv1,v2, · · · ,vni de um espac¸o vetorial V e uma

sequ ˆencia de marcac¸ ˜oes y = hc1,c2, · · · ,cni de um

conjunto de classes C, determinar uma superf´ıcie em

V que separe ´otimamente os exemplos de classes

diferentes;

• _{Regress ˜ao: dado um conjunto de pontos}

X = hv1,v2, · · · ,vni de um espac¸o vetorial V e um

conjunto de valores reais y = hr1,r2, · · · ,rni,

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Aprendizagem Supervisionada:

Classificac¸ ˜ao e Regress ˜ao

X = hv1,v2, · · · ,vni de um espac¸o vetorial V e uma

sequ ˆencia de marcac¸ ˜oes y = hc1,c2, · · · ,cni de um

conjunto de classes C, determinar uma superf´ıcie em

V que separe ´otimamente os exemplos de classes

diferentes;

• _{Regress ˜ao: dado um conjunto de pontos}

X = hv1,v2, · · · ,vni de um espac¸o vetorial V e um

conjunto de valores reais y = hr1,r2, · · · ,rni,

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Aprendizagem Supervisionada:

Classificac¸ ˜ao e Regress ˜ao

Aspectos importantes a serem considerados:

• _{Grau de generalizac¸ ˜ao: navalha de Occam e vi ´es de}

treinamento

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Aprendizagem Supervisionada:

Classificac¸ ˜ao e Regress ˜ao

Aspectos importantes a serem considerados:

• _{Grau de generalizac¸ ˜ao: navalha de Occam e vi ´es de}

treinamento

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

1 Introduc¸ ˜ao

2 Aprendizagem de M ´aquina

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Como usar AM em PLN?

• Definic¸ ˜ao do problema como um problema de

classificac¸ ˜ao/regress ˜ao

• Descric¸ ˜ao dos dados: conjunto de caracter´ısticas (features)

Aprendizagem de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Como usar AM em PLN?

• Definic¸ ˜ao do problema como um problema de

classificac¸ ˜ao/regress ˜ao

• Descric¸ ˜ao dos dados: conjunto de caracter´ısticas (features)

de M ´aquina e PLN Marlo Souza Introduc¸ ˜ao Aprendizagem de M ´aquina Pensando problemas de PLN como problemas de AM

Como usar AM em PLN?

• Definic¸ ˜ao do problema como um problema de

classificac¸ ˜ao/regress ˜ao

• Descric¸ ˜ao dos dados: conjunto de caracter´ısticas (features)