InteligênciaComputacional Aplicada
InteligênciaInteligênciaComputacional AplicadaComputacional Aplicada
ConteúdoConteúdo
O que é “Inteligência” Computacional?O que é “Inteligência” Computacional?Áreas de AplicaçãoÁreas de AplicaçãoTécnicas InteligentesTécnicas Inteligentes–– Sistemas EspecialistasSistemas Especialistas–– Lógica NebulosaLógica Nebulosa–– RedesRedes Neurais Neurais–– Algoritmos GenéticosAlgoritmos GenéticosSistemas Inteligentes do ICASistemas Inteligentes do ICA
“Técnicas e sistemas computacionaisque imitam aspectos humanos, tais
como: percepção, raciocínio,percepção, raciocínio,aprendizado, evolução e adaptaçãoaprendizado, evolução e adaptação”.
O que é InteligênciaComputacional?
O que é InteligênciaO que é InteligênciaComputacional?Computacional?
Sistemas Especialistas
Lógica Fuzzy
Redes Neurais
Algoritmos Genéticos
Sistemas Híbridos
inferência humana
processamento lingüístico
neurônios biológicos
evolução biológica
aspectos combinados
Inspiração na NaturezaInspiração na NaturezaInspiração na NaturezaSistemas Computacionais de
Suporte à DecisãoSistemas Computacionais deSistemas Computacionais de
Suporte à DecisãoSuporte à Decisão
Sistemas Especialistas
Lógica Fuzzy
Redes Neurais
Algoritmos Genéticos
Sistemas Híbridos
Aquisição de ConhecimentoAquisição de Conhecimento
PrevisãoPrevisão
OtimizaçãoOtimização
ControleControle
PlanejamentoPlanejamento
DataData Mining Mining
Análise de RiscoAnálise de Risco
Detecção de FraudeDetecção de Fraude
Áreas de AplicaçãoÁreas de AplicaçãoÁreas de AplicaçãoEnergiaFinanças
TelecomunicaçõesMedicina
Meio-Ambiente
Indústria
Comércio
Meio Ambiente
Simulação de Forno de Craqueamento da Refinaria REDUC Utilizando Redes NeuraisSensor Virtual por Redes Neurais para a Medição de Intemperismo na Produção do GLPOtimização da Distribuição Combustíveis por Algoritmos Genéticos
Alguns Projetos Desenvolvidos no ICASetor Tema
Petroquímico
Ensino
Energia
Industrial
Comercial
Econômico/Financeiro
Software Educacional para o Ensino de Sistemas Inteligentes
Previsão de Carga Elétrica por Redes Neurais: Mensal, Horária, Pico, Intervalos 10minSistema Híbrido de Detecção e Diagnóstico de Falhas em Sistemas ElétricosOtimização de Despacho por Algoritmos GenéticosOtimização da Alocação de Capacitores em Sistemas ElétricosControle de Cheias em reservatórios de usinas hidrelétricasReconhecimento de Descargas Parciais em Equipamentos Elétricos
Sistema Inteligente de Reconhecimento de Imagens BidimensionaisRedes Neurais Aplicadas a Ensaios Não-Destrutivos de Materiais CondutoresSistemas Inteligentes Aplicados ao Reconhecimento de VozOtimização e Planejamento da ProduçãoControle e Navegação de RobosCompressão de Imagens Digitalizadas por Redes Neurais
Otimização do Planejamento de Horários/Alocação de Salas por Algoritmos GenéticosReconhecimento de Dígitos Manuscritos por Redes Neurais para Leitura de Código PostalReconhecimento de Caracteres Impressos (OCR) Utilizando Redes NeuraisPrevisão da Demanda de LubrificantesDescoberta de Padrões em Bancos de Dados ComerciaisClassificação/Segmentação de Clientes a partir de Informações Cadastrais em BD
Planejamento de Fluxo de Caixa Inteligente (FCI)Gerência de Carteira de Investimentos (Risco x Retorno) por Algoritmos GenéticosPrevisão de Indicadores Financeiros por Redes NeuraisPrevisão do Índice Bovespa por Redes NeuraisModelos Híbridos de Previsão de Séries TemporaisPrevisão de Precipitação Pluviométrica na Área do Nordeste por Redes Neurais
Empresa Sistema Inteligente TécnicasSouza Cruz • Fluxo de Caixa Inteligente • Alg. GenéticosEletrobrás • Previsão do Consumo Mensal de Energia Elétrica • Redes NeuraisEmbratel • Classificação de Clientes • Redes Neurais
• Alg.GenéticosPUC-Rio • Alocação de Salas de Aula
• Avaliação da Produção Científica• Alg. Genéticos• Lógica Fuzzy
Cia. Vale doRio Doce
• Projeto S4: Planejamento e Otimização de Embarquede Minério no Porto de Tubarão
• Projeto S4-V2: Planejamento e Otimização deEmbarque de Minério Porto de Tubarão
• Projeto Monitor: Fase de Especificação• Projeto Monitor: Fase de Desenvolvimento• Projeto SIMCAP: Simulação do Porto da Madeira• Projeto TPMSIM-DXS
• Alg. Genéticos• Oracle• UML
Petrobrás • Inferência de Propriedades de Derivados do Petróleo• Gestão Conhecimento Instrumentação e Automação• Análise de Alternativas de Investimento em Projetos
de Exploração e Prospeção de Petróleo sobIncertezas Técnicas e de Mercado
• Otimização da Quantidade e Localização de PoçosPetrolíferos para o Desenvolvimento de um Campode Petróleo sob condições de certeza
• ANEPI-2: Análise Alternativas de InvestimentoProjetos de Exploração Prospeção Petróleo - FASE 2
• Redes Neurais• Sistemas
Especialistas• Alg. Genéticos• Neuro-Fuzzy• UML• CORBA
ScoreTec • Software Vox Score para a aquisição, gerenciamentoe análise da voz, para triagem de recursos humanos
• SQL Server• UML• Redes Neurais
Light • Sistema Inteligente Apoio à Decisão na Recuperaçãode Perdas por Fraude e na Caracterização dosFraudadores
• Redes Neurais• Neuro-Fuzzy• Alg. Genéticos
Previsão de Demanda de Energia ElétricaDemanda de Energia Elétrica:mensal, horária, 10 em 10 min., horário de pico.Previsão mensal de Demanda de LubrificantesDemanda de LubrificantesPrevisão Consumo de cigarrosConsumo de cigarros: semanal, mensalPrevisão de Safra de CacauSafra de CacauPrevisão de Índices financeirosÍndices financeiros
PrevisãoPrevisãoPrevisãoPrevisãoPrevisão
Otimização do Fluxo de CaixaFluxo de CaixaOtimização de Carteira de InvestimentosCarteira de InvestimentosOtimização de Alocação de Espaço FísicoAlocação de Espaço FísicoPlanejamento da Manutenção de MáquinasManutenção de MáquinasPlanejamento de Embarque de MinérioEmbarque de MinérioOtimização da Exploração de um Campo deExploração de um Campo dePetróleoPetróleo
Otimização e PlanejamentoOtimização e Planejamento Data MiningData Data MiningMining
Caracterização do Negócio– extrair regras de BD que caracterizem o negócio
Enriquecimento de Banco de Dados– inferir informações a partir de levantamento parcial
Segmentação da Base– agrupar entradas “similares” em clusters
Classificação de Entradas– pré-classificar um nova entrada em um cluster
Análise de Risco em Investimentos– identificação de regras de investimento
Processos IndustriaisProcessos IndustriaisProcessos Industriais
Detecção e Diagnóstico de Falhas– Rede Neural detecta falha na rede elétrica e
Sistema Especialista fornece o diagnóstico
Manutenção Preditiva– Rede Neural prevê momento ideal para a
realização de manutenção
Inferência/Predição de Propriedades– Rede Neural infere propriedades de derivados de
petróleo em refinarias (intemperismo, etc)
SistemasEspecialistas
SistemasSistemasEspecialistasEspecialistas
⇒ São programas que armazenam e manipulamo conhecimentoconhecimento adquirido de um especialista.
Conceitos BásicosConceitos BásicosConceitos Básicos⇒ São programas que armazenam e manipulam o
conhecimento adquirido de um especialista.
Requer entrevistas e observações para extrairextrairo conhecimentoo conhecimento..Conhecimento é representado em formatomanipulável pelo computadormanipulável pelo computador..
Conceitos BásicosConceitos BásicosConceitos Básicos
Regras de produçãoRegras de produção Regra i IF <condição_1> AND <condição_2>...
THEN <ação_A> AND <ação_B> ....
Representação do ConhecimentoRepresentação do ConhecimentoRepresentação do Conhecimento
Regras de produçãoRegras de produção Regra i IF <condição_1> AND <condição_2>...
THEN <ação_A> AND <ação_B> ....
Exemplos: IF Carro = BMW AND cidade = São Paulo THEN seguro = 10% valor carro
IF carro = Fiat AND cidade = Icapuí THEN seguro = 4% valor carro
Representação do ConhecimentoRepresentação do ConhecimentoRepresentação do Conhecimento
Organização de Sistemas EspecialistasOrganização de Sistemas EspecialistasOrganização de Sistemas Especialistas
Base de conhecimento
IF Carro = BMW AND cidade = SP THEN seguro = 10% IF Carro = Fiat AND cidade = Icapuí THEN seguro = 4%
Organização de Sistemas EspecialistasOrganização de Sistemas EspecialistasOrganização de Sistemas Especialistas
Memóriade
Trabalho
carro = Fiatcidade = Icapuí
Base de conhecimento
IF Carro = BMW AND cidade = SP THEN seguro = 10% IF Carro = Fiat AND cidade = Icapuí THEN seguro = 4%
Organização de Sistemas EspecialistasOrganização de Sistemas EspecialistasOrganização de Sistemas Especialistas
Memóriade
Trabalho
carro = Fiatcidade = Icapuí
Base de conhecimento
IF Carro = BMW AND cidade = SP THEN seguro = 10% IF Carro = Fiat AND cidade = Icapuí THEN seguro = 4%
Máquina de Inferência
Organização de Sistemas EspecialistasOrganização de Sistemas EspecialistasOrganização de Sistemas Especialistas
Memóriade
Trabalho
carro = Fiatcidade = Icapuí
Base de conhecimento
IF Carro = BMW AND cidade = SP THEN seguro = 10% IF Carro = Fiat AND cidade = Icapuí THEN seguro = 4%
Máquina de Inferência
Sistema deExplicações
Aquisição de Conhecimento
Adequada para aplicações onde: oconhecimentoconhecimento (o especialista) é
acessívelacessível, as regras são conhecidasregras são conhecidas efáceisfáceis de serem formuladas por este
especialista, e quando explicaçõesexplicações sãonecessárias.
AvaliaçãoAvaliaçãoAvaliação
utiliza representaçãoexplícita doconhecimento
capazes de gerarjustificativas(explicações)
ausência demecanismo automáticode aprendizadoprocesso longo e carode extração doconhecimentoexigência dedeclarações precisasdos especialistas
AvaliaçãoAvaliaçãoAvaliaçãoVantagens Desvantagens
Aplicações ComerciaisAplicações ComerciaisAplicações Comerciais
Citibank, Análise de empréstimos pessoais, National Westminster, Gerência de Carteira de Investimento Midland Bank:
American Express: Sistema de Auxílio para Autorização de Crédito (CC)
LógicaNebulosaLógicaLógica
NebulosaNebulosa
Conceitos BásicosConceitos BásicosConceitos Básicos
Técnica inteligente que tem comoobjetivo modelar o modoaproximado de raciocínioaproximado de raciocínio,
imitando a habilidade humana detomar decisões em um ambiente
de incertezaincerteza e imprecisãoimprecisão
Permite que os sistemas inteligentes decontrolecontrole e suporte à decisãosuporte à decisão lidem cominformações imprecisas ou nebulosasnebulosas
Conceitos BásicosConceitos BásicosConceitos Básicos
Permite que os sistemas inteligentes decontrolecontrole e suporte à decisãosuporte à decisão lidem cominformações imprecisas ou nebulosasnebulosas
Conceitos BásicosConceitos BásicosConceitos Básicos
Exemplos: • investimento de alto risco• pressão média• fluxo muito intenso• alta temperatura• muito jovem
Conjuntos Nebulosos
Grau de Pertinência a um Conjunto
Regras Nebulosas
Inferência Nebulosa
Novos ConceitosNovos ConceitosNovos Conceitos
Conjuntos NebulososConjuntos NebulososGrau de Pertinência a um Conjunto
Regras Nebulosas
Inferência Nebulosa
Novos ConceitosNovos ConceitosNovos Conceitos Conjuntos e Regras RígidosConjuntos e Regras RígidosConjuntos e Regras Rígidos
0 10 20 30 40 50 60
muitojovem jovem velho muito velho
idade
Conjuntos e Regras RígidosConjuntos e Regras RígidosConjuntos e Regras Rígidos
0 10 20 30 40 50 60
muitojovem jovem velho muito velho
idade
Se idade igual a 4040 entãosou velhovelho..
0 10 20 30 40 50 60
Conjuntos e Regras RígidosConjuntos e Regras RígidosConjuntos e Regras Rígidos
0 10 20 30 40 50 60
muitojovem jovem velho muito velho
idade
Se idade igual a 4040 entãosou velhovelho.
Se idade igual a 3939 entãosou jovem.jovem.
0 10 20 30 40 50 60
Conjuntos Nebulosos
Grau de Pertinência a um ConjuntoGrau de Pertinência a um ConjuntoRegras Nebulosas
Inferência Nebulosa
Novos ConceitosNovos ConceitosNovos Conceitos Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0 10 20 30 40 50 60
1.0
0.5
10 20 30 40 50 60
muitojovem jovem velho muito velho
grau depertinência
idade
idade
muitojovem jovem velho muito velho
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
1.0
0.5
10 20 30 40 50 60
grau depertinência
idade
Pedro tem 40 anos.Ele é jovemjovem ou velhovelho?
muitojovem
jovem velho muito velho
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
1.0
0.65
10 20 30 40 50 60
grau depertinência
idade
Pedro tem 40 anos.Ele é jovemjovem ou velhovelho?
muitojovem
jovem velho muito velho
0.45
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
Pedro tem 40 anos.Ele é jovemjovem ou velhovelho?
Pedro é jovemjovem E velhovelho, ao mesmo tempo (com graus diferentes)
Os graus de pertingraus de pertinêênciancia demostram que Pedro não é
nem tnem tãão jovemo jovem, nem tnem tãão velhoo velho
Conjuntos Nebulosos
Grau de Pertinência a um Conjunto
Regras NebulosasRegras NebulosasInferência Nebulosa
Novos ConceitosNovos ConceitosNovos Conceitos
Regras Nebulosas
SE idade é meia-idademeia-idade E pressão ébaixabaixa ENTÃO seguro é baixobaixo
Sistema para Análise deSeguro Saúde
Sistema para Análise deSistema para Análise deSeguro SaúdeSeguro Saúde
Regras Nebulosas
SE idade é meia-idade E pressão ébaixa ENTÃO seguro é baixoSE idade é jovemjovem E pressão é altaaltaENTÃO seguro é altoalto
Sistema para Análise de Seguro Saúde
Sistema para Análise deSistema para Análise de Seguro Saúde Seguro Saúde
Conjuntos Nebulosos
Grau de Pertinência a um Conjunto
Regras Nebulosas
Inferência NebulosaInferência Nebulosa
Novos ConceitosNovos ConceitosNovos Conceitos Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0.1 0.3 0.4 0.5 0.8 0.9 1.0AltoBaixo 1.0 0.9 0.6 0.5 0.3 0.1 0.1
Seguro 500 700 800 900 10001200300
Pressão Mín. 50 55 60 70 75 80 85 90 1000.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0Alta
Baixa 1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
Pressão Máx. 95 100110120 130 140 150 160 170 17560 65
Idade 20 25 30 35 40 45 50 55 60 650.3 0.4 0.6 0.8 0.9 1.0 0.8 0.6 0.3 0.1Meia-Idade
Jovem 0.9 0.8 0.7 0.6 0.4 0.3 0.1 0.0 0.0 0.0
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0.1 0.3 0.4 0.5 0.8 0.9 1.0AltoBaixo 1.0 0.9 0.6 0.5 0.3 0.1 0.1
Seguro 500 700 800 900 10001200300Baixa
Pressão Mín. 50 55 60 70 75 80 85 90 1000.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0Alta1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
Pressão Máx. 95 100110 120 130 140 150 160 170 17560 65
Idade 20 25 30 35 40 45 50 55 60 650.3 0.4 0.6 0.8 0.9 1.0 0.8 0.6 0.3 0.1Meia-Idade
Jovem 0.9 0.8 0.7 0.6 0.4 0.3 0.1 0.0 0.0 0.0
SE idade é meia-idade E pressão é baixa ENTÃO seguro é baixo
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0.1 0.3 0.4 0.5 0.8 0.9 1.0AltoBaixo 1.0 0.9 0.6 0.5 0.3 0.1 0.1
Seguro 500 700 800 90010001200300
Idade 20 25 30 35 40 45 50 55 60 650.3 0.4 0.6 0.8 0.9 1.0 0.8 0.6 0.3 0.1Meia-Idade
Jovem 0.9 0.8 0.7 0.6 0.4 0.3 0.1 0.0 0.0 0.0
SE idade é meia-idade E pressão é baixa ENTÃO seguro é baixo
Baixa
Pressão Mín. 50 55 60 70 75 80 85 90 1000.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0Alta1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
Pressão Máx. 95 100110 120 130 140 150 160 170 17560 65
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0.1 0.3 0.4 0.5 0.8 0.9 1.0AltoBaixo 1.0 0.9 0.6 0.5 0.3 0.1 0.1
Seguro 500 700 800 900 10001200300
Idade 20 25 30 35 40 45 50 55 60 650.3 0.4 0.6 0.8 0.9 1.0 0.8 0.6 0.3 0.1Meia-Idade
Jovem 0.9 0.8 0.7 0.6 0.4 0.3 0.1 0.0 0.0 0.0
SE idade é jovem E pressão é alta ENTÃO seguro é alto
Baixa
Pressão Mín. 50 55 60 70 75 80 85 90 1000.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0Alta1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
Pressão Máx. 95 100110 120 130 140 150 160 170 17560 65
Conjuntos NebulososConjuntos NebulososConjuntos Nebulosos
0.1 0.3 0.4 0.5 0.8 0.9 1.0AltoBaixo 1.0 0.9 0.6 0.5 0.3 0.1 0.1
Seguro 500 700 800 90010001200300
Idade 20 25 30 35 40 45 50 55 60 650.3 0.4 0.6 0.8 0.9 1.0 0.8 0.6 0.3 0.1Meia-Idade
Jovem 0.9 0.8 0.7 0.6 0.4 0.3 0.1 0.0 0.0 0.0
SE idade é jovem E pressão é alta ENTÃO seguro é alto
Baixa
Pressão Mín. 50 55 60 70 75 80 85 90 1000.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1.0Alta1.0 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
Pressão Máx. 95 100110 120 130 140 150 160 170 17560 65
AvaliaçãoAvaliaçãoAvaliação
Técnica utilizada em aplicações:
• onde o conhecimento envolve conceitos subjetivossubjetivos e intrinsecamenteintrinsecamente imprecisos imprecisos;• e onde deseja-se obter explicaçõesexplicações sobre o resultado do problema.
facilidade de lidar comdados imprecisos.facilita a descrição
das regras pelos especialistas.
menor número deregras.explicação do raciocínio
especificação dasfunções de pertinência.necessidade de umespecialista e/ou dadoshistóricos.
AvaliaçãoAvaliaçãoAvaliaçãoVantagens Desvantagens
NISSAN: freios antiderrapantesGM: sistema de transmissão nebulosoSANYO: microondasSHARP: refrigeraçãoBOSCH: máquinas de lavarHITACHI: aspiradorPANASONIC: camcorder
Aplicações IndustriaisAplicações IndustriaisAplicações Industriais Aplicações ComerciaisAplicações ComerciaisAplicações Comerciais
Yamaichi Securities: Sistema de Gerenciamento de Fundos de Investimento
Fuji Bank: Sistema de Negociação de Bolsa de Valores
World Bank: Sistema de Investimento
Metus Systems: Sistema fuzzy de detecção de fraude no sistema de saúde
Aplicações do CursoAplicações do CursoControle de Coloração e Nível de TanquesControle de Braço mecânico com extração automática de regrasSistema de Análise de Seguro SaúdeAnálise de Crédito BancárioPrevisão da Classificação da VolatilidadePrevisão de Carga Elétrica Horária e 10 em 10 min.Previsão de produção de cacau“Clusterização” de Banco de Dados (países, imagens de satélite, etc)Análise de HipertensãoClassificação de clientes inadimplentesSistema de Avaliação de Risco BancárioSistema para definição de preço de produto novoConsultas Fuzzy a bancos de dados relacionaisAnálise de produção de empregados.
..Redes NeuraisRedesRedes Neurais Neurais
Redes NeuraisRedesRedes Neurais Neurais
Modelo Computacional inspirado nosneurônios biológicos e na estrutura docérebro com capacidade de adquirir,armazenar e utilizar conhecimento
experimental.
Neurônio BiológicoRede de Neurônios10 bilhões neurôniosAprendizadoGeneralizaçãoAssociaçãoReconhecimento dePadrões
Neurônio ArtificialEstrutura em Camadascentenas/milharesAprendizadoGeneralizaçãoAssociaçãoReconhecimento dePadrões
Relação com a NaturezaRelação com a NaturezaRelação com a Natureza
CérebroCérebro Redes Redes Neurais Neurais ArtificiaisArtificiais
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais Neurais
Dendritos
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais Neurais
Sinapses
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais Neurais
Dendritos Sinapses Dendritos
Axônio
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais Neurais
Sinapses Dendritos
Axônio
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais NeuraisNeurônio Artificial
w1
w2
w3
PesosSinapses Dendritos
Axônio
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais NeuraisNeurônio Artificial
w1
w2
w3
PesosPropagação
Sinapses Dendritos
Axônio
CorpoSomático
Neurônio Biológico
Redes NeuraisRedesRedes Neurais NeuraisNeurônio Artificial
w1
w2
w3
PesosPropagação Ativação
H 1I 1
Entrada Escondida
I 2
I 3
H 2
H 3
Estrutura da Rede NeuralEstrutura da RedeEstrutura da Rede Neural Neural
O 1
Saída
O 2
O 3
H 1I 1
Atividade
Neural
EntradaPesos
Escondida
I 2
I 3
H 2
H 3
Estrutura da Rede NeuralEstrutura da RedeEstrutura da Rede Neural Neural
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Pesos
Os pesos guardam o conhecimento (a memória)da Rede Neural.
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Alvo
Pesos
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
Alvo
w
w
w
w
w
w
w
w
w
w
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
EntradaPesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
Alvo
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
Dados para
Treinamento
H 1I 1
EntradaPesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
Erro = -w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
Pesos são ajustados de acordo com o erroencontrado .
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Alvo
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
Alvo
w
w
w
w
w
w
w
w
w
w
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
Alvo
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
Dados para
Treinamento
H 1I 1
EntradaPesos
Escondida
I 2
I 3
H 2
H 3
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Erro = -
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Alvo
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
Alvo
w
w
w
w
w
w
w
w
w
w
Pesos
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Dados para
Treinamento
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
Alvo
A Rede Neural é treinada até que o erro entre asaída da rede e o alvo seja satisfatório.
Treinamento da Rede NeuralTreinamento da RedeTreinamento da Rede Neural Neural
H 1I 1
Atividade
Neural
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
w
w
w
w
w
w
w
w
w
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
Pesos
Utilização da Rede NeuralUtilização da RedeUtilização da Rede Neural Neural
NOVO DADO NÃO APRESENTADODURANTE O TREINAMENTO
H 1I 1
Atividade
Neural
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
Utilização da Rede NeuralUtilização da RedeUtilização da Rede Neural Neural
NOVO DADO NÃO APRESENTADODURANTE O TREINAMENTO
H 1I 1
Atividade
Neural
NOVO DADO NÃO APRESENTADODURANTE O TREINAMENTO
Entrada
Pesos
Escondida
I 2
I 3
H 2
H 3
O 1
Saída
O 2
O 3
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
w
Pesos
A Rede Neural é capaz de generalizar e reconhecerpadrões distintos dos usados no treinamento.
Utilização da Rede NeuralUtilização da RedeUtilização da Rede Neural Neural Previsão de Séries TemporaisPrevisão de Séries Temporais
Séries temporais
janela
alvovalor
tempoEntradas da rede =n valorespassados
Saída Desejada =
valor da sériek passos à
frente
Ex: 5 valorespassados
Ex: valor umpasso à frente
Previsão de Séries TemporaisPrevisão de Séries Temporais
Séries temporais
janela
alvo
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da Rede Treinamento da Rede NeuralNeural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro= alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da Rede Treinamento da Rede NeuralNeural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro= alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro=alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janelaalvo
Ajuste dos pesosa partir do erroErro=alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro=alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro= alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janelaalvo
Ajuste dos pesosa partir do erroErro=alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Treinamento da RedeTreinamento da Rede Neural Neural
Séries temporais
janela
alvo
Ajuste dos pesosa partir do erroErro=alvo - previsto
Entradas da rede
Saída da rede:Valor previstoum passo à frente
Previsão de Valores FuturosPrevisão de Valores Futuros
Séries temporaisjanelaprevisto
Saída da rede:Valor previsto
Previsão de Valores FuturosPrevisão de Valores Futuros
Séries temporais janela previsto
Saída da rede:Valor previsto
Entradas da rede:inclui valoresprevistos pela Rede
Previsão de Valores FuturosPrevisão de Valores Futuros
Séries temporais
janela
previsto
Saída da rede:Valor previsto
Entradas da rede:inclui valoresprevistos pela Rede
AvaliaçãoAvaliaçãoAvaliaçãoTécnica utilizada em aplicações:
• reconhecimento de padrõesruidososruidosos e/ou incompletosincompletos;• e onde regras claras não não podemser facilmente formuladas; formuladas;•não necessita de explicação do explicação doresultado.resultado.
Vantagens
modelagem desistemas não linearesaprendizadoautomáticotolerante a dadosruidosos e incompletosresposta rápida eprecisamodelos compactos
AvaliaçãoAvaliaçãoAvaliação Desvantagens
ausência de explicaçõessensível a quantidade dedados disponíveltempo de treinamento podeser grande.
Aplicações IndustriaisAplicações IndustriaisAplicações Industriais
Racal: Identificação de placas de veículos
Thomson: Sistemas de OCR
St. George’s Hospital: Sistema de classificação de tumores
CRAM: Sistema automático de seleção de laranjas
Aplicações ComerciaisAplicações ComerciaisAplicações Comerciais
Fidelity Investments: Gerência de Fundos de Investimento ($2 bilhões)
Chase Manhattan Bank: Detecção de Fraudes em Cartões de Créditos
Citibank (USA): Avaliação de Crédito
Nikko Securities: Sistema de Negociação do Índice da Bolsa
Hill Samuel/UCL: Sistema de Previsão de Fundos de Investimento
Thorn EMI/UCL: Perfil do consumidor
Aplicações do CursoAplicações do Curso
Previsão de Demanda de Energia ElétricaPrevisão de Consumo de LubrificantesClassificação de Clientes (Data Mining)Enriquecimento de Banco de DadosAnálise de Crédito bancárioClassificação de Uso de Telefones (residencial e comercial)Análise de anomalias cardíacasReconhecimento de expressões faciaisInferência de derivados de petróleoClusterização de clientesClusterização de tipos de carvão
AlgoritmosGenéticosAlgoritmosAlgoritmosGenéticosGenéticos
Conceitos BásicosConceitos BásicosConceitos Básicos
Algoritmo de busca/otimizaçãobusca/otimizaçãoinspirado na seleção naturalseleção natural ereprodução genéticagenética.
Conceitos BásicosConceitos BásicosConceitos Básicos
Algoritmo de busca/otimizaçãoinspirado na seleção natural ereprodução genética.
Combina sobrevivência do mais aptosobrevivência do mais apto ecruzamentocruzamento aleatório de informação
IndivíduoCromossomaReprodução SexualMutaçãoPopulaçãoGeraçõesMeio Ambiente
SoluçãoRepresentaçãoOperador CruzamentoOperador MutaçãoConjunto de SoluçõesCiclosProblema
Analogia com a NaturezaAnalogia com a NaturezaAnalogia com a Natureza
Evolução NaturalEvolução Natural AlgAlg. Genéticos. Genéticos
Algoritmos Genéticos empregam umprocesso adaptativoadaptativo e paraleloparalelo de busca de
soluções em problemasproblemas complexoscomplexos.
Qual a finalidade de AlgoritmosGenéticos?
Qual a finalidade de AlgoritmosQual a finalidade de AlgoritmosGenéticos?Genéticos?
AdaptativoAdaptativo– informação corrente influencia a busca futura
ParaleloParalelo– várias soluções consideradas a cada momento
Problema ComplexoProblema Complexo– de difícil formulação matemática ou com grande
espaço de busca (grande número de soluções)
Qual a finalidade de AlgoritmosGenéticos?
Qual a finalidade de AlgoritmosQual a finalidade de AlgoritmosGenéticos?Genéticos? Exemplo:
Maximizar f (x) = x2 : encontrar x ∈ (0 ... 2 L -1) para f(x)=máx
2 L N ú m e r o d e P o n to sn o E s p a ç o
T e m p o d e B u s c a
L = 3 8 < 1 s e g
L = 1 0 1 0 2 4 < 1 s e g
L = 3 0 1 b ilh ã o 1 s e g
L = 9 0 1 0 2 7 1 5 b ilh õ e s d ea n o s
Problema ComplexoProblema ComplexoProblema Complexo
109 inst/seg
Exemplo:Maximizar f (x) = x2 : encontrar x ∈ (0 ... 2 L -1) para f(x)=máx
2 L N ú m e r o d e P o n to sn o E s p a ç o
T e m p o d e B u s c a
L = 3 8 < 1 s e g
L = 1 0 1 0 2 4 < 1 s e g
L = 3 0 1 b ilh ã o 1 s e g
L = 9 0 1 0 2 7 1 5 b ilh õ e s d ea n o s
Problema ComplexoProblema ComplexoProblema Complexo
109 inst/seg
Exemplo:Maximizar f (x) = x2 : encontrar x ∈ (0 ... 2 L -1) para f(x)=máx
2 L N ú m e r o d e P o n to sn o E s p a ç o
T e m p o d e B u s c a
L = 3 8 < 1 s e g
L = 1 0 1 0 2 4 < 1 s e g
L = 3 0 1 b ilh ã o 1 s e g
L = 9 0 1 0 2 7 1 5 b ilh õ e s d ea n o s
Problema ComplexoProblema ComplexoProblema Complexo
109 inst/seg
Exemplo:Maximizar f (x) = x2 : encontrar x ∈ (0 ... 2 L -1) para f(x)=máx
2 L N ú m e r o d e P o n to sn o E s p a ç o
T e m p o d e B u s c a
L = 3 8 < 1 s e g
L = 1 0 1 0 2 4 < 1 s e g
L = 3 0 1 b ilh ã o 1 s e g
L = 9 0 1 0 2 7 1 5 b ilh õ e s d ea n o s
Problema ComplexoProblema ComplexoProblema Complexo
109 inst/seg
Exemplo:Maximizar f (x) = x2 : encontrar x ∈ (0 ... 2 L -1) para f(x)=máx
2 L N ú m e r o d e P o n to sn o E s p a ç o
T e m p o d e B u s c a
L = 3 8 < 1 s e g
L = 1 0 1 0 2 4 < 1 s e g
L = 3 0 1 b ilh ã o 1 s e g
L = 9 0 1 0 2 7 1 5 b ilh õ e s d ea n o s
Problema ComplexoProblema ComplexoProblema Complexo
109 inst/seg
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
Busca de objetivo escondido em uma área
y0
Avaliação adapta a busca
(X0 , Y0) tá frio
x0
tesourotesouro
x
y
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
Busca de objetivo escondido em uma área
x1
y0
y1
Avaliação adapta a busca
(X0 , Y0) tá frio(X1 , Y1) tá morno
x0
tesourotesouro
x
y
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
Busca de objetivo escondido em uma área
x1x2
y0
y2
y1
Avaliação adapta a busca
(X0 , Y0) tá frio(X1 , Y1) tá morno(X2 , Y2) tá quente!
x0
tesourotesouro
x
y
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
tesourotesouroy
x
Área Muito Grande Busca Paralela
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
xxBBxxA A
yyA A
yy B B
tesourotesouroy
x
AA
BB
C
D E
Área Muito Grande Busca Paralela
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
xxBBxxA A
yyA A
yy B B
y
x
BB
C
D E
cruzamentocruzamento
AAtesourotesouro
Problema da Cabra CegaProblema da Cabra CegaProblema da Cabra Cega
xxBBxxA A
yyA A
yy B B
tesourotesouroy
x
BB
C
D E
cruzamentocruzamento
(xxBB , ,yyAA )FF
AA SeleçãoSeleção: privilegia os indivíduos mais aptos
Operações BásicasOperações BásicasOperações Básicas
Seleção: privilegia os indivíduos mais aptos
ReproduçãoReprodução: indivíduos (palavras binárias) sãoreproduzidos com base na aptidão
Operações BásicasOperações BásicasOperações Básicas
Seleção: privilegia os indivíduos mais aptos
Reprodução: indivíduos (palavras binárias) sãoreproduzidas com base na aptidão
CrossoverCrossover: troca de genes (pedaços de palavras)
Operações BásicasOperações BásicasOperações Básicas
Seleção: privilegia os indivíduos mais aptos
Reprodução: indivíduos (palavras binárias) sãoreproduzidas com base na aptidão
Crossover: troca de genes (pedaços de palavras)
MutaçãoMutação: troca aleatória de um gene (bit da palavra)
Operações BásicasOperações BásicasOperações Básicas
Problema:Achar o valor máximo para f (x) = x2 , x no limite de 0 a 63.
ExemploExemploExemplo
Problema:Achar o valor máximo para f (x) = x2 , x no limite de 0 a 63.
Representação da Solução:Palavras binárias representando sucessivas potências de 2.
011100 => Representa 28 110101 => Representa 53 (uma solução mais apta)
ExemploExemploExemplo Seleção em Algoritmos GenéticosSeleção em Algoritmos GenéticosSeleção em Algoritmos Genéticos
População
Cromossoma Palavra
A
B
C
D
100100010010
010110
000001
X
3618
22
1
Aptidão (x2 )
1296
324
484
1
Seleção em Algoritmos GenéticosSeleção em Algoritmos GenéticosSeleção em Algoritmos Genéticos
População
Cromossoma Palavra
A
B
C
D
100100010010
010110
000001
X
3618
22
1
Aptidão (x2 )
1296
484
1A
DC
B
Seleção
Probabilidade Aptidão do de Seleção Cromossoma
≈
324
Crossover
1 0 1 0 1 1
0 0 1 1 0 0
Operadores de Algoritmos GenéticosOperadores de Algoritmos GenéticosOperadores de Algoritmos Genéticos
Pais
Crossover
1 0 1 0 1 1 1 0 1 0 0 0
0 0 1 1 0 0 0 0 1 1 1 1
Operadores de Algoritmos GenéticosOperadores de Algoritmos GenéticosOperadores de Algoritmos Genéticos
Pais Filhos
Mutação
Crossover
0 1 1 1 0 0
0 1 0 1 0 0
1 0 1 0 1 1 1 0 1 0 0 0
0 0 1 1 0 0 0 0 1 1 1 1
Operadores de Algoritmos GenéticosOperadores de Algoritmos GenéticosOperadores de Algoritmos Genéticos
Pais Filhos
Antes
Depois
Cromossoma Palavra AptidãoA 100100 1296B 010010 324C 010110 484D 000001 1
Ciclo do Algoritmo GenéticoCiclo do Algoritmo GenéticoCromossoma Palavra Aptidão
A 100100 1296B 010010 324C 010110 484D 000001 1
Pais
Ciclo do Algoritmo GenéticoCiclo do Algoritmo Genético
Cromossoma Palavra AptidãoA 100100 1296B 010010 324C 010110 484D 000001 1
Pais
Reprodução
Crossover
Mutação
Ciclo do Algoritmo GenéticoCiclo do Algoritmo GenéticoCromossoma Palavra Aptidão
A 100100 1296B 010010 324C 010110 484D 000001 1
f( )
Pais
ReproduçãoFilhos
Avaliaçãodos Filhos
Crossover
Mutação
Ciclo do Algoritmo GenéticoCiclo do Algoritmo Genético
Cromossoma Palavra AptidãoA 100100 1296B 010010 324C 010110 484D 000001 1
f( )
Pais
ReproduçãoFilhos
Avaliaçãodos Filhos
Ciclo do Algoritmo GenéticoCiclo do Algoritmo Genético
Evolução
AvaliaçãoAvaliaçãoAvaliação
Técnica utilizada em aplicações:
• problemas complexoscomplexos de otimizaçãootimização;• problemas de difícil modelagemdifícil modelagemmatemática;•problemas com grande espaço degrande espaço debuscabusca.
Vantagens
Técnica de busca global
Otimização de problemasmal estruturadosDispensa formulaçãomatemática precisa doproblema
Desvantagens
Dificuldade narepresentação docromossoma
Evolução demorada emalguns problemas
Modelagem depende deespecialista em AG
AvaliaçãoAvaliaçãoAvaliação Aplicações IndustriaisAplicações IndustriaisAplicações Industriais
GENERAL ELECTRIC - Otimização de Projeto de Motores DC
BRITISH GAS - Otimização da Distribuição de Gás
BBN - Roteamento de Telecomunicações
ATTAR - Planejamento da Programação de TV
Aplicações ComerciaisAplicações ComerciaisAplicações Comerciais
CAP VOLMAC - Avaliação de Crédito e Análise de Risco
SEARCHSPACE - Detecção de Fraude na Bolsa de Londres
IOC - Planejamento dos Jogos Olímpicos
CAP Gemini - Avaliação de Empréstimos e Financiamentos
GWI - Modelagem Econômica
World Bank - Geração de Regras de Negociação na Bolsa
Aplicações do CursoAplicações do Curso
Extração de Conhecimento em Bancos deDados Comerciais (Data Mining)Otimização do Fluxo de Caixa de EmpresasOtimização de Carteira de AtivosPlanejamento do embarque de produtos emum portoOtimização da Exploração de umCampo de Petróleo
wwwwww.ICA.ele..ICA.ele.pucpuc-rio.br-rio.br