O objetivo do encontro dos 26 parceiros iniciais era avançar nos desafios prementes de segurança e proteção relacionados com a inteligência artificial e a aprendizagem automática. O ELSA está sediado no Laboratório Europeu de Aprendizagem e Sistemas Inteligentes (ELLIS), uma rede de excelência em IA reconhecida internacionalmente.
O consórcio discutiu as atividades planeadas para os próximos três anos. Como explicou o Dr. Mario Fritz, coordenador do projeto ELSA e professor do CISPA: “Queremos desenvolver inteligência artificial fiável. Isto significa que, no futuro, queremos que a IA seja utilizada de forma legal, ética e segura na Europa. A conceção destas tecnologias é da nossa responsabilidade, assim como desenvolver o seu impacto positivo na sociedade”.
No segundo dia, os investigadores participaram num workshop prático focado na definição dos seis casos de uso que serão estudados com mais detalhe ao longo do projeto ELSA. Os casos de utilização selecionados relacionam-se com aplicações-chave de IA e ML que servirão de referência para medir o progresso em técnicas e modelos de IA seguros.
Os casos de uso focam-se em:
SAÚDE.
A área da saúde é sensível e exige a máxima privacidade. O projeto ELSA centra-se nos dados médicos e na forma como a IA pode ser treinada com base nos mesmos, respeitando a privacidade em diferentes instituições.
CONDUÇÃO AUTÓNOMA
Os veículos autónomos são sistemas de segurança crítica. Não só devem ter um excelente desempenho, como também responder adequadamente a situações inesperadas. Isto pode incluir, por exemplo, condução inadequada, condições meteorológicas extremas ou acidentes. O projeto ELSA visa desenvolver ambientes de teste para avaliar a segurança destes métodos.
ROBÓTICA - APRENDENDO ATRAVÉS DA INTERAÇÃO HUMANA
Um dos objetivos da robótica é permitir que as máquinas aprendam continuamente e executem tarefas de forma independente, com ou mesmo sem assistência humana. Para atingir este objetivo, os modelos de aprendizagem automática que sustentam as máquinas inteligentes devem ser treinados com grandes quantidades de dados. O objetivo do projeto ELSA é garantir que os dados possam ser utilizados eficazmente no processo de aprendizagem sem violar a privacidade das pessoas.
ANÁLISE DOS MEDIA: A LUTA CONTRA A DESINFORMAÇÃO
Graças ao poder das técnicas modernas, os deepfakes são criados e disseminados mais facilmente nos media. Um deepfake é uma imagem ou vídeo criado através de inteligência artificial que aparenta ser autêntico quando, na verdade, não o é. Enquanto em anos anteriores as imagens geradas por IA continham indícios de falsificação, os resultados atuais são muito menos percetíveis. Este estudo de caso explora novas formas de compreender e detetar informações falsas.
CIBERSEGURANÇA - DETECÇÃO DE MALWARE
Proteger os dispositivos dos utilizadores finais é uma tarefa difícil e complexa. Muitas soluções antimalware dependem de machine learning e algoritmos de IA orientados por dados para combater o malware. Infelizmente, os atacantes podem contornar estas proteções atacando a própria IA. O projeto ELSA visa ultrapassar este problema, tornando os sistemas de deteção de malware baseados em IA mais resistentes a estes ataques ou eliminando alguns deles por completo.
INTELIGÊNCIA DE DOCUMENTOS
A extração automatizada de informação de documentos é um aspeto crucial das soluções de IA para empresas e é utilizada para a automatização de processos. A análise de informação documental leva a processos de tomada de decisão por IA que podem ter um impacto direto nos humanos. Ao mesmo tempo, os documentos contêm frequentemente informações privadas, o que limita o acesso às mesmas. O projeto ELSA visa desenvolver métodos para treinar modelos de aprendizagem automática em larga escala com dados privados e amplamente distribuídos, protegendo a privacidade humana.
Na quarta-feira, último dia do evento de lançamento, os participantes tiveram a oportunidade de conhecer a investigação uns dos outros numa sessão de pósteres. Os parceiros do ELSA apresentaram pósteres científicos sobre inteligência artificial e aprendizagem automática. Numa discussão final, foram resumidos os resultados dos últimos dias e consolidada a visão do ELSA – Farol Europeu para uma IA Segura e Protegida.
O Prof. O Dr. Mario Fritz concluiu: "Este foi um grande começo para o projeto ELSA em Barcelona. Estamos muito motivados para continuar a construir o centro virtual de excelência para a IA segura na Europa."
