Skip navigation
Please use this identifier to cite or link to this item: https://repositorio.unb.br/handle/10482/44406
Files in This Item:
File Description SizeFormat 
2022_FillipeBarrosRodrigues.pdf8,19 MBAdobe PDFView/Open
Full metadata record
DC FieldValueLanguage
dc.contributor.advisorGiozza, William Ferreira-
dc.contributor.authorRodrigues, Fillipe Barros-
dc.date.accessioned2022-08-03T22:00:05Z-
dc.date.available2022-08-03T22:00:05Z-
dc.date.issued2022-08-03-
dc.date.submitted2022-05-16-
dc.identifier.citationRODRIGUES, Fillipe Barros. Neural information extraction pipeline for cyber forensics with pre-trained language models. 2022. xvii, 113 f., il. Dissertação (Mestrado Profissional em Engenharia Elétrica) — Universidade de Brasília, Brasília, 2022.pt_BR
dc.identifier.urihttps://repositorio.unb.br/handle/10482/44406-
dc.descriptionDissertação (mestrado) — Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, Mestrado Profissional em Engenharia Elétrica, 2022.pt_BR
dc.description.abstractA investigação digital é uma tarefa desafiadora composta por várias etapas e procedimentos que são muitas vezes lentos e propensos a erros. Da coleta de informações à análise e comunicação de resultados, muitas subtarefas são dependentes de soluções tecnológicas que visam reduzir a sobrecarga de informações que os investigadores enfrentam. Algumas ferramentas forenses oferecem mecanismos para automatizar pesquisas e categorizações de objetos e dados relevantes, mas ainda não têm suporte para cenários complexos e dinâmicos, especialmente em aplicações de Big Data. A maioria desses dados não é estruturada, o que significa que é mais difícil organizar e encontrar insights significativos. Avanços recentes em Machine Learning (ML) e, mais especificamente, em Processamento de Linguagem Natural (NLP) trouxeram à existência novas arquiteturas e modelos de linguagem que podem ser usados para aumentar significativamente o desempenho de tarefas de Extração de Informações (IE), como Reconhecimento de Entidades Mencionadas (NER) e Extração de Relacionamentos (RE). Este trabalho propõe uma configuração reproduzível para construir, testar e ajustar um pipeline de extração de informação que pode ser aplicado a investigações forenses cibernéticas usando NLP de textos em diferentes idiomas. As tarefas de NER e RE são profundamente exploradas e discutidas, com base nos mais recentes modelos de linguagem natural, como BERT e RoBERTa. Também é discutido como otimizar o desempenho de um modelo de NLP ajustando seus hiperparâmetros, validando seu desempenho com métricas de avaliação padrão e comparações com benchmarks bem conhecidos. O pipeline proposto também é aplicado a diferentes cenários com exemplos hipotéticos mas realistas, culminando com a apresentação de grafos de conhecimento abrangentes para análise de informações. Os componentes do pipeline são organizados de forma que seja possível configurar classes de entidade e de relacionamento para diferentes domínios de aplicação com alterações mínimas, não limitadas ao contexto da análise forense cibernética nem a uma linguagem específica. Os resultados apresentados neste trabalho tanto para o português quanto para o inglês alcançaram níveis de desempenho do estado da arte seguindo as etapas propostas para cada tarefa, corroborando a ideia de que o processamento por etapas tem potencial para melhorar ainda mais o resultado final.pt_BR
dc.language.isoPortuguêspt_BR
dc.rightsAcesso Abertopt_BR
dc.titleNeural information extraction pipeline for cyber forensics with pre-trained language modelspt_BR
dc.title.alternativePipeline de extração de informações neurais para forense cibernética com modelos de linguagem pré-treinadospt_BR
dc.typeDissertaçãopt_BR
dc.subject.keywordExtração de informaçõespt_BR
dc.subject.keywordLinguagem natural - processamentopt_BR
dc.subject.keywordCibernética forensept_BR
dc.subject.keywordGrafos de conhecimentopt_BR
dc.contributor.advisorcoAlbuquerque, Robson de Oliveira-
dc.description.abstract1Digital investigation is a challenging task composed of several steps and procedures that are often slow and error-prone. From collection to analysis and reporting, many sub-tasks are dependent on technological solutions that aim to reduce the overhead of information the investigators face. Some forensic tools offer mechanisms to automate searches and categorizations of relevant objects and data, but they still lack support for complex and dynamic scenarios, especially regarding Big Data applications. Most of this data is unstructured, meaning it is harder to organize and find meaningful insights. Recent advances in Machine Learning (ML) and, more specifically, in Natural Language Processing (NLP) brought to existence new architectures and language models that can be used to significantly increase the performance of Information Extraction (IE) tasks, such as Named Entity Recognition (NER) and Relation Extraction (RE). This work proposes a reproducible setup to build, test and fine-tune an information extraction pipeline that can be applied to cyber forensics investigations using NLP of texts in different languages. The tasks of NER and RE are deeply explored and discussed, based on the latest state-of-the-art language models such as BERT and RoBERTa. It is also discussed how to optimize the performance of an NLP model by tuning its hyper-parameters, validating their performance with standard evaluation metrics and comparisons with well-known benchmarks. The proposed pipeline is also applied to different application scenarios with hypothetical yet realistic examples, culminating with the presentation of comprehensive knowledge graphs for structured information analysis. The components of the pipeline are organized in such a way that makes it possible to configure both entity and relationship classes for different application domains with minimal changes, not limited to the cyber forensics context nor a specific language. The results presented in this work for both Portuguese and English achieved state-of-the-art performance following the steps proposed for each task, corroborating the idea that staged processing has the potential to further improve the final result.pt_BR
Appears in Collections:ENE - Mestrado Profissional em Engenharia Elétrica (Dissertações)

Show simple item record Recommend this item " class="statisticsLink btn btn-primary" href="/handle/10482/44406/statistics">



Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.