Praktikum Implementierung in Forensik und Mediensicherheit

Transkript

1 Praktikum Implementierung in Forensik und Mediensicherheit Headline Erkennung und Segmentierung von PDF Dokumenten - Praktikumsbericht - Johannes Born & Gamze Canova Aufgaben und Lösungsansätze Anforderung 1 PDF Dokumentparsing und Segmentierung entsprechend der Headlines Das PDF Dokument soll segmentiert werden. Zur Bestimmung der Segmentierungsabschnitte sollen die Headlines (H1, H2,...) herangezogen werden. Besonders bei PDF Dokumenten ist diese Art von Parsing eine große Herausforderung, da PDF Dokumente üblicherweise keine Strukturtags wie Titel, Überschriften, Textabschnitte oder Grafiken enthalten. Es mag einige Ausnahmen geben, wo solche Strukturtags vom Verfasser manuell hinzugefügt wurden, wie z.b. mit InDesign 1 von Adobe, allerdings kann man nicht davon ausgehen, dass alle PDF Dokumente in solcher Weise getagt sind. Besprochen wurde, dass kein Classifier implementiert werden soll, um diese Aufgabe zu erfüllen, da dies den Rahmen eines Praktikums sprengen würde. Unsere Idee war die Überschriften anhand von Merkmalen wie Schriftgröße, Schriftart und Schrifttypen (Bold/Italic) ausfindig zu machen. Für die haben wir das Framework PDFBox verwendet. Wir haben es bspw. zum Parsen der PDF Dokumente benutzt, um die Dokumente Paragraph für Paragraph auszulesen. Diese Paragraphen wurden dann entsprechend mit TITLE, H1, H2, H3, TEXT oder MISC getagt. Da PDFBox leider einige Bugs enthielt, mussten wir an einigen Stellen Workarounds durchführen, damit das Programm unseren Vorstellungen entsprechend arbeiten konnte. Außerdem mussten wir einen Bugfix für PDFBox verwenden

2 Angefangen haben wir mit der Implementierung eines globalen Parsers, der ein PDF Dokument einliest und anhand der Merkmale eines Paragraphen (Schriftgröße, Schrifttyp) erkennt, ob es sich um eine Überschrift handelt, um welche Art von Überschrift es sich handelt, oder ob es sich um eine normale Textstelle handelt. Im Laufe des Praktikums haben wir gemerkt, dass es eine gute Idee wäre, Parser für bestimmte Konferenztemplates zu schreiben, wie z.b. ACM und IEEE. Anhand eines Classifiers kann dann bestimmt werden, um welches Template es sich handelt. Damit kann dann die entsprechende Parser Strategie aufgerufen werden. Da der Rahmen des Praktikums allerdings gesprengt werden würde, konnte noch kein Classifier zum Einsatz kommen. Aus diesem Grund muss nun über die GUI gewählt werden, um welches Template es sich beim Parsen handelt. Anforderung 2 Metadaten-Extrahierung Die Metadaten des PDF Dokuments sollen extrahiert werden. Ein PDF Dokument kann bspw. folgende Metadaten enthalten: Titel, Autor, Erstellungsdatum. Das PDFBox Framework bietet eine Schnittstelle an, um die Metadaten eines PDF Dokumentes zu erhalten. Das Problem bei der Metadatenextrahierung besteht darin, dass vom Erzeuger selten Metadaten eingetragen werden und diese daher oft keinen Wert (null) enthalten. Anforderung 3 Export Funktionen in JSON, XML, YAML, SQL, Plain Eine Export-Funktion in die obengenannten Formate soll zur Verfügung gestellt werden. Hierbei soll der SQL-Export lediglich ein Dump-Script sein, der zwei Tabellen erzeugt, jeweils für den Inhalt eines PDF Dokuments und für die Metadaten des Dokuments. Mit Export ins Plain-Format ist die Plaintext-Serialisierung gemeint. D.h. das geparste Dokument soll in Textdateien geschrieben werden, wobei die Ordnerstruktur des Segmentierung die Struktur des PDF-Dokumentes widerspiegeln soll.

3 Die Export-Formate JSON, XML und YAML konnten mit Hilfe des Frameworks realisiert werden. Insgesamt haben wir das Strategie Pattern verwendet, um in Abhängigkeit vom User Input die entsprechende Export-Strategie auszuführen. Anforderung 4 Batch Processing für die Export Funktion Das Exportieren von PDF Dokumenten soll als Batchjob möglich sein. D.h. der User kann eine Menge von PDF Dokumenten als Input geben. Als Output wird die entsprechende Menge von Export-Formaten zu den PDF Dokumenten erzeugt. Für den Batchjob wird die Exportfunktion auf alle PDF Dokumente, die sich direkt in dem angegebenen Ordner (und nicht dessen Unterordner) befinden, angewendet. Sollten sich in einem Ordner nicht-pdf Dokumente befinden, werden diese von dem Programm ignoriert. Anforderung 5 Graphical User Interface Die zur Verfügung stehenden Funktionen sollen über eine einfache graphische Benutzeroberfläche ausführbar sein. Die graphische Benutzeroberfläche enthält die Optionen Batchjob, Parse to GUI und Help. Unter Batchjob kann ein Verzeichnis mit PDF Dokumenten in ein vom User ausgewähltes Format exportiert werden. Unter Parse to GUI wählt der User ein einzelnes PDF Dokument aus, das geparst werden soll. Dieses wird in der GUI nach dem Parsen angezeigt, wobei links die Headlines stehen und bei Click auf die Headlines, in dem Mittleren Feld der entsprechende Text angezeigt wird. Rechts in der Spalte werden die Metadaten angezeigt. Dieses Dokument kann danach über den Button Export Document exportiert werden. Die GUI haben wir mit Hilfe des Java GUI Widget Toolkit gebaut. Schwierigkeiten und Verbesserungsbedarf Im Laufe des Praktikums sind wir auf eine Vielzahl von Problemen und Grenzen gestoßen, die uns daran gehindert haben das Programm optimal zu gestalten. Eines der größten Probleme war hier, dass PDF Dokumente aus historischen Gründen ein sehr unstrukturiertes Dokumentenformat aufweisen, da es nur auf die optimale Darstellung von Text und Bildern spezialisiert ist. Dabei

4 wurde keine feste und wohldefinierte Struktur verwendet, wie sie z.b. bei HTML zu finden ist. Diese Eigenschaft hat an vielen Stellen eine nicht optimale korrekte Segmentierung zu Folge. Zu dem kommt hinzu, dass selbst wenn ein PDF Dokument einem Template entspricht, die Autoren manchmal unsauber arbeiten. Bspw. vergessen sie den Punkt hinter der 1 bei 1. Introduction, was die Folge hat, dass solche Überschriften nicht erkannt werden. Man könnte eine Vielzahl solcher Kleinigkeiten abfangen, bei vielen haben wir das auch gemacht. Das Problem ist, dass das Hinzufügen solcher Ausnahmefälle wiederum Fehler in anderen Dokumenten provozieren kann. Lässt man beispielsweise 1 Introduction zu, könnten andere Teile des PDF Dokumentes fälschlicherweise als Überschrift erkannt werden. Schwierigkeiten Im Folgenden möchten wir auf die Schwierigkeiten unseres Programms eingehen und die Known Issues aufzählen: ACM und IEEE haben jeweils teilweise unterschiedliche Layouts. Wir haben die Standard Layouts als Templates implementiert. Wenn ein ACM oder IEEE PDF Dokument als Input gegeben wird, das dem implementierten Template nicht entspricht, werden auch keine Überschriften erkannt. Selbst wenn Autoren ein bestimmtes Layout verwenden, halten diese sich nicht immer streng an das vorgegebene Template. Dies führt leider dazu, dass Überschriften zum Teil nicht erkannt werden können, weil sie z.b. wie oben bereits erwähnt, keinen Punkt in der Überschrift verwenden. Das hat selbstverständlich zur Folge, dass die Ordnerstruktur beim Plain-Export nicht 100% der semantischen Struktur des PDFs entspricht. Der globale Parser (bezeichnet als Misc in der GUI) nimmt an, dass der Paragraph mit der größten Schriftgröße der Titel ist und dass Paragraphen mit der zweitgrößten Schriftgröße H1 sind, etc. Andere Faktoren, wie z.b. die Häufigkeit einer bestimmten Schriftgröße in den Paragraphen, sowie Schriftart, tragen ebenfalls zur Überschrifterkennung bei. Nun kann es in sehr wenigen Fällen vorkommen, dass zufällig andere Zeichen und Abschnitte, die z.b. in einer Formel vorkommen, häufiger vorkommen, als die Schriftgrößen der tatsächlichen Überschriften. Solch ein Zufall würde dazu führen, dass genau diese Abschnitte als Überschrift erkannt würden, da sie einfach häufiger vorkommen als die korrekte Überschrift. Kommt in einer Überschrift ein Sonderzeichen vor (eine nicht-zahl oder ein nicht- Buchstabe) wird diese von unserem regulären Ausdruck nicht erkannt, da wir Sonderzeichen ausschließen. Man könnte Sonderzeichen zulassen, was allerdings die Wahrscheinlichkeit für mögliche False Positives massiv erhöhen würde. An manchen Stellen sind wir mit PDFBox an unsere Grenzen gestoßen. Bspw. hat uns PDFBox bei manchen Dokumenten Überschrift und einen Teil des folgenden Textes als einzelnen Paragraphen zurückgegeben, sodass in diesem Fall die Erkennung der Überschrift nicht mehr möglich war. Wir haben uns mit alternativen Frameworks (itext, jpod) auseinander gesetzt, hatten aber keine in vertretbarer Zeit alternative in Sicht.

5 Textstellen wie Formeln können nur schwierig herausgefiltert werden. Das Problem hierbei war für uns vor allem: wenn in einem von PDFBox zurückgegebenen Paragraphen sowohl normaler relevanter Text, als auch irrelevante Textstellen vorhanden sind, wird mit Hilfe von der Häufigkeit der vorkommenden Schriftgrößen bestimmt, um welche Art von Text es sich hier handelt (MISC oder TEXT). Kommen zufällig mehr Zeichen vor, die als irrelevant interpretiert werden, wird der ganze Block als MISC getagt. Die Unterscheidung zwischen TEXT und MISC ist noch einmal eine Herausforderung für sich gewesen. Ansatzweise wurde dies gelöst, die Lösung ist allerdings nicht optimal. Hier besteht auf jeden Fall noch Verbesserungsbedarf. Verbesserungsvorschläge Im Folgenden möchten wir auf einige Verbesserungsvorschläge eingehen, die wir aus zeitlichen Gründen leider nicht mehr umsetzen konnten: Einsatz eines Classifiers zur Bestimmung des Templates, das für ein Dokument verwendet wird und Einsatz des entsprechenden Parsers. Dabei kann nach Features klassifiziert werden, die in einem bestimmten Textformat bereitgestellt werden. Dabei würde für H1, H2, H3, Title, Text und Misc die jeweiligen Features in einem JSON-String mit dem dazugehörigen Template als Trainingsdaten bzw. Eingabedaten verwendet. Leider kann bspw. unsaubere Arbeit der Autoren dazu führen, dass manche Überschriften nicht erkannt werden. Aber auch Inkonsistenzen wie das Weglassen der Kapitelnummer bei dem Abstract, der Introduction, oder Conclusion kommen oft vor (obwohl alle anderen Überschriften eine Kapitelnummer enthalten). Glücklicherweise kann man bei gewissen Schlagwörtern, wenn diese allein in einem Paragraph vorkommen, fest davon ausgehen, dass sie eine Überschrift der Form H1 sind. Hierzu gehören beispielsweise die Keywords Abstract, Zusammenfassung, Introduction, Einführung, Conclusion, Schlussfolgerung, Concluding Remarks, References, Referenzen und Appendix. D.h. man könnte eine Whitelist mit bestimmten Keywords einführen, die solche Paragraphen als Überschrift erkennen lässt. Häufig werden die Überschriften in PDF Dokumenten anhand der Kapitelnummern erkannt, die am Zeilenanfang vor ihnen stehen. Es kann vorkommen, dass ein Paragraph zufällig solch einem regulären Ausdruck entspricht. Dies kann zu False Positives führen, insbesondere bei Überschriften zweiter Ordnung, die das Format x.y aufweisen. Eine Möglichkeit wäre einen Counter anzulegen, der festhält bei welcher H1 Überschrift man sich im Moment findet. Und nur wenn die potentielle H2 Überschrift zur aktuellen H1 Überschrift passt, wird der Paragraph H2 getagt. Diese Vorgehensweise provoziert allerdings neue Fehler. Und zwar könnte eine H1 fälschlicherweise als H1 erkannt werden, was den Counter verfälschen würde. Genauso kann es dazu kommen, dass eine korrekte H1 Überschrift überhaupt nicht erkannt wird, was den Counter ebenfalls verfälschen würde. Ab dieser Stelle würden dann die Tagging Ergebnisse nicht mehr stimmen.

6 Schlussfolgerung Das Ergebnis unseres Praktikums ist, dass unser Programm für gut formatierte PDF Dokumente sehr gut funktioniert. Die große Herausforderung beim Parsen und vor allem beim Segmentieren von PDF Dokumenten ist, dass man ein PDF Dokument wie ein Bild betrachten kann, das von einem OCR Reader eingelesen wird. Es gibt Buchstaben etc. aber keine Struktur dahinter. Ein PDF Dokument färbt sozusagen Pixel an bestimmten Positionen, wie bei Bildern. Wir haben verschiedene Frameworks ausprobiert (itext, PDFBox, jpod) und PDFBox hat die besten Ergebnisse geliefert, hat allerdings auch Probleme bereitet. Wie schon oben erwähnt, mussten wir Bugfixes und Workarounds verwenden um auch bei schlecht formatierten PDF s einigermaßen vernünftige Ergebnisse zu erhalten.