Benutzerdefinierten Klassifikator für die Dokumentklassifizierung erstellen, verwenden und verwalten

Hinweise

Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Document AI, Cloud Storage APIs.

Enable the APIs

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Document AI, Cloud Storage APIs.

Enable the APIs

Prozessor erstellen

Gehen Sie folgendermaßen vor:

1. Workbench

2. Wählen Sie unter für einen benutzerdefinierter Dokument-Klassifikator die Option Prozessor erstellen.

   

3. Geben Sie im Menü Prozessor erstellen einen Namen für den Prozessor ein, z. B. my-custom-document-classifier.

   

4. Wählen Sie die Region aus, die Ihnen am nächsten ist.

5. Wählen Sie Erstellen aus. Der Tab Details zum Prozessor wird angezeigt.

Dataset konfigurieren

Zum Trainieren dieses neuen Prozessors müssen Sie ein Dataset mit Trainings- und Testdaten erstellen, damit der Prozessor die zu klassifizierenden und aufzuteilenden Dokumente leichter identifizieren kann. Für dieses Dataset ist ein neuer Speicherort erforderlich. Dies kann ein leerer Cloud Storage-Bucket oder -Ordner sein oder Sie können einen intern verwalteten Standort zulassen.

Wenn der Tab Prozessordetails angezeigt wird, können Sie Folgendes tun:

1. Wählen Sie Von Google verwalteter Speicher aus, wenn Sie Cloud Storage verwenden möchten.
2. Wählen Sie Ich gebe meinen eigenen Speicherort an aus, wenn Sie Ihren eigenen Speicher und kundenverwaltete Verschlüsselungsschlüssel (CMEKs) verwenden möchten. Folgen Sie dann der Anleitung unter Dataset erstellen.



Dokumente in ein Dataset importieren

Als Nächstes importieren Sie Ihre Dokumente in Ihr Dataset.

1. Wählen Sie im Tab Erstellen die Option Dokumente importieren aus.

   

2. Wenn Sie einen Speicher-Bucket verwenden möchten, müssen Sie den Quellpfad für den Bucket eingeben. In diesem Trainings-Beispiel geben Sie diesen Bucket-Namen unter Quellpfad ein. Dadurch wird direkt auf ein Dokument verwiesen.

   cloud-samples-data/documentai/Custom/Patents/PDF/computer_vision_20.pdf
   

3. Wählen Sie für Datenaufteilung die Option Nicht zugewiesen. Das Dokument in diesem Ordner ist nicht dem Test- oder Trainings-Dataset zugewiesen. Das Häkchen bei Mit automatischem Labeling importieren darf nicht gesetzt sein.

4. Wählen Sie Importieren aus. Document AI liest die Dokumente aus dem Bucket in das Dataset. Der Import-Bucket wird nicht geändert und es wird nicht aus dem Bucket gelesen, nachdem der Import abgeschlossen ist.

5. Optional: Wenn Sie importierte Dokumente löschen möchten, gehen Sie auf dem Tab Erstellen zu Dataset verwalten > Dokumente auswählen > und klicken Sie auf Löschen.

Wenn Sie Dokumente importieren, können Sie die Dokumente entweder dem beim Importieren festgelegten Training oder Test zuweisen oder die Zuweisungen später vornehmen.

Weitere Informationen zur Vorbereitung Ihrer Daten für den Import finden Sie im Leitfaden zur Datenvorbereitung.

Prozessorschema definieren

Sie können das Prozessorschema entweder vor oder nach dem Importieren von Dokumenten in Ihr Dataset erstellen. Das Schema enthält Labels, mit denen Sie Dokumente mit Anmerkungen versehen können.

1. Wählen Sie auf dem Tab Erstellen die Option Dataset verwalten > Schema bearbeiten aus. Die Seite Schema bearbeiten wird geöffnet.

2. Label erstellen auswählen:

3. Geben Sie einen Namen für das Label ein.

4. Wählen Sie Erstellen aus. Eine ausführliche Anleitung zum Erstellen und Bearbeiten eines Schemas finden Sie in Prozessorschema definieren.

5. Erstellen Sie folgende Labels für das Prozessorschema.

   • computer_vision
   • crypto
   • med_tech
   • other

6. Wählen Sie abschließend die Option Speichern aus.

   

Dokument mit Label versehen

Das Auswählen von Text in einem Dokument und das Anwenden von Labels wird als Annotation bezeichnet.

1. Kehren Sie zum Tab Erstellen zurück und wählen Sie ein Dokument aus, um die Konsole Dataset verwalten zu öffnen.

2. Wählen Sie aus den Optionen das entsprechende Label für das Dokument aus. Wenn Sie das bereitgestellte Beispieldokument verwenden, wählen Sie computer_vision aus.

   Das mit einem Label versehene Dokument sollte so aussehen:

3. Wählen Sie Als „Mit Label versehen“ markieren aus, wenn Sie das Dokument fertig annotiert haben.

   Auf dem Tab Dataset verwalten wird im Bereich Dokument angezeigt, dass ein Dokument mit einem Label versehen wurde.

Dem Trainingsset ein kommentiertes Dokument zuweisen

Nachdem Sie dieses Beispieldokument mit einem Label versehen haben, können Sie es dem Trainingsset zuweisen.

1. Klicken Sie auf dem Tab Dataset verwalten auf das Kästchen Alle auswählen.

2. Wählen Sie in der Drop-down-Liste Zu Set zuweisen Training aus.

Im Bereich Dokumente ist zu sehen, dass dem Trainingsset ein Dokument zugewiesen wurde.

Mit Labels versehene Daten in Trainings- und Testsets importieren

In diesem Leitfaden finden Sie vorab mit Label versehene Daten. Wenn Sie an Ihrem eigenen Projekt arbeiten, müssen Sie festlegen, wie Ihre Daten mit Labels versehen werden sollen. Weitere Informationen zu Labeling-Optionen.

Benutzerdefinierte Document AI-Prozessoren benötigen sowohl im Trainings- als auch im Testset mindestens ein Dokument pro zu labelndem Dokumenttyp. Für eine optimale Leistung empfehlen wir, mindestens 10 Dokumente pro Label zu nutzen. Bei 5 Labels benötigen Sie 50 Dokumente zum Trainieren und 50 zum Testen. Mehr Trainingsdaten führen in der Regel zu einer höheren Genauigkeit.

1. Dokumente importieren auswählen.

2. Geben Sie unter Quellpfad den folgenden Pfad ein. Dieser Bucket enthält Dokumente mit Labels im Document JSON-Format.

   cloud-samples-data/documentai/Custom/Patents/JSON/Classification-InventionType
   

3. Wählen Sie in der Drop-down-Liste Datenaufteilung die Option Automatisch aufteilen. Dadurch werden die Dokumente automatisch so aufgeteilt, dass 80 % im Trainingsset und 20 % im Testset enthalten sind. Ignorieren Sie den Abschnitt Labels anwenden.

4. Wählen Sie Importieren aus. Der Import kann mehrere Minuten dauern.

Sobald der Import abgeschlossen ist, finden Sie die Dokumente auf dem Tab Dataset verwalten.

Dokumente beim Import im Batch mit Labels versehen

Nachdem Sie das Schema konfiguriert haben, können Sie alle Dokumente, die sich in einem bestimmten Verzeichnis befinden, beim Import mit Labels versehen, um Zeit beim Labeling zu sparen.



1. Dokumente importieren auswählen.

2. Geben Sie unter Quellpfad den folgenden Pfad ein. Dieser Bucket enthält Dokumente ohne Label im PDF-Format.

   cloud-samples-data/documentai/Custom/Patents/PDF-CDC-BatchLabel
   

3. Wählen Sie in der Drop-down-Liste Datenaufteilung die Option Automatisch aufteilen. Dadurch werden die Dokumente automatisch so aufgeteilt, dass 80 % im Trainingsset und 20 % im Testset enthalten sind.

4. Wählen Sie im Bereich Labels anwenden die Option Label auswählen aus.

5. Wählen Sie für diese Beispieldokumente other aus.

6. Wählen Sie Importieren aus und warten Sie, bis der Vorgang abgeschlossen ist. Sie können diese Seite in der Zwischenzeit verlassen und später wieder zurückkehren. Anschließend finden Sie die Dokumente mit dem angewendeten Label auf dem Tab Dataset verwalten.

Prozessor trainieren

Nachdem Sie die Trainings- und Testdaten importiert haben, können Sie den Prozessor trainieren. Da das Training mehrere Stunden dauern kann, sollten Sie den Prozessor mit den entsprechenden Daten und Labels einrichten, bevor Sie mit dem Training beginnen.

Sie können feinabgestimmte und benutzerdefinierte Modelle mit Ihren gelabelten Daten trainieren. Für feinabgestimmte Modelle wird generative KI verwendet. Bei benutzerdefinierten Modellen wird ein einzigartiges Large Language Model mit Ihren Daten mit Labels trainiert. Sie benötigen mindestens zwei Labels im Schema, mit empfohlenen zehn Trainingsdokumenten und zehn Testdokumenten (mindestens eins).

1. Wählen Sie Neue Version trainieren aus.



1. Geben Sie im Feld Versionsname einen Namen für diese Prozessorversion ein, z. B. my-cdc-version-1.

2. Optional: Wählen Sie Labelstatistiken anzeigen, um Informationen zu den Dokumentlabels aufzurufen, die Ihnen bei der Bestimmung der Abdeckung helfen können. Wählen Sie Schließen, um zur Trainingseinrichtung zurückzukehren.

3. Wählen Sie Training starten aus. Sie können den Status in der Seitenleiste prüfen.

Prozessorversion bereitstellen

1. Wechseln Sie nach Abschluss des Trainings zum Tab Versionen verwalten. Sie können sich Details zur gerade trainierten Version ansehen.

2. Wählen Sie neben der Version, die Sie bereitstellen möchten, das more_vert aus und wählen Sie Version bereitstellen.

3. Wählen Sie im Dialogfeld Bereitstellen aus.

   Die Bereitstellung kann mehrere Minuten dauern.

Prozessor bewerten und testen

1. Wechseln Sie nach Abschluss der Bereitstellung zum Tab Bewerten und Testen.

   Auf dieser Seite sehen Sie Bewertungsmesswerte wie den F1-Wert, die Genauigkeit und die Trefferquote für das gesamte Dokument sowie einzelne Labels. Weitere Informationen zu Auswertungen und Statistiken finden Sie in Prozessor auswerten.

2. Laden Sie ein Dokument herunter, das nicht an vorherigen Trainings oder Tests beteiligt war, damit Sie es zur Bewertung der Prozessorversion verwenden können. Wenn Sie eigene Daten nutzen, verwenden Sie ein speziell dafür gedachtes Dokument.

   file_download PDF herunterladen

3. Wählen Sie Testdokument hochladen und wählen Sie das Dokument aus, das Sie gerade heruntergeladen haben.

   Die Seite Analyse des benutzerdefinierten Dokumentklassifikators wird geöffnet. Die Ausgabe zeigt, wie gut das Dokument klassifiziert wurde.

   Sie können die Bewertung auch noch einmal mit einem anderen Testset oder einer anderen Prozessorversion ausführen.

Neu importierte Dokumente automatisch mit Labels versehen

Nachdem Sie eine trainierte Prozessorversion bereitgestellt haben, können Sie mithilfe der automatischen Labelerstellung beim Importieren neuer Dokumente Zeit bei der Labelerstellung sparen.

1. Klicken Sie auf der Seite Dataset verwalten auf Dokumente importieren.

2. Kopieren Sie den folgenden Cloud Storage-Pfad und fügen Sie ihn ein. Dieses Verzeichnis enthält fünf Rechnungs-PDFs ohne Labels. Wählen Sie in der Drop-down-Liste Datenaufteilung die Option Training aus.

   cloud-samples-data/documentai/Custom/Patents/PDF-CDC-AutoLabel
   

3. Wählen Sie im Bereich Labels anwenden die Option Automatisches Labeling aus.

4. Wählen Sie eine vorhandene Prozessorversion aus, um den Dokumenten Labels hinzuzufügen.

   • Beispiel: 2af620b2fd4d1fcf

5. Wählen Sie Importieren aus und warten Sie, bis der Vorgang abgeschlossen ist. Sie können diese Seite in der Zwischenzeit verlassen und später wieder zurückkehren. Anschließend werden die Dokumente auf der Seite Dataset verwalten im Bereich Automatisch mit Label versehen angezeigt.

6. Automatisch mit Labels versehene Dokumente können nicht für Trainings- oder Testzwecke verwendet werden, ohne sie als „Mit Label versehen“ zu markieren. Rufen Sie den Bereich Automatisch mit Label versehen auf, um die automatisch gekennzeichneten Dokumente anzusehen.

7. Wählen Sie das erste Dokument aus, um die Labeling-Konsole aufzurufen.

8. Prüfen Sie, ob das Label korrekt ist. Korrigieren Sie es, falls ein Fehler vorliegt.

9. Wenn Sie fertig sind, wählen Sie Als „Mit Label versehen“ markieren aus.

10. Wiederholen Sie die Labelprüfung für jedes Dokument mit automatisch hinzugefügten Labels und kehren Sie dann zur Seite Dataset verwalten zurück, um die Daten für das Training zuzuweisen.

Prozessor verwenden

Sie können Ihre benutzerdefiniert trainierten Prozessorversionen wie jede andere Prozessorversion verwalten. Weitere Informationen finden Sie in Prozessorversionen verwalten.

Sie können eine Verarbeitungsanfrage an Ihren benutzerdefinierten Prozessor senden. Die Antwort wird wie die anderer Klassifikatorprozessoren verarbeitet.

Bereinigen

Mit den folgenden Schritten vermeiden Sie, dass Ihrem Google Cloud -Konto die auf dieser Seite verwendeten Ressourcen in Rechnung gestellt werden:

1. Wählen Sie im Google Cloud Navigationsmenü der Console Document AI und dann Meine Prozessoren aus.

2. Wählen Sie in der Zeile, in der sich der zu löschende Prozessor befindet, Weitere Aktionen aus.

3. Wählen Sie Prozessor löschen aus, geben Sie den Namen des Prozessors ein und wählen Sie zur Bestätigung noch einmal Löschen aus.

Nächste Schritte

• Weitere Informationen finden Sie unter Leitfäden.
• Sehen Sie sich die Liste der Prozessoren an.
• Mit dem Layout-Parser können Sie Dokumente in lesbare Blöcke unterteilen.
• Verwenden Sie Enterprise Document OCR, um Text zu erkennen und zu extrahieren.