Chat met documenten
De volgende stap in informatieverwerking
In plaats van te vertrouwen op openbare datasets en algemene kennis, genereert "Chat met Documenten" context-specifieke antwoorden en analyses op basis van jouw vertrouwde interne bronnen. Upload jouw documenten en gebruik deze documenten als basis voor het beantwoorden van vragen in de chat!
Oplossen van gegevensbeperkingen
Als je vragen stelt aan een taalmodel ben je afhankelijk van de dataset waarmee het model is getraind. Dit is over het algemeen informatie die van het internet is gehaald. Niet-openbare bronnen staan waarschijnlijk niet in deze dataset. Door jouw documenten als bron voor de chat te gebruiken, weet je zeker dat het model over de informatie beschikt die jij nodig hebt voor het beantwoorden van jouw vragen.
Mogelijkheden met jouw documenten
Je kunt vragen stellen over jouw documenten zoals het opnoemen van de hoofdpunten van een document of het samenvatten van het document. Ook kun je specifieke analyses laten uitvoeren door het taalmodel met behulp van jouw eigen dataset.
Nadelen van documentgebaseerd chatten
Het uploaden van documenten en het verwerken hiervan zijn extra stappen die je niet hoeft te zetten als je ook zonder de context van specifieke informatie prima antwoord kunt krijgen. Ook duurt het langer om een antwoord te genereren omdat er eerst de benodigde informatie uit het document moet worden opgehaald voordat het verzoek naar het taalmodel kan worden gestuurd.
Achter de schermen van chatten met documenten
De tekst uit de documenten die jij uploadt, wordt uit het document gehaald en opgedeeld in stukken. Deze stukken hebben een vast aantal tekens (1024 tekens) en we hebben ook een overlap ingesteld (128 tekens) tussen de stukken. Elk brokje tekst wordt opgeslagen als een vector in een vector database. Bij elke vraag wordt uit deze gegevens een selectie gemaakt op basis van gelijkenis met de vraag die wordt gesteld.
Selectieproces van documentfragmenten
De stukjes tekst zijn al omgezet in vectoren. Vectoren hebben meerdere dimensies die aangeven hoe “gelijk” deze tekst is aan andere tekst. Denk aan het RGB kleurensysteem. Een kleur met een vergelijkbare RGB waarde is ook een vergelijkbare kleur maar net anders. De vector database stelt ons dus in staat om de stukken tekst gerangschikt en gefilterd op te halen op basis van de vraag die wordt gesteld. We selecteren maximaal 100 stukken tekst van 1024 tekens om mee te sturen met de vraag.
Geschikte modellen voor documentgebaseerd chatten
We hebben modellen geselecteerd met een groot contextvenster om het mogelijk te maken om te chatten met documenten. We willen maximaal 100 stukken tekst van 1024 tekens mee kunnen sturen. Dit zijn meer dan 100.000 tekens. Gebruik hiervoor bij voorkeur een hoogwaardig taalmodel uit de centrale modelcatalogus.
Geschikte modellen zijn modellen met voldoende contextruimte en goede documentanalyse, zoals de hoge-kwaliteitmodellen van OpenAI, Claude, Google of Europese AI.
Selecteer een of meerdere documenten
Je kunt de bestandsmodus aanzetten door op de paperclip te klikken aan de rechterkant van de vraagbalk. Je kunt dat tot 10 bestanden kiezen om mee te chatten.
Bestanden die je uploadt worden eerst verwerkt. Zodra de verwerking klaar is, kan AI-School de inhoud gebruiken in de chat, in assistenten en in workflows. Als de verwerking mislukt, krijgt het bestand een foutstatus en moet je het bestand opnieuw uploaden of opnieuw laten verwerken.
Op het moment dat je gaat chatten met documenten, wordt gecontroleerd of het taalmodel geschikt is voor chatten met documenten. Als dit niet het geval is, dan wordt automatisch een geschikt model uit de actuele catalogus geselecteerd.
Je chat met deze documenten zolang de bestandsmodus aanstaan.
Bestanden beheren en opnieuw verwerken
In Bestandsbeheer zie je de bestanden die je hebt geupload of die door AI-School zijn gemaakt. Bij PDF-bestanden kun je via het actiemenu een bestand opnieuw verwerken. Dit vervangt de bestaande tekstextractie door een nieuwe verwerking.
Bij PDF's kan AI-School de gewone tekstlaag gebruiken en, wanneer dat nodig is, een uitgebreidere PDF-analyse uitvoeren. Deze analyse is vooral nuttig bij:
- gescande PDF's
- ingevulde formulieren
- handgeschreven antwoorden
- omcirkelde of onderstreepte keuzes
- tabellen, figuren en andere visuele informatie
Bij grote PDF's kan de verwerking langer duren. AI-School splitst grote documenten waar nodig op in delen, zodat ook langere PDF's verwerkt kunnen worden.
Bestaande bestanden kiezen
Wanneer een formulier of workflow om een bestand vraagt, kun je niet alleen nieuwe bestanden uploaden, maar ook bestaande bestanden kiezen via de mediabeheerder. Zo hoef je een toets, nakijkmodel of ander brondocument niet telkens opnieuw te uploaden.
Bestanden die via zo'n formulier worden toegevoegd, verschijnen bij de assistentbestanden van de chat. Ze worden niet automatisch geselecteerd voor gewone chatvragen, tenzij je ze daar zelf inschakelt.
Per bestand verwerken
Naast het chatten met documenten, biedt AI-School ook de mogelijkheid om een prompt apart toe te passen op elk document en individuele antwoorden te ontvangen. Deze functie heet Per bestand verwerken.
Deze functie kan worden gebruikt in combinatie met "Chat met bestanden".
Mogelijk scenario
Een praktisch voorbeeld van het gebruik van "Per bestand verwerken":
- Je uploadt de toets en het antwoordmodel en zet deze aan bij Chat met bestanden
- Je uploadt meerdere ingeleverde toetsen en zet deze aan bij Per bestand verwerken
- Je formuleert een prompt, die toegepast wordt op alle bestanden individueel van elkaar
Op deze manier kun je bijvoorbeeld alle ingeleverde toetsen automatisch laten beoordelen op basis van het antwoordmodel.
Er geldt een maximum van 30 bestanden voor de functie "Per bestand verwerken".
Ondersteunde bestandstypen
AI-School ondersteunt verschillende bestandstypen voor het chatten met documenten:
- PDF bestanden uitkomend op .pdf
- Word bestanden uitkomend op .docx
- CSV bestanden uitkomend op .csv
- JSON bestanden uitkomend op .json
- Tekst bestanden uitkomend op .txt
- Markdown bestanden uitkomend op .md
- Audio en video bestanden met de extensies 'mp3', 'mp4', 'mpeg', 'mpga', 'm4a', 'wav' of 'webm'
Chatten met audio of video bestanden
Voor het chatten met audio of video bestanden, maakt AI-School gebruik van OpenAI's model Whisper.
Na tekstextractie kan een geschikt tekstmodel worden gebruikt om interpunctie en spelling te controleren en te corrigeren.
Daarna volgt dezelfde procedure als extractie uit PDF of Word documenten.
Whisper heeft een limiet van 25 MB per audio of video bestand. Wij hanteren daarom dezelfde limiet bij het uploaden van nieuwe bestanden.