RAG-Einstellungen
Embedding-Modell, Chunk-Größe, Dokumentenspeicher & Grenzen – so beeinflussen die Einstellungen die Trefferqualität.
Wie RAG von Ihren Einstellungen abhängt
RAG (Retrieval-Augmented Generation) lässt die KI Antworten auf Grundlage Ihrer eigenen Dokumente geben. Damit das zuverlässig funktioniert, zerlegt Sovereign AI hochgeladene Dokumente in Abschnitte (Chunks), wandelt diese mit einem Embedding-Modell in durchsuchbare Vektoren um & legt sie im Dokumentenspeicher ab. Ihre Einstellungen entscheiden mit, wie gut die KI später die passenden Stellen findet.
Wählen Sie möglichst ein selbst gehostetes Embedding-Modell. Dann werden auch die Inhalte Ihrer Dokumente ausschließlich im Haus verarbeitet & nicht an einen externen Dienst übertragen.
Die wichtigsten Stellschrauben
Die folgende Tabelle fasst die zentralen Einstellungen, ihre Wirkung & eine praxistaugliche Empfehlung zusammen.
| Einstellung | Wirkung | Empfehlung |
|---|---|---|
| Embedding-Modell | Bestimmt Qualität & Sprache der Suche; ein Wechsel erfordert Neu-Indexierung. | Selbst gehostet & mehrsprachig; nach Wechsel Dokumente neu einlesen. |
| Chunk-Größe | Große Chunks liefern mehr Kontext, verwässern aber die Treffer; kleine sind präziser, aber fragmentierter. | Mittlere Größe als Start, an typische Dokumentlänge anpassen. |
| Überlappung | Verhindert, dass Sinnzusammenhänge an Chunk-Grenzen zerrissen werden. | Moderate Überlappung, damit Sätze nicht verloren gehen. |
| Dokumentenspeicher | Ort der Vektoren & Originaldateien; bestimmt Kapazität & Datenhoheit. | Im Haus betreiben & in die Datensicherung aufnehmen. |
| Dateiformate | Legt fest, welche Uploads verarbeitet werden (z. B. PDF, Text, Office). | Nur benötigte Formate zulassen; unbekannte bewusst ausschließen. |
| Max. Dateigröße | Begrenzt sehr große Uploads, die Indexierung & Speicher belasten. | Sinnvolle Obergrenze setzen & bei Bedarf anpassen. |
Auswirkung auf die Trefferqualität
Passt die Chunk-Größe nicht zu Ihren Dokumenten, leidet die Trefferqualität spürbar: Zu große Abschnitte liefern viel Beiwerk um die eigentlich relevante Stelle, zu kleine reißen Zusammenhänge auseinander. Die Überlappung federt Grenzfälle ab. Ändern Sie das Embedding-Modell, müssen bestehende Dokumente neu eingelesen werden, da alte & neue Vektoren nicht vergleichbar sind.
Ändern Sie das Embedding-Modell nicht im laufenden Betrieb ohne Plan. Bereits indexierte Dokumente liefern dann unbrauchbare Treffer, bis sie vollständig neu eingelesen wurden.
Verwandtes
RAG settings
Embedding model, chunk size, document store & limits – how the settings shape retrieval quality.
How RAG depends on your settings
RAG (retrieval-augmented generation) lets the AI answer based on your own documents. For this to work reliably, Sovereign AI splits uploaded documents into sections (chunks), turns them into searchable vectors with an embedding model & stores them in the document store. Your settings help decide how well the AI later finds the right passages.
Choose a self-hosted embedding model where possible. Then the contents of your documents are processed exclusively in-house & not transmitted to an external service.
The key adjustment points
The table below summarises the central settings, their effect & a practical recommendation.
| Setting | Effect | Recommendation |
|---|---|---|
| Embedding model | Determines search quality & language; a change requires re-indexing. | Self-hosted & multilingual; re-import documents after a change. |
| Chunk size | Large chunks give more context but dilute matches; small ones are more precise but more fragmented. | Medium size to start, adjust to typical document length. |
| Overlap | Prevents meaning from being torn apart at chunk boundaries. | Moderate overlap so sentences are not lost. |
| Document store | Location of vectors & original files; determines capacity & data sovereignty. | Run in-house & include in your backups. |
| File formats | Defines which uploads are processed (e.g. PDF, text, Office). | Allow only needed formats; deliberately exclude unknown ones. |
| Max. file size | Limits very large uploads that burden indexing & storage. | Set a sensible upper limit & adjust as needed. |
Effect on retrieval quality
If the chunk size does not fit your documents, retrieval quality suffers noticeably: sections that are too large bring a lot of filler around the actually relevant passage, while ones that are too small tear context apart. Overlap cushions borderline cases. If you change the embedding model, existing documents must be re-imported, because old & new vectors are not comparable.
Do not change the embedding model in live operation without a plan. Already indexed documents then return unusable matches until they have been fully re-imported.
Verwandtes
Paramètres RAG
Modèle d'Embedding, taille des chunks, stockage des documents & limites – comment les paramètres influencent la qualité des résultats.
Comment le RAG dépend de vos paramètres
Le RAG (Retrieval-Augmented Generation) permet à l'IA de fournir des réponses fondées sur vos propres documents. Pour que cela fonctionne de manière fiable, Sovereign AI découpe les documents téléversés en sections (chunks), les convertit à l'aide d'un modèle d'Embedding en vecteurs interrogeables & les dépose dans le stockage des documents. Vos paramètres contribuent à déterminer avec quelle qualité l'IA retrouvera ensuite les passages appropriés.
Choisissez de préférence un modèle d'Embedding auto-hébergé. Ainsi, le contenu de vos documents est lui aussi traité exclusivement dans la maison & n'est pas transmis à un service externe.
Les principaux réglages
Le tableau suivant résume les paramètres centraux, leur effet & une recommandation adaptée à la pratique.
| Paramètre | Effet | Recommandation |
|---|---|---|
| Modèle d'Embedding | Détermine la qualité & la langue de la recherche ; un changement nécessite une réindexation. | Auto-hébergé & multilingue ; après un changement, réimporter les documents. |
| Taille des chunks | Les grands chunks apportent plus de contexte, mais diluent les résultats ; les petits sont plus précis, mais plus fragmentés. | Taille moyenne au départ, à adapter à la longueur typique des documents. |
| Chevauchement | Empêche que les liens de sens soient rompus aux limites des chunks. | Chevauchement modéré, afin que les phrases ne soient pas perdues. |
| Stockage des documents | Lieu des vecteurs & des fichiers originaux ; détermine la capacité & la souveraineté des données. | Exploiter dans la maison & inclure dans la sauvegarde des données. |
| Formats de fichiers | Définit quels téléversements sont traités (p. ex. PDF, texte, Office). | N'autoriser que les formats nécessaires ; exclure sciemment les inconnus. |
| Taille max. de fichier | Limite les téléversements très volumineux qui pèsent sur l'indexation & le stockage. | Fixer une limite supérieure judicieuse & l'ajuster au besoin. |
Incidence sur la qualité des résultats
Si la taille des chunks ne correspond pas à vos documents, la qualité des résultats en pâtit sensiblement : des sections trop grandes apportent beaucoup d'accessoire autour du passage réellement pertinent, des sections trop petites déchirent les liens. Le chevauchement amortit les cas limites. Si vous changez le modèle d'Embedding, les documents existants doivent être réimportés, car les anciens & les nouveaux vecteurs ne sont pas comparables.
Ne changez pas le modèle d'Embedding en cours d'exploitation sans plan. Les documents déjà indexés fourniront alors des résultats inutilisables, jusqu'à ce qu'ils aient été entièrement réimportés.
Rubriques connexes
Ustawienia RAG
Model Embedding, rozmiar chunków, repozytorium dokumentów & granice – tak ustawienia wpływają na jakość trafień.
Jak RAG zależy od Twoich ustawień
RAG (Retrieval-Augmented Generation) pozwala AI udzielać odpowiedzi na podstawie Twoich własnych dokumentów. Aby działało to niezawodnie, Sovereign AI rozkłada przesłane dokumenty na fragmenty (chunki), przekształca je za pomocą modelu Embedding w przeszukiwalne wektory & umieszcza je w repozytorium dokumentów. Twoje ustawienia współdecydują o tym, jak dobrze AI odnajdzie później pasujące fragmenty.
Wybieraj w miarę możliwości hostowany samodzielnie model Embedding. Wtedy również treści Twoich dokumentów są przetwarzane wyłącznie wewnątrz firmy & nie są przesyłane do usługi zewnętrznej.
Najważniejsze pokrętła
Poniższa tabela podsumowuje centralne ustawienia, ich działanie & praktyczne zalecenie.
| Ustawienie | Działanie | Zalecenie |
|---|---|---|
| Model Embedding | Określa jakość & język wyszukiwania; zmiana wymaga ponownego indeksowania. | Hostowany samodzielnie & wielojęzyczny; po zmianie wczytaj dokumenty ponownie. |
| Rozmiar chunków | Duże chunki dostarczają więcej kontekstu, ale rozmywają trafienia; małe są precyzyjniejsze, ale bardziej pofragmentowane. | Średni rozmiar na start, dostosuj do typowej długości dokumentów. |
| Nakładanie | Zapobiega rozerwaniu związków znaczeniowych na granicach chunków. | Umiarkowane nakładanie, aby zdania nie ginęły. |
| Repozytorium dokumentów | Miejsce wektorów & plików źródłowych; określa pojemność & suwerenność danych. | Prowadź wewnątrz firmy & uwzględnij w kopii zapasowej danych. |
| Formaty plików | Ustala, które przesłane pliki są przetwarzane (np. PDF, tekst, Office). | Dopuszczaj tylko potrzebne formaty; nieznane świadomie wyklucz. |
| Maks. rozmiar pliku | Ogranicza bardzo duże pliki, które obciążają indeksowanie & pamięć. | Ustaw sensowny górny limit & dostosuj w razie potrzeby. |
Wpływ na jakość trafień
Jeśli rozmiar chunków nie pasuje do Twoich dokumentów, jakość trafień odczuwalnie cierpi: zbyt duże fragmenty dostarczają wiele dodatków wokół właściwie istotnego miejsca, zbyt małe rozrywają związki. Nakładanie łagodzi przypadki graniczne. Jeśli zmienisz model Embedding, istniejące dokumenty muszą zostać ponownie wczytane, ponieważ stare & nowe wektory nie są porównywalne.
Nie zmieniaj modelu Embedding w trakcie eksploatacji bez planu. Już zindeksowane dokumenty dostarczają wtedy bezużytecznych trafień, dopóki nie zostaną w całości ponownie wczytane.
Powiązane
Impostazioni RAG
Modello di Embedding, dimensione dei Chunk, archivio documenti & limiti – ecco come le impostazioni influenzano la qualità dei risultati.
Come RAG dipende dalle Sue impostazioni
RAG (Retrieval-Augmented Generation) fa sì che l'IA fornisca risposte sulla base dei Suoi documenti. Affinché questo funzioni in modo affidabile, Sovereign AI scompone i documenti caricati in sezioni (Chunk), le trasforma con un modello di Embedding in vettori ricercabili & le archivia nell'archivio documenti. Le Sue impostazioni concorrono a decidere quanto bene l'IA troverà in seguito i passaggi pertinenti.
Scelga possibilmente un modello di Embedding self-hosted. In tal caso anche i contenuti dei Suoi documenti vengono elaborati esclusivamente in casa & non trasmessi a un servizio esterno.
Le leve più importanti
La tabella seguente riassume le impostazioni centrali, il loro effetto & una raccomandazione utile nella pratica.
| Impostazione | Effetto | Raccomandazione |
|---|---|---|
| Modello di Embedding | Determina qualità & lingua della ricerca; un cambio richiede una nuova indicizzazione. | Self-hosted & multilingue; dopo il cambio, reimportare i documenti. |
| Dimensione dei Chunk | Chunk grandi forniscono più contesto, ma diluiscono i risultati; quelli piccoli sono più precisi, ma più frammentati. | Dimensione media come inizio, adattare alla lunghezza tipica dei documenti. |
| Sovrapposizione | Impedisce che le relazioni di senso vengano spezzate ai confini dei Chunk. | Sovrapposizione moderata, affinché le frasi non vadano perse. |
| Archivio documenti | Luogo dei vettori & dei file originali; determina capacità & sovranità dei dati. | Gestire in casa & includere nel backup dei dati. |
| Formati di file | Stabilisce quali upload vengono elaborati (ad es. PDF, testo, Office). | Consentire solo i formati necessari; escludere consapevolmente quelli sconosciuti. |
| Dimensione max. dei file | Limita gli upload molto grandi, che gravano su indicizzazione & memoria. | Impostare un limite massimo sensato & adattarlo all'occorrenza. |
Effetto sulla qualità dei risultati
Se la dimensione dei Chunk non si adatta ai Suoi documenti, la qualità dei risultati ne risente sensibilmente: sezioni troppo grandi forniscono molto contorno attorno al passaggio effettivamente rilevante, quelle troppo piccole spezzano le relazioni. La sovrapposizione attutisce i casi limite. Se cambia il modello di Embedding, i documenti esistenti devono essere reimportati, poiché vettori vecchi & nuovi non sono comparabili.
Non cambi il modello di Embedding durante il funzionamento senza un piano. I documenti già indicizzati forniranno allora risultati inutilizzabili, finché non saranno stati completamente reimportati.
Correlati
RAG-instellingen
Embedding-model, chunk-grootte, documentopslag & grenzen – zo beïnvloeden de instellingen de trefferkwaliteit.
Hoe RAG afhangt van uw instellingen
RAG (Retrieval-Augmented Generation) laat de AI antwoorden geven op basis van uw eigen documenten. Om dat betrouwbaar te laten werken, verdeelt Sovereign AI geüploade documenten in fragmenten (chunks), zet deze met een Embedding-model om in doorzoekbare vectoren & slaat ze op in de documentopslag. Uw instellingen bepalen mede hoe goed de AI later de passende passages vindt.
Kies bij voorkeur een zelf gehost Embedding-model. Dan wordt ook de inhoud van uw documenten uitsluitend binnenshuis verwerkt & niet naar een externe dienst verzonden.
De belangrijkste instelknoppen
De volgende tabel vat de centrale instellingen, hun werking & een praktijkgerichte aanbeveling samen.
| Instelling | Werking | Aanbeveling |
|---|---|---|
| Embedding-model | Bepaalt kwaliteit & taal van de zoekopdracht; een wisseling vereist herindexering. | Zelf gehost & meertalig; na wisseling documenten opnieuw inlezen. |
| Chunk-grootte | Grote chunks leveren meer context, maar verwateren de treffers; kleine zijn preciezer, maar meer gefragmenteerd. | Middelgrote grootte als start, aanpassen aan typische documentlengte. |
| Overlap | Voorkomt dat betekenisverbanden bij chunk-grenzen worden uiteengerukt. | Matige overlap, zodat zinnen niet verloren gaan. |
| Documentopslag | Locatie van de vectoren & originele bestanden; bepaalt capaciteit & datasoevereiniteit. | Binnenshuis beheren & opnemen in de back-up. |
| Bestandsformaten | Bepaalt welke uploads worden verwerkt (bijv. PDF, tekst, Office). | Alleen benodigde formaten toestaan; onbekende bewust uitsluiten. |
| Max. bestandsgrootte | Beperkt zeer grote uploads die indexering & opslag belasten. | Een zinvolle bovengrens instellen & indien nodig aanpassen. |
Invloed op de trefferkwaliteit
Past de chunk-grootte niet bij uw documenten, dan lijdt de trefferkwaliteit merkbaar: te grote fragmenten leveren veel bijzaken rond de eigenlijk relevante passage, te kleine rukken verbanden uiteen. De overlap vangt grensgevallen op. Wijzigt u het Embedding-model, dan moeten bestaande documenten opnieuw worden ingelezen, omdat oude & nieuwe vectoren niet vergelijkbaar zijn.
Wijzig het Embedding-model niet tijdens de lopende werking zonder plan. Reeds geïndexeerde documenten leveren dan onbruikbare treffers, totdat zij volledig opnieuw zijn ingelezen.
Gerelateerd
Setări RAG
Model Embedding, dimensiunea Chunk-urilor, stocarea documentelor & limite – iată cum influențează setările calitatea rezultatelor.
Cum depinde RAG de setările dumneavoastră
RAG (Retrieval-Augmented Generation) permite AI să dea răspunsuri pe baza propriilor dumneavoastră documente. Pentru ca acest lucru să funcționeze fiabil, Sovereign AI descompune documentele încărcate în secțiuni (Chunks), le transformă cu un model Embedding în vectori care pot fi căutați & le depune în stocarea documentelor. Setările dumneavoastră contribuie la a decide cât de bine găsește AI ulterior locurile potrivite.
Alegeți pe cât posibil un model Embedding găzduit intern. Atunci și conținutul documentelor dumneavoastră este prelucrat exclusiv în casă & nu este transmis unui serviciu extern.
Cele mai importante reglaje
Tabelul următor rezumă setările centrale, efectul lor & o recomandare aplicabilă în practică.
| Setare | Efect | Recomandare |
|---|---|---|
| Model Embedding | Determină calitatea & limba căutării; o schimbare necesită reindexare. | Găzduit intern & multilingv; după schimbare, recitiți documentele. |
| Dimensiunea Chunk-urilor | Chunk-urile mari livrează mai mult context, dar diluează rezultatele; cele mici sunt mai precise, dar mai fragmentate. | Dimensiune medie ca punct de plecare, adaptată la lungimea tipică a documentelor. |
| Suprapunere | Împiedică ruperea contextelor de sens la granițele Chunk-urilor. | Suprapunere moderată, astfel încât frazele să nu se piardă. |
| Stocarea documentelor | Locul vectorilor & al fișierelor originale; determină capacitatea & suveranitatea datelor. | Operați în casă & includeți în copia de siguranță a datelor. |
| Formate de fișiere | Stabilește ce încărcări sunt prelucrate (de ex. PDF, text, Office). | Permiteți doar formatele necesare; excludeți conștient pe cele necunoscute. |
| Dimensiunea max. a fișierului | Limitează încărcările foarte mari, care solicită indexarea & stocarea. | Setați o limită superioară rezonabilă & ajustați la nevoie. |
Efectul asupra calității rezultatelor
Dacă dimensiunea Chunk-urilor nu se potrivește documentelor dumneavoastră, calitatea rezultatelor suferă sesizabil: secțiunile prea mari livrează multe elemente accesorii în jurul locului efectiv relevant, cele prea mici rup contextele. Suprapunerea atenuează cazurile-limită. Dacă schimbați modelul Embedding, documentele existente trebuie recitite, deoarece vectorii vechi & noi nu sunt comparabili.
Nu schimbați modelul Embedding în timpul funcționării fără un plan. Documentele deja indexate livrează atunci rezultate inutilizabile, până când sunt recitite în întregime.
Înrudite
Ρυθμίσεις RAG
Μοντέλο embedding, μέγεθος chunk, χώρος αποθήκευσης εγγράφων & όρια – έτσι επηρεάζουν οι ρυθμίσεις την ποιότητα των αποτελεσμάτων.
Πώς εξαρτάται το RAG από τις ρυθμίσεις σας
Το RAG (Retrieval-Augmented Generation) επιτρέπει στην AI να δίνει απαντήσεις βάσει των δικών σας εγγράφων. Για να λειτουργεί αυτό αξιόπιστα, το Sovereign AI αναλύει τα ανεβασμένα έγγραφα σε τμήματα (chunks), τα μετατρέπει με ένα μοντέλο embedding σε αναζητήσιμα διανύσματα & τα αποθηκεύει στον χώρο αποθήκευσης εγγράφων. Οι ρυθμίσεις σας συνδιαμορφώνουν το πόσο καλά βρίσκει αργότερα η AI τα κατάλληλα σημεία.
Επιλέξτε κατά προτίμηση ένα self-hosted μοντέλο embedding. Τότε και το περιεχόμενο των εγγράφων σας επεξεργάζεται αποκλειστικά εντός της επιχείρησης & δεν μεταφέρεται σε εξωτερική υπηρεσία.
Οι σημαντικότερες ρυθμιστικές παράμετροι
Ο παρακάτω πίνακας συνοψίζει τις κεντρικές ρυθμίσεις, την επίδρασή τους & μια πρακτική σύσταση.
| Ρύθμιση | Επίδραση | Σύσταση |
|---|---|---|
| Μοντέλο embedding | Καθορίζει την ποιότητα & τη γλώσσα της αναζήτησης· μια αλλαγή απαιτεί εκ νέου δημιουργία ευρετηρίου. | Self-hosted & πολύγλωσσο· μετά από αλλαγή επανεισαγάγετε τα έγγραφα. |
| Μέγεθος chunk | Τα μεγάλα chunks δίνουν περισσότερο πλαίσιο, αλλά αραιώνουν τα αποτελέσματα· τα μικρά είναι πιο ακριβή, αλλά πιο κατακερματισμένα. | Μεσαίο μέγεθος ως αφετηρία, προσαρμόστε στο τυπικό μήκος εγγράφου. |
| Επικάλυψη | Αποτρέπει τη διάσπαση εννοιολογικών συσχετίσεων στα όρια των chunk. | Μέτρια επικάλυψη, ώστε να μη χάνονται προτάσεις. |
| Χώρος αποθήκευσης εγγράφων | Τόπος των διανυσμάτων & των πρωτότυπων αρχείων· καθορίζει τη χωρητικότητα & την κυριαρχία επί των δεδομένων. | Λειτουργήστε τον εντός της επιχείρησης & συμπεριλάβετέ τον στη διασφάλιση δεδομένων. |
| Μορφές αρχείων | Καθορίζει ποια uploads επεξεργάζονται (π. χ. PDF, κείμενο, Office). | Επιτρέψτε μόνο τις απαραίτητες μορφές· αποκλείστε συνειδητά τις άγνωστες. |
| Μέγ. μέγεθος αρχείου | Περιορίζει πολύ μεγάλα uploads που επιβαρύνουν τη δημιουργία ευρετηρίου & τον αποθηκευτικό χώρο. | Ορίστε ένα λογικό ανώτατο όριο & προσαρμόστε το εάν χρειάζεται. |
Επίδραση στην ποιότητα των αποτελεσμάτων
Εάν το μέγεθος chunk δεν ταιριάζει στα έγγραφά σας, η ποιότητα των αποτελεσμάτων υποφέρει αισθητά: τα πολύ μεγάλα τμήματα δίνουν πολλά περιττά γύρω από το πραγματικά σχετικό σημείο, τα πολύ μικρά διασπούν τις συσχετίσεις. Η επικάλυψη απαλύνει τις οριακές περιπτώσεις. Εάν αλλάξετε το μοντέλο embedding, τα υπάρχοντα έγγραφα πρέπει να επανεισαχθούν, επειδή τα παλιά & νέα διανύσματα δεν είναι συγκρίσιμα.
Μην αλλάζετε το μοντέλο embedding εν λειτουργία χωρίς σχέδιο. Τα ήδη ευρετηριασμένα έγγραφα δίνουν τότε άχρηστα αποτελέσματα, μέχρι να επανεισαχθούν πλήρως.
Σχετικά
إعدادات RAG
نموذج Embedding، وحجم التجزئة (Chunk)، ومخزن المستندات والحدود – هكذا تؤثر الإعدادات في جودة النتائج.
كيف يعتمد RAG على إعداداتك
يجعل RAG (Retrieval-Augmented Generation) الذكاء الاصطناعي يقدّم الردود بناءً على مستنداتك الخاصة. حتى يعمل ذلك بموثوقية، يجزّئ Sovereign AI المستندات المرفوعة إلى مقاطع (Chunks)، ويحوّلها بنموذج Embedding إلى متجهات قابلة للبحث ويودعها في مخزن المستندات. تسهم إعداداتك في تحديد مدى جودة عثور الذكاء الاصطناعي لاحقًا على المواضع المناسبة.
اختر قدر الإمكان نموذج Embedding مستضافًا ذاتيًا. عندئذٍ تُعالَج محتويات مستنداتك أيضًا حصريًا داخل البيت ولا تُنقل إلى خدمة خارجية.
أهم عناصر الضبط
يلخّص الجدول التالي الإعدادات المركزية وأثرها وتوصيةً عملية.
| الإعداد | الأثر | التوصية |
|---|---|---|
| نموذج Embedding | يحدد جودة البحث ولغته؛ والتبديل يتطلب إعادة فهرسة. | مستضاف ذاتيًا ومتعدد اللغات؛ بعد التبديل أعد قراءة المستندات. |
| حجم التجزئة (Chunk) | الأجزاء الكبيرة توفّر سياقًا أكثر لكنها تُخفّف النتائج؛ والصغيرة أدق لكنها أكثر تجزؤًا. | حجم متوسط كبداية، ثم مواءمة مع طول المستند المعتاد. |
| التداخل | يمنع تمزّق الروابط المعنوية عند حدود الأجزاء. | تداخل معتدل حتى لا تضيع الجمل. |
| مخزن المستندات | موضع المتجهات والملفات الأصلية؛ يحدد السعة والسيادة على البيانات. | شغّله داخل البيت وأدرجه في النسخ الاحتياطي للبيانات. |
| صيغ الملفات | يحدد أي عمليات رفع تُعالَج (مثل PDF أو نص أو Office). | اسمح فقط بالصيغ اللازمة؛ واستبعد المجهولة عن قصد. |
| الحد الأقصى لحجم الملف | يقيّد عمليات الرفع الكبيرة جدًا التي تُثقل الفهرسة والتخزين. | ضع حدًا أعلى معقولًا وعدّله عند الحاجة. |
الأثر في جودة النتائج
إذا لم يناسب حجم التجزئة مستنداتك، فتتأثر جودة النتائج بشكل ملموس: الأجزاء الكبيرة جدًا تجلب حشوًا كثيرًا حول الموضع المهم فعلًا، والصغيرة جدًا تمزّق الروابط. يخفّف التداخل الحالات الحدّية. إذا غيّرت نموذج Embedding، فيجب إعادة قراءة المستندات القائمة، لأن المتجهات القديمة والجديدة غير قابلة للمقارنة.
لا تغيّر نموذج Embedding أثناء التشغيل دون خطة. فالمستندات المُفهرَسة مسبقًا تقدّم عندئذٍ نتائج غير صالحة حتى تُعاد قراءتها بالكامل.
ذات صلة
RAG 设置
Embedding 模型、Chunk 大小、文档存储与限制–这些设置就是这样影响命中质量的。
RAG 如何取决于您的设置
RAG(Retrieval-Augmented Generation)让 AI 能够基于您自己的文档给出回答。为了让它可靠地运作,Sovereign AI 会把上传的文档拆分成段落(Chunks),用一个 Embedding 模型将它们转换为可检索的向量,并存放在文档存储中。您的设置会共同决定 AI 之后能多好地找到合适的段落。
请尽量选择一个自托管的 Embedding 模型。这样,您文档的内容也将只在本地处理,而不会传输给外部服务。
最重要的调节旋钮
下表汇总了核心设置、它们的作用以及一条切合实践的建议。
| 设置 | 作用 | 建议 |
|---|---|---|
| Embedding 模型 | 决定检索的质量与语言;更换需要重新索引。 | 自托管且多语言;更换后重新读入文档。 |
| Chunk 大小 | 大的 Chunk 提供更多上下文,但会稀释命中;小的更精确,但更碎片化。 | 以中等大小起步,按典型文档长度调整。 |
| 重叠 | 防止语义关联在 Chunk 边界处被撕裂。 | 适度重叠,以免句子丢失。 |
| 文档存储 | 向量与原始文件的所在地;决定容量与数据主权。 | 在本地运行并纳入数据备份。 |
| 文件格式 | 规定哪些上传会被处理(例如 PDF、文本、Office)。 | 只允许所需格式;对未知格式有意识地排除。 |
| 最大文件大小 | 限制会给索引与存储带来负担的超大上传。 | 设定合理的上限并按需调整。 |
对命中质量的影响
如果 Chunk 大小与您的文档不匹配,命中质量会明显受损:过大的段落会在真正相关的位置周围夹带大量枝节,过小的段落则会把关联撕裂开来。重叠可以缓冲边界情况。如果您更换 Embedding 模型,现有文档必须重新读入,因为旧向量与新向量不可比较。
请勿在运行中毫无计划地更换 Embedding 模型。否则已索引的文档会给出无用的命中,直到它们被完全重新读入为止。