Kapitel 6 · Administration

Modelle verwalten

Selbst gehostete Modelle bereitstellen & Dritt-KIs über OpenAI-kompatible Verbindungen einbinden.

Selbst gehostete Modelle bereitstellen

Der Kern von Sovereign AI sind die selbst gehosteten Modelle. Sie laufen auf einem selbst gehosteten Modell-Server in Ihrer eigenen Infrastruktur. Der Modell-Server stellt die Modelle über eine OpenAI-kompatible Schnittstelle bereit; Sovereign AI verbindet sich mit dieser Schnittstelle & zeigt die Modelle in der Modellauswahl an. Dabei verlassen weder Anfragen noch Antworten das Haus.

So geht's konkret
  1. Modell bereitstellenStellen Sie das gewünschte Modell auf dem Modell-Server bereit, sodass es über dessen Endpoint erreichbar ist.
  2. Verbindung prüfenVergewissern Sie sich im Admin-Panel, dass die interne Verbindung zum Endpoint des Modell-Servers aktiv ist.
  3. Modell erscheintDas bereitgestellte Modell taucht in der Modellliste von Sovereign AI auf.
  4. Für Gruppen freigebenLegen Sie fest, welche Gruppen das Modell in ihrer Auswahl sehen.
  5. Standardmodell setzenBestimmen Sie ein Standardmodell für neue Chats.

Dritt-KIs über Verbindungen (Connections) einbinden

Neben den eigenen Modellen können Sie externe Dienste anbinden, sofern diese eine OpenAI-kompatible API bereitstellen. In den Verbindungen (Connections) tragen Sie dazu die Endpoint-Adresse & einen API-Schlüssel ein. Anschließend stehen die Modelle des Anbieters wie eigene Modelle in der Auswahl.

So geht's konkret
  1. Verbindungen öffnenRufen Sie im Admin-Panel den Bereich für Verbindungen (Connections) auf.
  2. Endpoint eintragenHinterlegen Sie die Basis-URL der OpenAI-kompatiblen API des Anbieters.
  3. API-Schlüssel hinterlegenFügen Sie den Schlüssel ein – er hat die Form sk-… & wird vom Anbieter ausgestellt.
  4. Verbindung testenPrüfen Sie, ob die Modelle des Anbieters geladen werden.
  5. Gezielt freigebenGeben Sie diese Modelle nur den Gruppen frei, die sie wirklich benötigen.
⚠️

Achtung Datenhoheit: Sobald Sie eine Dritt-KI per API einbinden, werden die Eingaben der Nutzer an diesen externen Anbieter übertragen & verlassen damit Ihr Haus. Setzen Sie solche Verbindungen bewusst ein & nie für vertrauliche oder personenbezogene Inhalte, deren Weitergabe nicht erlaubt ist.

🔐

Behandeln Sie API-Schlüssel wie Passwörter. Verwenden Sie ausschließlich echte, vom Anbieter ausgestellte Schlüssel, geben Sie sie nie weiter & widerrufen Sie sie beim Anbieter, sobald sie nicht mehr gebraucht werden. Die Platzhalter sk-… in dieser Anleitung sind keine gültigen Schlüssel.

Freigabe & Standardmodell

Jedes Modell – ob selbst gehostet oder per Verbindung – geben Sie über Gruppen frei. So entscheiden Sie, wer welches Modell nutzen darf. Ergänzend legen Sie ein Standardmodell fest, das in neuen Chats vorausgewählt ist. Wählen Sie hierfür bevorzugt ein selbst gehostetes Modell, damit Gespräche standardmäßig im Haus bleiben.

Selbst gehostet

Läuft auf dem selbst gehosteten Modell-Server in Ihrer Infrastruktur. Daten bleiben im Haus. Empfohlen als Standard.

Per Verbindung

Externer Anbieter über OpenAI-kompatible API. Daten verlassen das Haus – gezielt einsetzen.

Verwandtes

Chapter 6 · Administration

Managing models

Provide self-hosted models & connect third-party AIs through OpenAI-compatible connections.

Providing self-hosted models

The core of Sovereign AI is its self-hosted models. They run on a self-hosted model server in your own infrastructure. The model server exposes the models through an OpenAI-compatible interface; Sovereign AI connects to this interface & shows the models in the model picker. In this setup neither requests nor answers leave the house.

So geht's konkret
  1. Provide the modelProvide the desired model on the model server so it is reachable through its endpoint.
  2. Check the connectionIn the admin panel, make sure the internal connection to the model server endpoint is active.
  3. Model appearsThe provided model shows up in the Sovereign AI model list.
  4. Release to groupsDecide which groups see the model in their picker.
  5. Set a default modelChoose a default model for new chats.

Connecting third-party AIs via connections

Alongside your own models you can connect external services, provided they offer an OpenAI-compatible API. Under connections you enter the endpoint address & an API key. The provider's models then appear in the picker like your own.

So geht's konkret
  1. Open connectionsIn the admin panel, open the connections area.
  2. Enter the endpointAdd the base URL of the provider's OpenAI-compatible API.
  3. Add the API keyInsert the key – it has the form sk-… & is issued by the provider.
  4. Test the connectionCheck whether the provider's models load.
  5. Release deliberatelyRelease these models only to the groups that truly need them.
⚠️

Mind data sovereignty: as soon as you connect a third-party AI via API, users' inputs are transmitted to that external provider & thus leave your house. Use such connections deliberately & never for confidential or personal content that is not allowed to be shared.

🔐

Treat API keys like passwords. Use only genuine keys issued by the provider, never share them & revoke them at the provider as soon as they are no longer needed. The placeholders sk-… in this guide are not valid keys.

Release & default model

Every model – whether self-hosted or via a connection – is released through groups. This is how you decide who may use which model. In addition you set a default model that is preselected in new chats. Prefer a self-hosted model here so conversations stay in-house by default.

Self-hosted

Runs on the self-hosted model server in your infrastructure. Data stays in-house. Recommended as default.

Via connection

External provider through an OpenAI-compatible API. Data leaves the house – use deliberately.

Verwandtes

Chapitre 6 · Administration

Gérer les modèles

Mettre à disposition des modèles auto-hébergés & intégrer des IA tierces via des connexions compatibles OpenAI.

Mettre à disposition des modèles auto-hébergés

Le cœur de Sovereign AI, ce sont les modèles auto-hébergés. Ils s'exécutent sur un serveur de modèles auto-hébergé dans votre propre infrastructure. Le serveur de modèles met les modèles à disposition via une interface compatible OpenAI ; Sovereign AI se connecte à cette interface & affiche les modèles dans la sélection de modèles. Ce faisant, ni les requêtes ni les réponses ne quittent la maison.

Concrètement
  1. Mettre à disposition le modèleMettez le modèle souhaité à disposition sur le serveur de modèles, de sorte qu'il soit accessible via son endpoint.
  2. Vérifier la connexionAssurez-vous dans le panneau d'administration que la connexion interne à l'endpoint du serveur de modèles est active.
  3. Le modèle apparaîtLe modèle mis à disposition apparaît dans la liste des modèles de Sovereign AI.
  4. Autoriser pour des groupesDéfinissez quels groupes voient le modèle dans leur sélection.
  5. Définir le modèle par défautDéterminez un modèle par défaut pour les nouveaux Chats.

Intégrer des IA tierces via des connexions (Connections)

Outre vos propres modèles, vous pouvez connecter des services externes, à condition qu'ils mettent à disposition une API compatible OpenAI. Dans les connexions (Connections), vous saisissez à cet effet l'adresse de l'endpoint & une clé API. Ensuite, les modèles du fournisseur figurent dans la sélection comme vos propres modèles.

Concrètement
  1. Ouvrir les connexionsAccédez dans le panneau d'administration à la zone des connexions (Connections).
  2. Saisir l'endpointRenseignez l'URL de base de l'API compatible OpenAI du fournisseur.
  3. Enregistrer la clé APIInsérez la clé – elle a la forme sk-… & est délivrée par le fournisseur.
  4. Tester la connexionVérifiez que les modèles du fournisseur se chargent.
  5. Autoriser de façon cibléeN'autorisez ces modèles qu'aux groupes qui en ont réellement besoin.
⚠️

Attention à la souveraineté des données : dès que vous intégrez une IA tierce via une API, les saisies des utilisateurs sont transmises à ce fournisseur externe & quittent ainsi votre maison. Utilisez de telles connexions de manière réfléchie & jamais pour des contenus confidentiels ou à caractère personnel dont la transmission n'est pas autorisée.

🔐

Traitez les clés API comme des mots de passe. Utilisez exclusivement des clés authentiques, délivrées par le fournisseur, ne les transmettez jamais & révoquez-les auprès du fournisseur dès qu'elles ne sont plus nécessaires. Les substituts sk-… dans ce guide ne sont pas des clés valides.

Autorisation & modèle par défaut

Chaque modèle – qu'il soit auto-hébergé ou via une connexion – s'autorise via des groupes. Vous décidez ainsi qui peut utiliser quel modèle. En complément, vous définissez un modèle par défaut, présélectionné dans les nouveaux Chats. Choisissez de préférence à cet effet un modèle auto-hébergé, afin que les conversations restent par défaut dans la maison.

Auto-hébergé

S'exécute sur le serveur de modèles auto-hébergé dans votre infrastructure. Les données restent dans la maison. Recommandé par défaut.

Via connexion

Fournisseur externe via une API compatible OpenAI. Les données quittent la maison – à utiliser de façon ciblée.

Rubriques connexes

Rozdział 6 · Administracja

Zarządzanie modelami

Udostępnianie hostowanych samodzielnie modeli & włączanie zewnętrznych AI przez połączenia zgodne z OpenAI.

Udostępnianie hostowanych samodzielnie modeli

Rdzeniem Sovereign AI są hostowane samodzielnie modele. Działają one na hostowanym samodzielnie serwerze modeli w Twojej własnej infrastrukturze. Serwer modeli udostępnia modele przez interfejs zgodny z OpenAI; Sovereign AI łączy się z tym interfejsem & wyświetla modele w wyborze modeli. Przy tym ani zapytania, ani odpowiedzi nie opuszczają firmy.

Jak to zrobić w praktyce
  1. Udostępnij modelUdostępnij pożądany model na serwerze modeli, tak aby był osiągalny przez jego endpoint.
  2. Sprawdź połączenieUpewnij się w Admin-Panel, że wewnętrzne połączenie z endpointem serwera modeli jest aktywne.
  3. Model się pojawiaUdostępniony model pojawia się na liście modeli Sovereign AI.
  4. Udostępnij grupomUstal, które grupy widzą model w swoim wyborze.
  5. Ustaw model domyślnyOkreśl model domyślny dla nowych Chatów.

Włączanie zewnętrznych AI przez połączenia (Connections)

Oprócz własnych modeli możesz podłączyć usługi zewnętrzne, o ile udostępniają one API zgodne z OpenAI. W połączeniach (Connections) wpisujesz w tym celu adres endpointu & klucz API. Następnie modele dostawcy stoją w wyborze jak własne modele.

Jak to zrobić w praktyce
  1. Otwórz połączeniaOtwórz w Admin-Panel obszar połączeń (Connections).
  2. Wpisz endpointUmieść bazowy adres URL API zgodnego z OpenAI danego dostawcy.
  3. Umieść klucz APIWstaw klucz – ma on postać sk-… & jest wystawiany przez dostawcę.
  4. Przetestuj połączenieSprawdź, czy modele dostawcy są ładowane.
  5. Udostępniaj celowoUdostępniaj te modele tylko tym grupom, które ich rzeczywiście potrzebują.
⚠️

Uwaga na suwerenność danych: gdy tylko włączysz zewnętrzną AI przez API, dane wejściowe użytkowników są przesyłane do tego zewnętrznego dostawcy & tym samym opuszczają Twoją firmę. Stosuj takie połączenia świadomie & nigdy do treści poufnych lub osobowych, których przekazywanie nie jest dozwolone.

🔐

Traktuj klucze API jak hasła. Używaj wyłącznie prawdziwych, wystawionych przez dostawcę kluczy, nigdy ich nie przekazuj & unieważniaj je u dostawcy, gdy tylko przestają być potrzebne. Symbole zastępcze sk-… w tej instrukcji nie są ważnymi kluczami.

Udostępnianie & model domyślny

Każdy model – czy hostowany samodzielnie, czy przez połączenie – udostępniasz poprzez grupy. Tak decydujesz, kto z którego modelu może korzystać. Dodatkowo ustalasz model domyślny, który jest wstępnie wybrany w nowych Chatach. Wybierz do tego najlepiej model hostowany samodzielnie, aby rozmowy standardowo pozostawały wewnątrz firmy.

Hostowany samodzielnie

Działa na hostowanym samodzielnie serwerze modeli w Twojej infrastrukturze. Dane pozostają wewnątrz firmy. Zalecany jako domyślny.

Przez połączenie

Zewnętrzny dostawca przez API zgodne z OpenAI. Dane opuszczają firmę – stosować celowo.

Powiązane

Capitolo 6 · Amministrazione

Gestire i modelli

Mettere a disposizione modelli self-hosted & integrare IA di terze parti tramite connessioni OpenAI-compatibili.

Mettere a disposizione modelli self-hosted

Il nucleo di Sovereign AI sono i modelli self-hosted. Funzionano su un server di modelli self-hosted nella Sua infrastruttura. Il server di modelli mette a disposizione i modelli tramite un'interfaccia OpenAI-compatibile; Sovereign AI si collega a questa interfaccia & mostra i modelli nella selezione dei modelli. In questo modo né le richieste né le risposte lasciano la sede.

Ecco come si fa in concreto
  1. Mettere a disposizione il modelloMetta a disposizione il modello desiderato sul server di modelli, in modo che sia raggiungibile tramite il relativo endpoint.
  2. Verificare la connessioneSi assicuri nell'Admin-Panel che la connessione interna all'endpoint del server di modelli sia attiva.
  3. Il modello compareIl modello messo a disposizione compare nell'elenco dei modelli di Sovereign AI.
  4. Abilitare per i gruppiStabilisca quali gruppi vedono il modello nella loro selezione.
  5. Impostare il modello predefinitoDetermini un modello predefinito per le nuove Chat.

Integrare IA di terze parti tramite connessioni (Connections)

Oltre ai modelli propri, può collegare servizi esterni, purché questi mettano a disposizione un'API OpenAI-compatibile. Nelle connessioni (Connections) inserisce a tal fine l'indirizzo dell'endpoint & una chiave API. Successivamente i modelli del fornitore compaiono nella selezione come modelli propri.

Ecco come si fa in concreto
  1. Aprire le connessioniRichiami nell'Admin-Panel l'area per le connessioni (Connections).
  2. Inserire l'endpointRegistri la URL di base dell'API OpenAI-compatibile del fornitore.
  3. Registrare la chiave APIInserisca la chiave – ha la forma sk-… & viene rilasciata dal fornitore.
  4. Testare la connessioneVerifichi se i modelli del fornitore vengono caricati.
  5. Abilitare in modo miratoAbiliti questi modelli solo ai gruppi che ne hanno realmente bisogno.
⚠️

Attenzione alla sovranità dei dati: non appena integra un'IA di terze parti tramite API, gli input degli utenti vengono trasmessi a questo fornitore esterno & lasciano quindi la Sua sede. Utilizzi tali connessioni in modo consapevole & mai per contenuti riservati o personali la cui divulgazione non è consentita.

🔐

Tratti le chiavi API come password. Utilizzi esclusivamente chiavi autentiche, rilasciate dal fornitore, non le divulghi mai & le revochi presso il fornitore non appena non sono più necessarie. I segnaposto sk-… in questa guida non sono chiavi valide.

Abilitazione & modello predefinito

Ogni modello – sia self-hosted sia tramite connessione – lo abilita tramite gruppi. Così decide chi può utilizzare quale modello. In aggiunta stabilisce un modello predefinito, che è preselezionato nelle nuove Chat. A tal fine scelga preferibilmente un modello self-hosted, affinché le conversazioni rimangano per impostazione predefinita in sede.

Self-hosted

Funziona sul server di modelli self-hosted nella Sua infrastruttura. I dati rimangono in sede. Consigliato come predefinito.

Tramite connessione

Fornitore esterno tramite API OpenAI-compatibile. I dati lasciano la sede – utilizzare in modo mirato.

Correlati

Hoofdstuk 6 · Beheer

Modellen beheren

Zelf gehoste modellen beschikbaar stellen & externe AI's via OpenAI-compatibele verbindingen integreren.

Zelf gehoste modellen beschikbaar stellen

De kern van Sovereign AI zijn de zelf gehoste modellen. Zij draaien op een zelf gehoste modelserver in uw eigen infrastructuur. De modelserver stelt de modellen beschikbaar via een OpenAI-compatibele interface; Sovereign AI maakt verbinding met deze interface & toont de modellen in de modelkeuze. Daarbij verlaten noch aanvragen noch antwoorden het pand.

Zo werkt het concreet
  1. Model beschikbaar stellenStel het gewenste model beschikbaar op de modelserver, zodat het via het bijbehorende endpoint bereikbaar is.
  2. Verbinding controlerenControleer in het adminpaneel of de interne verbinding met het endpoint van de modelserver actief is.
  3. Model verschijntHet beschikbaar gestelde model verschijnt in de modellijst van Sovereign AI.
  4. Voor groepen vrijgevenBepaal welke groepen het model in hun keuze zien.
  5. Standaardmodel instellenBepaal een standaardmodel voor nieuwe Chats.

Externe AI's integreren via verbindingen (Connections)

Naast de eigen modellen kunt u externe diensten koppelen, mits deze een OpenAI-compatibele API beschikbaar stellen. In de verbindingen (Connections) voert u daartoe het endpoint-adres & een API-sleutel in. Vervolgens staan de modellen van de aanbieder net als eigen modellen in de keuze.

Zo werkt het concreet
  1. Verbindingen openenOpen in het adminpaneel het gedeelte voor verbindingen (Connections).
  2. Endpoint invoerenVoer de basis-URL van de OpenAI-compatibele API van de aanbieder in.
  3. API-sleutel invoerenVoeg de sleutel toe – deze heeft de vorm sk-… & wordt door de aanbieder uitgegeven.
  4. Verbinding testenControleer of de modellen van de aanbieder worden geladen.
  5. Gericht vrijgevenGeef deze modellen alleen vrij aan de groepen die ze echt nodig hebben.
⚠️

Let op datasoevereiniteit: zodra u een externe AI via API integreert, worden de invoer van gebruikers naar deze externe aanbieder verzonden & verlaten zij daarmee uw pand. Zet dergelijke verbindingen bewust in & nooit voor vertrouwelijke of persoonsgebonden inhoud waarvan het delen niet is toegestaan.

🔐

Behandel API-sleutels als wachtwoorden. Gebruik uitsluitend echte, door de aanbieder uitgegeven sleutels, geef ze nooit door & trek ze bij de aanbieder in zodra ze niet meer nodig zijn. De aanduidingen sk-… in deze handleiding zijn geen geldige sleutels.

Vrijgave & standaardmodel

Elk model – of het nu zelf gehost is of via een verbinding loopt – geeft u vrij via groepen. Zo bepaalt u wie welk model mag gebruiken. Aanvullend stelt u een standaardmodel in, dat in nieuwe Chats vooraf is geselecteerd. Kies hiervoor bij voorkeur een zelf gehost model, zodat gesprekken standaard binnenshuis blijven.

Zelf gehost

Draait op de zelf gehoste modelserver in uw infrastructuur. Gegevens blijven binnenshuis. Aanbevolen als standaard.

Via verbinding

Externe aanbieder via OpenAI-compatibele API. Gegevens verlaten het pand – gericht inzetten.

Gerelateerd

Capitolul 6 · Administrare

Gestionarea modelelor

Punerea la dispoziție a modelelor auto-găzduite & integrarea IA terțe prin conexiuni compatibile OpenAI.

Punerea la dispoziție a modelelor auto-găzduite

Nucleul Sovereign AI sunt modelele auto-găzduite. Ele rulează pe un server de modele auto-găzduit în propria dumneavoastră infrastructură. Serverul de modele pune la dispoziție modelele printr-o interfață compatibilă OpenAI; Sovereign AI se conectează la această interfață & afișează modelele în selecția de modele. Astfel, nici cererile, nici răspunsurile nu părăsesc casa.

Iată cum se face concret
  1. Puneți la dispoziție modelulPuneți la dispoziție modelul dorit pe serverul de modele, astfel încât să fie accesibil prin endpoint-ul acestuia.
  2. Verificați conexiuneaAsigurați-vă în panoul de administrare că este activă conexiunea internă către endpoint-ul serverului de modele.
  3. Modelul apareModelul pus la dispoziție apare în lista de modele a Sovereign AI.
  4. Activați pentru grupuriStabiliți care grupuri văd modelul în selecția lor.
  5. Setați modelul implicitStabiliți un model implicit pentru Chat-urile noi.

Integrarea IA terțe prin conexiuni (Connections)

Pe lângă modelele proprii, puteți integra servicii externe, în măsura în care acestea pun la dispoziție o API compatibilă OpenAI. În conexiuni (Connections) introduceți în acest scop adresa endpoint-ului & o cheie API. Ulterior, modelele furnizorului sunt disponibile în selecție ca modele proprii.

Iată cum se face concret
  1. Deschideți conexiunileAccesați în panoul de administrare zona pentru conexiuni (Connections).
  2. Introduceți endpoint-ulDepuneți URL-ul de bază al API-ului compatibil OpenAI al furnizorului.
  3. Depuneți cheia APIAdăugați cheia – are forma sk-… & este emisă de furnizor.
  4. Testați conexiuneaVerificați dacă modelele furnizorului sunt încărcate.
  5. Activați țintitActivați aceste modele doar pentru grupurile care au cu adevărat nevoie de ele.
⚠️

Atenție la suveranitatea datelor: De îndată ce integrați o IA terță prin API, datele introduse de utilizatori sunt transmise către acest furnizor extern & părăsesc astfel casa dumneavoastră. Folosiți astfel de conexiuni în mod deliberat & niciodată pentru conținut confidențial sau cu caracter personal a cărui transmitere nu este permisă.

🔐

Tratați cheile API ca pe parole. Utilizați exclusiv chei reale, emise de furnizor, nu le transmiteți niciodată mai departe & revocați-le la furnizor de îndată ce nu mai sunt necesare. Substituenții sk-… din acest ghid nu sunt chei valide.

Activare & model implicit

Fiecare model – fie auto-găzduit, fie prin conexiune – îl activați prin grupuri. Astfel decideți cine poate utiliza care model. În completare, stabiliți un model implicit, care este preselectat în Chat-urile noi. Alegeți în acest scop, de preferință, un model auto-găzduit, pentru ca conversațiile să rămână în mod implicit în casă.

Auto-găzduit

Rulează pe serverul de modele auto-găzduit din infrastructura dumneavoastră. Datele rămân în casă. Recomandat ca implicit.

Prin conexiune

Furnizor extern prin API compatibilă OpenAI. Datele părăsesc casa – folosiți țintit.

Subiecte conexe

Κεφάλαιο 6 · Διαχείριση

Διαχείριση μοντέλων

Παροχή αυτο-φιλοξενούμενων μοντέλων & ενσωμάτωση τρίτων AI μέσω OpenAI-συμβατών συνδέσεων.

Παροχή αυτο-φιλοξενούμενων μοντέλων

Ο πυρήνας του Sovereign AI είναι τα αυτο-φιλοξενούμενα μοντέλα. Λειτουργούν σε έναν αυτο-φιλοξενούμενο διακομιστή μοντέλων στη δική σας υποδομή. Ο διακομιστής μοντέλων παρέχει τα μοντέλα μέσω μιας OpenAI-συμβατής διεπαφής· το Sovereign AI συνδέεται με αυτή τη διεπαφή & εμφανίζει τα μοντέλα στην επιλογή μοντέλων. Στο πλαίσιο αυτό, ούτε τα αιτήματα ούτε οι απαντήσεις εγκαταλείπουν τον οίκο σας.

Πώς γίνεται στην πράξη
  1. Παροχή μοντέλουΠαρέχετε το επιθυμητό μοντέλο στον διακομιστή μοντέλων, ώστε να είναι προσβάσιμο μέσω του endpoint του.
  2. Έλεγχος σύνδεσηςΒεβαιωθείτε στο Admin-Panel ότι η εσωτερική σύνδεση με το endpoint του διακομιστή μοντέλων είναι ενεργή.
  3. Το μοντέλο εμφανίζεταιΤο παρεχόμενο μοντέλο εμφανίζεται στη λίστα μοντέλων του Sovereign AI.
  4. Έγκριση για ομάδεςΚαθορίστε ποιες ομάδες βλέπουν το μοντέλο στην επιλογή τους.
  5. Ορισμός προεπιλεγμένου μοντέλουΚαθορίστε ένα προεπιλεγμένο μοντέλο για νέες συνομιλίες.

Ενσωμάτωση τρίτων AI μέσω συνδέσεων (Connections)

Πέρα από τα δικά σας μοντέλα, μπορείτε να συνδέσετε εξωτερικές υπηρεσίες, εφόσον αυτές παρέχουν μια OpenAI-συμβατή API. Στις συνδέσεις (Connections) καταχωρείτε για τον σκοπό αυτό τη διεύθυνση του endpoint & ένα κλειδί API. Στη συνέχεια τα μοντέλα του παρόχου εμφανίζονται στην επιλογή σαν δικά σας μοντέλα.

Πώς γίνεται στην πράξη
  1. Άνοιγμα συνδέσεωνΑνοίξτε στο Admin-Panel την ενότητα για τις συνδέσεις (Connections).
  2. Καταχώρηση endpointΚαταχωρήστε τη βασική URL της OpenAI-συμβατής API του παρόχου.
  3. Καταχώρηση κλειδιού APIΕισαγάγετε το κλειδί – έχει τη μορφή sk-… & εκδίδεται από τον πάροχο.
  4. Δοκιμή σύνδεσηςΕλέγξτε αν φορτώνονται τα μοντέλα του παρόχου.
  5. Στοχευμένη έγκρισηΔώστε αυτά τα μοντέλα μόνο στις ομάδες που πραγματικά τα χρειάζονται.
⚠️

Προσοχή στην κυριαρχία δεδομένων: μόλις ενσωματώσετε μια τρίτη AI μέσω API, οι εισαγωγές των χρηστών μεταφέρονται σε αυτόν τον εξωτερικό πάροχο & έτσι εγκαταλείπουν τον οίκο σας. Χρησιμοποιήστε τέτοιες συνδέσεις συνειδητά & ποτέ για εμπιστευτικά ή προσωπικά περιεχόμενα, των οποίων η κοινοποίηση δεν επιτρέπεται.

🔐

Μεταχειριστείτε τα κλειδιά API όπως τους κωδικούς πρόσβασης. Χρησιμοποιείτε αποκλειστικά γνήσια κλειδιά που εκδίδονται από τον πάροχο, μην τα κοινοποιείτε ποτέ & ανακαλέστε τα στον πάροχο μόλις δεν χρειάζονται πλέον. Οι σύμβολοι κράτησης θέσης sk-… σε αυτόν τον οδηγό δεν είναι έγκυρα κλειδιά.

Έγκριση & προεπιλεγμένο μοντέλο

Κάθε μοντέλο – είτε αυτο-φιλοξενούμενο είτε μέσω σύνδεσης – το εγκρίνετε μέσω ομάδων. Έτσι αποφασίζετε ποιος επιτρέπεται να χρησιμοποιεί ποιο μοντέλο. Συμπληρωματικά, ορίζετε ένα προεπιλεγμένο μοντέλο, που είναι προεπιλεγμένο σε νέες συνομιλίες. Επιλέξτε γι' αυτό κατά προτίμηση ένα αυτο-φιλοξενούμενο μοντέλο, ώστε οι συζητήσεις να παραμένουν εξ ορισμού εντός του οίκου.

Αυτο-φιλοξενούμενο

Λειτουργεί στον αυτο-φιλοξενούμενο διακομιστή μοντέλων στην υποδομή σας. Τα δεδομένα παραμένουν εντός του οίκου. Συνιστάται ως προεπιλογή.

Μέσω σύνδεσης

Εξωτερικός πάροχος μέσω OpenAI-συμβατής API. Τα δεδομένα εγκαταλείπουν τον οίκο – χρησιμοποιήστε το στοχευμένα.

Σχετικά

الفصل 6 · الإدارة

إدارة النماذج

توفير النماذج المستضافة ذاتيًا ودمج ذكاءات اصطناعية خارجية عبر اتصالات متوافقة مع OpenAI.

توفير النماذج المستضافة ذاتيًا

جوهر Sovereign AI هو النماذج المستضافة ذاتيًا. تعمل على خادم نماذج مستضاف ذاتيًا داخل بنيتك التحتية الخاصة. يوفّر خادم النماذج هذه النماذج عبر واجهة متوافقة مع OpenAI؛ ويتصل Sovereign AI بهذه الواجهة ويعرض النماذج في اختيار النماذج. وعند ذلك لا تغادر البيت الطلبات ولا الردود.

إليك الطريقة عمليًا
  1. توفير النموذجوفّر النموذج المطلوب على خادم النماذج بحيث يكون متاحًا عبر نقطة النهاية (Endpoint) الخاصة به.
  2. فحص الاتصالتأكّد في لوحة المسؤول من أن الاتصال الداخلي بنقطة نهاية خادم النماذج نشط.
  3. ظهور النموذجيظهر النموذج المُوفَّر في قائمة نماذج Sovereign AI.
  4. الإتاحة للمجموعاتحدّد أي المجموعات ترى النموذج في اختيارها.
  5. تعيين النموذج الافتراضيحدّد نموذجًا افتراضيًا للمحادثات الجديدة.

دمج ذكاءات اصطناعية خارجية عبر الاتصالات (Connections)

إلى جانب نماذجك الخاصة، يمكنك ربط خدمات خارجية، شريطة أن توفّر API متوافقة مع OpenAI. في الاتصالات (Connections) تُدخل لذلك عنوان نقطة النهاية ومفتاح API. بعد ذلك تظهر نماذج المزوّد في الاختيار مثل نماذجك الخاصة.

إليك الطريقة عمليًا
  1. فتح الاتصالاتافتح في لوحة المسؤول منطقة الاتصالات (Connections).
  2. إدخال نقطة النهايةأودِع عنوان URL الأساسي لـ API المتوافقة مع OpenAI الخاصة بالمزوّد.
  3. إيداع مفتاح APIأضف المفتاح – صيغته sk-… ويصدره المزوّد.
  4. اختبار الاتصالتحقّق مما إذا كانت نماذج المزوّد تُحمَّل.
  5. الإتاحة المحددةأتِح هذه النماذج فقط للمجموعات التي تحتاجها فعلًا.
⚠️

انتباه للسيادة على البيانات: بمجرد دمج ذكاء اصطناعي خارجي عبر API، تُنقل مدخلات المستخدمين إلى هذا المزوّد الخارجي وتغادر بذلك بيتك. استخدم مثل هذه الاتصالات عن وعي وليس أبدًا لمحتوى سري أو ذي بيانات شخصية لا يُسمح بمشاركته.

🔐

عامل مفاتيح API مثل كلمات المرور. استخدم حصريًا مفاتيح حقيقية صادرة عن المزوّد، ولا تشاركها أبدًا، وألغِها لدى المزوّد بمجرد أن تنتفي الحاجة إليها. القيم النائبة sk-… في هذا الدليل ليست مفاتيح صالحة.

الإتاحة والنموذج الافتراضي

كل نموذج – سواء كان مستضافًا ذاتيًا أو عبر اتصال – تتيحه عبر المجموعات. بذلك تقرر من يجوز له استخدام أي نموذج. إضافةً إلى ذلك تحدّد نموذجًا افتراضيًا يكون مختارًا مسبقًا في المحادثات الجديدة. اختر لذلك تفضيليًا نموذجًا مستضافًا ذاتيًا حتى تبقى المحادثات افتراضيًا داخل البيت.

مستضاف ذاتيًا

يعمل على خادم النماذج المستضاف ذاتيًا في بنيتك التحتية. تبقى البيانات داخل البيت. موصى به كافتراضي.

عبر اتصال

مزوّد خارجي عبر API متوافقة مع OpenAI. تغادر البيانات البيت – استخدمه بشكل محدد.

ذات صلة

第 6 章 · 管理

管理模型

部署自托管模型，并通过 OpenAI 兼容连接接入第三方 AI。

部署自托管模型

Sovereign AI 的核心是自托管模型。它们运行在您自有基础设施中的一台自托管模型服务器上。该模型服务器通过一个 OpenAI 兼容接口提供模型；Sovereign AI 连接到该接口并在模型选择中显示这些模型。在此过程中，请求与响应都不会离开企业。

具体操作
  1. 部署模型在模型服务器上部署所需模型，使其可通过其端点访问。
  2. 检查连接在管理面板中确认与模型服务器端点的内部连接处于活动状态。
  3. 模型出现已部署的模型将出现在 Sovereign AI 的模型列表中。
  4. 向群组开放确定哪些群组可在其选择中看到该模型。
  5. 设定默认模型为新的 Chat 指定一个默认模型。

通过连接（Connections）接入第三方 AI

除自有模型外，只要外部服务提供 OpenAI 兼容 API，您就可以接入它。为此，请在连接（Connections）中填入端点地址和一个 API 密钥。之后，该提供商的模型会像自有模型一样出现在选择中。

具体操作
  1. 打开连接在管理面板中调出连接（Connections）区域。
  2. 填入端点存入该提供商 OpenAI 兼容 API 的基础 URL。
  3. 存入 API 密钥粘贴密钥–它的形式为 sk-…，由提供商签发。
  4. 测试连接检查是否能加载该提供商的模型。
  5. 有针对性地开放只向真正需要这些模型的群组开放。
⚠️

注意数据主权：一旦您通过 API 接入第三方 AI，用户的输入就会被传送给该外部提供商，从而离开您的企业。请有意识地使用此类连接，切勿用于不允许转交的机密或个人相关内容。

🔐

请像对待密码一样对待 API 密钥。仅使用由提供商签发的真实密钥，切勿转交他人，并在不再需要时在提供商处撤销它们。本指南中的占位符 sk-… 并非有效密钥。

开放与默认模型

每个模型–无论是自托管还是通过连接–都通过群组进行开放。由此您决定谁可以使用哪个模型。此外，您还需设定一个在新 Chat 中预选的 默认模型。为此请优先选择自托管模型，使对话默认留在企业内部。

自托管

运行在您基础设施中的自托管模型服务器上。数据留在企业内部。建议作为默认。

通过连接

通过 OpenAI 兼容 API 的外部提供商。数据会离开企业–请有针对性地使用。

相关内容