Zum Inhalt springen

Amazon Bedrock

Amazon Bedrock gibt dir Zugriff auf Foundation-Modelle von Anthropic, Meta, Mistral und anderen, abgerechnet über dein AWS-Konto. Wenn du ohnehin AWS nutzt, passt Bedrock sehr gut zu Selu.

Bevor du Selu mit Bedrock verbindest, brauchst du:

  1. Ein AWS-Konto — Registriere dich bei aws.amazon.com, falls du noch keines hast.
  2. Bedrock-Modellzugriff — Aktiviere in der AWS-Konsole unter Amazon Bedrock → Model access die Modelle, die du verwenden möchtest. Für manche Modelle braucht es eine kurze Freigabe.
  3. Einen Bearer-Token — Du brauchst einen AWS Access Token (Bearer-Token) zur Authentifizierung. Dieser wird üblicherweise über deine AWS-Session oder ein API-Gateway bezogen.
  1. Klicke in der Selu-Seitenleiste auf Providers.
  2. Klicke auf Add Provider und wähle Amazon Bedrock.
  3. Füge deinen Bearer-Token in das Feld AWS Access Token ein.
  4. Gib deine AWS Region ein, zum Beispiel us-east-1. Nimm die Region, in der du den Modellzugriff aktiviert hast.
  5. Klicke auf Check & Save. Selu prüft die Verbindung und speichert deine Einstellungen.

Die Amazon-Bedrock-Anbieter-Einrichtungsseite mit Feldern für AWS Access Token und AWS Region.

Dein Access Token wird verschlüsselt gespeichert.

Bedrock bietet Modelle mehrerer Anbieter an. Das Modell wird pro Agent unter Agents → (Agentenname) → Model eingestellt. Selu ruft die verfügbaren Modelle automatisch von deinem Bedrock-Konto ab.

Beliebte Optionen sind:

ModellAnbieterGut geeignet für
Claude Sonnet 4AnthropicAllgemeine Nutzung mit guter Balance aus Geschwindigkeit und Qualität
Claude 3.5 HaikuAnthropicSchnelle, günstige Antworten
Llama 3MetaOpen-Weight-Alternative für viele Alltagsfälle
Mistral LargeMistralStark bei Programmierung und Reasoning

Bedrock hat ein Limit von 5 MB pro Bild für multimodale Anfragen. Selu erledigt das automatisch für dich:

  • Wenn du ein zu großes Bild anhängst, verkleinert und komprimiert Selu es vor dem Senden an Bedrock, um es unter das Limit zu bringen.
  • Wenn das Bild nicht ausreichend verkleinert werden kann, wird es weggelassen und der Agent erhält einen Hinweis, warum — das Gespräch kann trotzdem weitergehen.

Du musst Bilder also nicht selbst verkleinern, bevor du sie sendest — Selu übernimmt das. Kleinere Bilder ermöglichen dem Modell allerdings eine qualitativ bessere Ansicht.

  • „Access denied” — Stelle sicher, dass dein Token die richtigen Bedrock-Berechtigungen hat und das Modell in der gewählten Region aktiviert ist.
  • „Model not found” — Gehe in der AWS-Konsole zu Amazon Bedrock → Model access und beantrage Zugriff auf das Modell.
  • Hohe Latenz — Wähle eine Region, die geografisch nah an deinem Selu-Server liegt. Ein schnelleres Modell wie Haiku kann ebenfalls helfen.
  • Bild für den Agenten nicht sichtbar — Wenn der Agent erwähnt, dass er ein angehängtes Bild nicht sehen kann, war die Originaldatei möglicherweise zu groß, um sie unter das 5-MB-Limit zu komprimieren. Versuche, eine kleinere Version hochzuladen.