LLMs & Knowledge-Graphen, Teil 3 Die LLM-Familie Anthropic Claude 3.5 im Überblick

Anbieter zum Thema

Fsas Technologies GmbH

Board Deutschland GmbH

QUNIS GmbH

Anthropic Claude ist eine Modellfamilie, die die Modellvarianten Haiku 3.5, Sonnet 3.5 und Opus umfasst. Sie eignen sich für Codierung, Schreiben, Prognosen, Datenextraktion und Reports, Agentenaufgaben und den Einsatz von Tools. Anthropic legt großen Wert auf Mehrsprachigkeit, die Datensicherheit und den Datenschutz.

Das intelligenteste und fortschrittlichste Modell von Anthropic, Claude 3.5 Sonnet, bietet leistungsfähige Fähigkeiten für eine Vielzahl von Aufgaben und Bewertungen. Es zeichnet sich durch Codierung, Schreiben, visuelle Datenextraktion, Agentenaufgaben und den Einsatz von Tools aus.

Die aktualisierte Version Claude 3.5 Sonnet v2 kann Computeraktionen wie Tastatureingaben und Mausklicks generieren und Aufgaben ausführen, die Hunderte von Schritten erfordern. Laut Anthropic können Nutzer Routinearbeiten und alltägliche Aufgaben mit dem ersten KI-Modell auf Front-End-Ebene automatisieren, um Computer auf diese Weise zuverlässig zu nutzen. Entwickler können Claude anweisen, Computer so zu benutzen, wie Menschen es tun – indem er auf einen Bildschirm schaut, einen Cursor bewegt, auf Schaltflächen klickt und Text eingibt und so Aufgaben erledigt, die Hunderte von Schritten erfordern.

Bildergalerie

Bildergalerie mit 5 Bildern

Zu den unterstützten Anwendungsfällen gehören: RAG oder Suchen und Abrufen großer Wissensmengen, Produktempfehlungen, Prognosen, gezieltes Marketing, Codegenerierung, Qualitätskontrolle, Parsen und Datenextraktion von Text aus Bildern wie Charts und Diagrammen. Anthropic beschreibt diese Funktion wie folgt: „Es kann Texte aus unvollkommenen Bildern präzise transkribieren — eine Kernfunktion für Einzelhandel, Logistik und Finanzdienstleistungen, bei denen KI aus einem Bild, einer Grafik oder einer Illustration mehr Erkenntnisse gewinnen kann als aus Text allein. Das Modell ist fähig, eine Vielzahl von visuellen Formaten zu verstehen, darunter Fotos, Diagramme, Grafiken und technische Diagramme. Mit Claude 3 können Nutzer mehr Einblicke aus Dokumenten gewinnen, Web-UI und diverse Produktdokumentationen verarbeiten, Image-Katalog-Metadaten generieren und vieles mehr.“

„Das Modell legt auch die Messlatte für eine Reihe kognitiver Aufgaben höher“, so der Anbieter weiter: „Es versteht nuancierte Anweisungen und Zusammenhänge besser, generiert kreative Problemlösungen, erkennt und korrigiert Fehler und liefert differenziertere Analysen komplexer Daten.“

LLMs & Knowledge-Graphen, Teil 1

GraphRAG entwickelt sich zum Gamechanger für den KI-Einsatz

Die Unterstützung des gesamten Software-Entwicklungslebenszyklus reicht vom ersten Design über Bugfixes und die Wartung bis hin zur Optimierung. Damit soll es realisierbar sein, Chatbots mit einem menschenähnlichen „Klang“ auf die Beine zu stellen. Die anderen Use Cases sind neben den oben erwähnten Aufgaben auch Q&A-Plattformen sowie die Automation repetitiver Aufgaben und Tätigkeiten.

Die maximale Anzahl von Tokens liegt bei 200.000. Das entspricht ungefähr 150.000 Wörtern oder über 500 Seiten Material. Kunden können jetzt technische Dokumentationen wie ganze Codebasen, Finanzberichte oder sogar lange literarische Werke hochladen. „Durch die Fähigkeit, mit großen Mengen an Inhalten oder Daten zu kommunizieren, kann Claude zusammenfassen, Fragen und Antworten durchführen, Trends prognostizieren sowie mehrere Dokumente vergleichen“, gibt der Anbieter an. Die unterstützten Sprachen sind Englisch, Spanisch, Japanisch und mehrere andere Sprachen. Feintuning wird derzeit nicht unterstützt.

Claude 3.5 Haiku

Claude 3.5 Haiku ist optimiert für schnelle, leistungsstarke Aufgaben. Inzwischen soll es laut Anbieter genauso schnell sein wie das größte Anthropic-Modell Claude Opus 3.0. Es ist ein reines Textmodell, das sich in Bereichen wie Schreiben, Datenextraktion und Kennzeichnung sowie Code-Vervollständigung auszeichnet. Aber auch im Reasoning habe es Stärken, sodass es sich für Aufgaben eigne, die sowohl Geschwindigkeit als auch „Intelligenz“ erfordern.

Zu den Use Cases zählen: Code-Vervollständigungen, interaktive Chat-Bots, Datenextraktion und Kennzeichnung sowie Inhaltsmoderation in Echtzeit. Die Einsatzbereiche sind Bildungsinstitute mit vielen Studierenden, E-Commerce-Lösungen mit Kundeninteraktion und weitere User, die große Mengen unstrukturierter Daten verarbeiten müssen, etwa im Finanzsektor, im Gesundheitswesen oder in der Forschung. „In praktischen Geschäftsszenarien kann Claude 3.5 Haiku Finanzanalysten dabei helfen, komplexe Finanzberichte zu analysieren, wichtige Trends zu identifizieren und aufschlussreiche Zusammenfassungen für Stakeholder zu erstellen.“

Haiku 3.5 eigne sich gut für Produkte, die für Benutzer bestimmt sind, für spezielle Aufgaben von Sub-Agenten und für die Generierung personalisierter Erfahrungen aus riesigen Datenmengen – wie Kaufhistorie, Preisgestaltung oder Bestandsdaten. Es wird zunächst als reines Textmodell veröffentlicht. Die maximale Anzahl von Tokens liegt, wie bei Sonnet, bei 200.000. Haiku unterstützt auch die gleichen Sprachen. Auch hier ist kein Feintuning mehr realisierbar, wie es noch in Version 3.0 auf Amazon Bedrock verfügbar war.

LLMs & Knowledge-Graphen, Teil 2

AWS setzt bei KI auf Demokratisierung, Sicherheit und Verantwortung

Claude 3 Opus

Claude 3 Opus ist laut Anbieter ein „leistungsstarkes und zuverlässiges“ KI-Modell mit Spitzenleistung bei hochkomplexen Aufgaben. Es kann offene Aufforderungen und unsichtbare Szenarien mit bemerkenswerter Geläufigkeit und menschlichem Verständnis bewältigen. User verwenden Opus, um Aufgaben zu automatisieren und Forschung und Entwicklung in einer Vielzahl von Anwendungsfällen und Branchen zu beschleunigen.

Zu den Use Cases zählen: Aufgabenautomatisierung, interaktive Codierung, Forschungsüberprüfung, Brainstorming und Hypothesengenerierung, erweiterte Analyse von Diagrammen und Grafiken, Finanz- und Markttrends, Prognosen. Die Eckdaten sind die gleichen wie bei Haiku und Sonnet: 200.000 maximale Tokens, mehrere Sprachen, kein Feintuning.

Zu den allgemeinen Sicherheitsmerkmalen der Claude-Modelle ist die Resistenz gegen Jailbreaks und Missbrauch, zudem wurden sie entwickelt, um das „Markenrisiko“ zu reduzieren, das heißt, nicht nur der Marke „Anthropic“, sondern auch das den Kundenunternehmens. Anthropic und AWS haben sich laut der Anbieter zur „Bereitstellung von KI-Lösungen für Unternehmen bekannt, bei denen Genauigkeit, Vertrauenswürdigkeit, Zuverlässigkeit und branchenführende Sicherheitsvorkehrungen im Vordergrund stehen“.

Anthropic und Bedrock

Anthropic-Claude-Modelle lassen sich im Amazon-KI-Framework „Bedrock“ ausführen und erweitern. Bedrock bietet diverse Möglichkeiten, so etwa die Skalierbarkeit von Rechenleistung, Knowledge Bases, die Bereitstellung von rechtlichen Leitlinien in Amazon GuardRails und natürlich die Fähigkeiten von Amazon SageMaker, einer Entwicklungs- und Optimierungsumgebung für KI- und Machine-Learning-Modelle. Dort ließe sich auch Feintuning realisieren.

Interessenten sollten auf jeden Fall die Preislisten studieren, denn inzwischen verspricht Anthropic mehr Leistung für weniger Kosten. Unter den vier Zahlungsplänen Free, Pro, Team und Enterprise sind verschiedene Vorteile, Merkmale und Verfügbarkeitsregionen (!) auszuwählen. Für die Anthropic-API fallen weitere Kosten an. Hier sind Haiku und Sonnet ganz klar am günstigsten, wohingegen Opus fünfmal so viel wie Sonnet kostet.

Anwenderbeispiele

Der deutsche Reiseveranstalter TUI nutzt Generative KI, um automatisierten Content von hoher Qualität zu erzeugen. Die Verantwortlichen beschlossen, einen Prototypen mithilfe von Amazon Bedrock zu erstellen, denn dieses Framework bot ihnen eine sichere Umgebung, Kostenkontrolle, Governance und Ressourcen für Training ihrer Modelle. TUI verwendete gleich zwei Modelle, nämlich Llama 2 für die Erzeugung von Hotelbeschreibungen und Claude 2 für die Formatierung des Outputs. Das verkürzte die Dauer der Inhaltserzeugung von acht Stunden auf unter zehn Sekunden. Gleichzeitig konnten die vorgegebenen Qualitätsstandards eingehalten werden.

Zalando

Der Mode-Retailer Zalando arbeitet mit über 5.000 Partnermarken zusammen. Zusammen mit AWS hat der Online-Anbieter eine Pipeline für die automatische Extraktion von Metadaten aus unstrukturierten Produktbeschreibungen erstellt. Diese End-to-End-Lösung nutzt eines der Anthropic-Claude-Modelle auf der Basis von Amazon Bedrock.

Mit sorgfältig erstellten Prompts, die detaillierte Anweisungen und Übersichten sowie Bildbeispiele enthalten, will Zalando seinen Kunden ein besseres Kauferlebnis bieten. Kunden können durch iteratives Prompt Engineering ihre Suchergebnisse filtern und genau finden, was sie wollen, ohne mehrmals Artikel zu bestellen, anzuprobieren und zu retournieren. Dadurch helfen sie mit, den CO₂-Fußabdruck bei der Lieferung schnell zu verringern, Retouren zu verringern und die Betriebskosten zu senken.

Siemens

Siemens setzt für seine globale Suchfunktion verschiedene Technologien von Amazon wie etwa Bedrock sowie als LLMs Anthropic Claude Sonnet und Haiku ein. Die Suchfunktion ist sowohl umfassend, für Kunden, Mitarbeiter und Partner zugänglich, als auch vollständig rechtskonform. Daher nutzt sie mittlerweile auch Amazon Bedrock GuardRails, um unangemessene Anfragen auszufiltern oder zu korrigieren. Die umfassende Lösung ist in einem Blog detailliert von den deutschsprachigen Verantwortlichen beschrieben. Der Blog umfasst vier Haupterkenntnisse und eine Zusammenfassung, die sehr lesenswert sind.

(ID:50256613)