Mobile-Menu

On-Device-KI auf Basis von Llama 2 Qualcomm und Meta entwickeln KI-Apps für Smartphones und PCs

Von Bernhard Lück Lesedauer: 2 min |

Anbieter zum Thema

Dell GmbH
Fujitsu Technology Solutions GmbH
Disy Informationssysteme GmbH

Qualcomm Technologies und Meta arbeiten daran, dass das Sprachmodell Llama 2 von Meta künftig direkt auf Endgeräten wie Smartphones, PCs, VR/AR-Headsets und in Fahrzeugen ausgeführt werden kann – ohne dabei ausschließlich auf Cloud-Dienste zurückgreifen zu müssen.

On-Device-KI könne für mehr Privatsphäre und Sicherheit, zuverlässigere Anwendungen, bessere Personalisierung und geringere Kosten sorgen.
On-Device-KI könne für mehr Privatsphäre und Sicherheit, zuverlässigere Anwendungen, bessere Personalisierung und geringere Kosten sorgen.
(Bild: Qualcomm)

Qualcomm wird voraussichtlich ab 2024 Llama-2-basierte KI-Implementierungen auf Smartphones und PCs der Oberklasse zur Verfügung stellen. Entwicklern soll damit die Möglichkeit gegeben werden, neue generative KI-Anwendungen zu entwickeln, die die KI-Fähigkeiten der Snapdragon-Plattformen nutzen. Diese Anwendungen würden dann auch in Bereichen ohne Netzverbindung oder sogar im Flugzeugmodus funktionieren. Für Entwickler, die bereits damit beginnen möchten, Anwendungen für On-Device-KI zu optimieren, stehe der Qualcomm AI Stack zur Verfügung – ein spezielles Set von Tools, die es ermöglichen, KI auf Snapdragon effizienter zu verarbeiten, sodass der Einsatz von KI selbst auf kleinen, dünnen und leichten Geräten möglich ist.

Die On-Device-KI-Implementierung soll dazu beitragen, die Privatsphäre der Nutzer zu schützen, Sicherheitspräferenzen zu berücksichtigen, die Zuverlässigkeit von Anwendungen zu verbessern und eine Personalisierung zu ermöglichen – und das zu deutlich geringeren Kosten für die Entwickler im Vergleich zur ausschließlichen Nutzung von cloudbasierten KI-Implementierungen und -Diensten.

„Wir begrüßen Metas Ansatz für offene und verantwortungsbewusste KI und setzen uns dafür ein, Innovationen voranzutreiben und die Einstiegshürden für Entwickler jeder Größe zu senken, indem wir generative KI auf Endgeräte bringen“, sagte Durga Malladi, Senior Vice President und General Manager of Technology, Planning and Edge Solutions Business, Qualcomm Technologies, Inc. „Um generative KI effektiv in den Mainstream zu skalieren, muss KI sowohl in der Cloud als auch auf Endgeräten wie Smartphones, Laptops, in Fahrzeugen und auf IoT-Geräten laufen.“

Meta und Qualcomm arbeiten seit Langem gemeinsam an technologischen Innovationen und der Entwicklung von Premium-Geräten der nächsten Generation. Die derzeitige Zusammenarbeit der beiden Unternehmen zur Unterstützung des Llama-Ökosystems erstreckt sich auf Forschung und Produktentwicklung.

(ID:49625057)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung.

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte