Google bringt das FunctionGemma 270M Edge-AI-Modell auf den Markt
PANews, 22. Dezember – Laut dem offiziellen Google-Blog hat Google FunctionGemma veröffentlicht und Gemma 3 270M speziell als Funktionsaufrufmodell für lokale/offline-Agenten-Szenarien feinabgestimmt. Zu den Merkmalen gehören die Vereinheitlichung von Chat und Tool-Ausführung, Unterstützung für individuelles Fine-Tuning (die Genauigkeit von Mobile Actions wurde von 58% auf 85% erhöht), Miniaturisierung zur Anpassung an Edge-Geräte (wie NVIDIA Jetson Nano, Mobiltelefone) sowie Optimierung für JSON-/Mehrspracheneingaben. Offiziell werden Download-Optionen über Hugging Face und Kaggle sowie Anleitungen für das Fine-Tuning mit Transformers, Unsloth, Keras, NeMo und für die Bereitstellung mit LiteRT‑LM, vLLM, MLX, Llama.cpp, Ollama, Vertex AI und LM Studio bereitgestellt. Zudem wurden mehrere Demos und Datensätze/Colab in der Edge Gallery veröffentlicht.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Meta entwickelt eigene KI-Chips, die in der ersten Hälfte des nächsten Jahres eingesetzt werden sollen, um Kosten zu senken und die Abhängigkeit von Nvidia zu verringern.
Metas dritte Generation des selbst entwickelten KI-Chips, MTIA 450, wird in der ersten Hälfte des nächsten Jahres in den Rechenzentren eingesetzt. Die vierte Generation wird voraussichtlich Ende 2027 in die Rechenzentren eingeführt. Metas Verpflichtung zur Einführung eigener Chips in den nächsten zwölf Monaten entspricht bereits einer Stromäquivalenz von über 1 Gigawatt. Yee Jiun Song, Vizepräsident für Technik bei Meta, erklärte, dass der eigene Chip im Vergleich zu den derzeit von Nvidia ausgelieferten Produkten beim Betrieb von KI-Modellen effizienter ist und einen geringeren Energieverbrauch aufweist.
US-Öl dreht ins Minus
Mr. Coin spricht über Coins: Bitcoin-Marktanalyse am 15. September
Krypto-Preise
Mehr
