Google hat eine weitere macOS-App mit integriertem lokalen KI-Modell vorgestellt. Dieses Mal geht es um „intelligentes Erstellen von Notizen“ in Verbindung mit den Arbeitsmaterialien, die ein Nutzer auf seinem Rechner hat. Die App nennt sich Google AI Edge Foresight („Foresight“ steht für Voraussicht). Darin steckt Googles hauseigenes EmbeddingGemma-2-Modell, das auch schon für Apples KI-Runtime MLX optimiert ist.

Inhalte sollen den Rechner dabei nicht verlassen, beteuert Google, die gesamte KI-Inferenz laufe „zu 100 Prozent lokal auf Ihrem Gerät“. Persönliche Wissensquellen, Audio von Treffen und Notizen „verlassen Ihren Computer nie“. Dateien, Aufnahmen oder Transkripte würden auch nicht an externe Cloud-Server geschickt. Die App arbeitet zudem offline.

Seine lokalen KI-Systeme in Form von Apps nennt Google „AI Edge“. Zuvor gab es in der Serie bereits die Anwendung Google AI Edge Eloquent, die Meetings und Gedanken auf Mac und Apple-Mobilgeräten transkribiert. AI Edge Eloquent beherrscht mittlerweile auch die deutsche Sprache, nachdem sie zunächst nur auf Englisch nutzbar war. Wie das mit Foresight sein wird, blieb zunächst unklar, allerdings beherrscht EmbeddingGemma 2 selbst mehr als 100 Sprachen. Google vertreibt das Produkt als Direktdownload von seiner Website, nicht über Apples App Store.

Google AI Edge Foresight kann Meetings über Google Meet, Zoom oder per Mikrofon mitlauschen und lokales Systemaudio in Echtzeit transkribieren. Bei Zusammenfassungen und der Weiterverarbeitung greift die App dann auf vorhandene Inhalte auf dem Rechner zurück, die vorher freizugeben sind. Das können Office-Dokumente, Plain-Text- und Markdown-Dateien, Browser-Lesezeichen und PDFs sein. Die App kommt auch mit einer integrierten semantischen Suche. Sie läuft auf allen Systemen mit Apple Silicon, Intel-Macs werden nicht unterstützt. „Dank leichtgewichtiger Gemma-Quantisierung und speichereffizienter Vektor-Kernels bleibt Foresight ressourcenschonend und belastet den Akku kaum“, verspricht Google.

EmbeddingGemma 2 besteht aus 740 Millionen Parametern und ist als multimodales Modell ausgelegt, das mit Texten, Bildern, Audio und sogar Video umgehen kann. Es wird mit Gemma 4 kombiniert und ermöglicht so lokales RAG (Retrieval-augmented generation), um den eigenen Datenbestand zu durchforsten.

Es gibt derzeit einen Boom an KI-Apps für den Mac. So hatte Meta Muse herausgebracht. Allerdings gibt es hierbei Sicherheitsbedenken. Das KI-System von Meta hatte, ebenso wie die offizielle ChatGPT-App, Lücken, über die schlimmstenfalls Daten hätten abfließen können. Anders als Foresight basieren beide Apps auf Cloud-Modellen und benötigen dauerhaft Internetzugang. Dennoch sollte man auch mit AI Edge Foresight vorsichtig sein, welche Informationen man freigibt. Apple selbst will den bei KI-Apps beliebten „Full Disk Access“ künftig stärker einschränken.

(bsc)