Tether hat ein Framework zum Trainieren von KI-Modellen auf Smartphones und herkömmlichen GPUs veröffentlicht.

• Das Unternehmen kündigte die Möglichkeit an, KI-Modelle direkt auf mobilen Geräten weiter zu trainieren.
• Das Framework unterstützt Chips von AMD, Intel und Apple sowie mobile GPUs.
• Die Lösung reduziert die Abhängigkeit von Nvidia und der Cloud-Infrastruktur.

Tether hat die Einführung eines neuen Frameworks für das Training künstlicher Intelligenz angekündigt. Es ermöglicht die Optimierung von Sprachmodellen auf Endgeräten, darunter Smartphones und Grafikkarten anderer Hersteller als Nvidia.

Die Lösung wurde Teil des QVAC-Produkts, einer Plattform zur Erstellung und Verwaltung von KI-Anwendungen.

Laut dem Unternehmen nutzt die Technologie Microsofts BitNet-Architektur und LoRa-Verfahren, wodurch der Speicher- und Rechenaufwand deutlich reduziert wird. Dies vereinfacht das Ausführen und Trainieren von Modellen auf Geräten mit begrenzter Leistung.

Das Framework unterstützt plattformübergreifenden Betrieb und kann Chips von AMD, Intel und Apple Silicon sowie mobile GPUs von Qualcomm und Apple nutzen. Dadurch erweitert Tether den Zugang zu KI-Tools über die traditionelle Infrastruktur hinaus.

Schnittpunkt der Branchen

Das Unternehmen gab bekannt, dass Ingenieure Modelle mit bis zu einer Milliarde Parametern auf Smartphones in weniger als zwei Stunden weiter trainieren konnten. Kleinere Modelle erzielten die gewünschten Ergebnisse in nur wenigen Minuten.

Die Unterstützung für Modelle mit bis zu 13 Milliarden Parametern erstreckt sich auch auf mobile Geräte.

Wie Tether feststellte, reduziert die Verwendung einer 1-Bit-Architektur den Videospeicherbedarf im Vergleich zu 16-Bit-Modellen um bis zu 77,8 %. Dadurch können größere Modelle auf Standardhardware betrieben werden.

Darüber hinaus beschleunigt das Framework die Ergebnisableitung, da mobile GPUs Modelle schneller verarbeiten als CPUs. Zu den potenziellen Anwendungsfällen hebt das Unternehmen das Training direkt auf dem Gerät und föderierte Modelle hervor, bei denen die Daten das Gerät des Nutzers nie verlassen.

Die Einführung erfolgt vor dem Hintergrund des wachsenden Interesses von Krypto-Unternehmen an KI und Computerinfrastruktur.

Mining-Unternehmen und Blockchain-Dienstleister investieren aktiv in HPC und Lösungen für autonome KI-Systeme. Experten gehen davon aus, dass dadurch ein neues Segment an der Schnittstelle von Kryptoindustrie und künstlicher Intelligenz entsteht.

Zur Erinnerung: Wir berichteten, dass der Entwickler humanoider Roboter, Neura Robotics, unter Beteiligung von Tether Investitionen in Höhe von 1,2 Milliarden Dollar erhalten wird.