Vitalik Buterin sprach über die Gefahren der KI für die Kryptoindustrie.

Der Einsatz künstlicher Intelligenz im Krypto-Projektmanagement erhöht laut Ethereum-Gründer Vitalik Buterin deren Anfälligkeit.

„Wenn man KI zur Verteilung von Projektmitteln einsetzt, werden die Leute unweigerlich anfangen, den Algorithmus zu hacken und mit allen erforderlichen Mitteln ‚das ganze Geld‘ zu fordern“, bemerkte er.

Buterin antwortete auf einen Beitrag des EdisonWatch-Erfinders Eito Miyamura, der demonstrierte, wie die neue ChatGPT-Funktion zum Diebstahl vertraulicher Benutzerinformationen verwendet werden könnte.

Der weit verbreitete Einsatz von KI zur Erstellung von Handelsbots und Portfolioagenten im Kryptobereich führte natürlich zu der Idee, das Protokollmanagement auf Basis dieser Technologie vollständig zu automatisieren.

Als Lösung schlug der Gründer von Ethereum das Info-Finance-Modell vor, das er bereits im Jahr 2024 entwickelte. Es sieht die Schaffung eines offenen Marktes für konkurrierende Modelle künstlicher Intelligenz vor, die von einer menschlichen Jury geprüft werden.

„[Dieser Ansatz] bietet sowohl Echtzeit-Modellvielfalt als auch integrierte Anreize für Modellautoren und externe Beobachter, solche Probleme schnell zu identifizieren und zu beheben“, betonte Buterin.

Der Programmierer hatte zuvor den Trend zur Erstellung „übermäßig agentenbasierter“ KI-Modelle kritisiert und eine verstärkte menschliche Aufsicht gefordert, um Qualität und Sicherheit zu verbessern.

Reaktion der Community

Die Reaktionen der Nutzer auf Buterins Aussage waren gemischt. Einer warf dem Ethereum-Gründer sogar Heuchelei vor.

„Sie meinen also, wir sollten öffentliche Güter nicht an KI auslagern, weil die Leute sie hacken und sie bei ihren Unterstützungsentscheidungen beeinflussen würden? Und Sie sehen nicht, wie heuchlerisch das ist?“, schrieb er.

Andere Teilnehmer brachten Gegenargumente vor. Einige merkten an, dass die Beschränkung von KI-Aktionen auf Smart Contracts die Governance flexibler und transparenter machen könnte:

„Wenn die verfügbaren Aktionen der KI durch Smart Contracts vorgeschrieben und eingeschränkt werden, kann die Governance sehr effektiv sein. Sie unterscheidet sich nicht wesentlich von Multisig-Wallets, bietet aber die Möglichkeit, die Entscheidungslogik zu überprüfen.“

Einige Mitglieder der Community stellten die praktische Anwendbarkeit des Informationsfinanzierungsmodells zur Finanzierung öffentlicher Güter in Frage. EigenLayer-Gründer Sriram Kannan wies auf die Schwierigkeit hin, subjektive Entscheidungen zu bewerten.

„Konventionelle Märkte scheinen für solche Probleme keine gute Lösung zu sein. Der wahre Wert (was eine Finanzierung wert ist) lässt sich in der Zukunft oft nicht objektiv ermitteln“, sagte er.

Kannan hält das Hackerproblem für vorübergehend. Er sagt, die Entwickler würden es „ziemlich schnell“ lösen.

Wie hilft ChatGPT beim Datendiebstahl?

Am 10. September fügte OpenAI ChatGPT Unterstützung für das Model Context Protocol hinzu, wodurch KI in andere Programme integriert werden kann, um als Agent zu fungieren.

Miyamura bezeichnete das Update als „erhebliches Sicherheitsrisiko“. Er sagte, Angreifer könnten Kalendereinladungen mit schädlichen Nutzdaten an die E-Mail-Adressen der Opfer senden.

Wenn ein Benutzer ChatGPT bittet, seinen Kalender zu überprüfen, liest der Chatbot den infizierten Code, auch ohne die Einladung anzunehmen. In diesem Fall „fängt“ der Angreifer die KI ab und verwendet sie, um verschiedene Befehle auszuführen – beispielsweise die Suche nach den persönlichen E-Mails des Opfers und den Diebstahl vertraulicher Informationen.

Miyamura betonte, dass zur Aktualisierung des Chatbots eine manuelle Bestätigung erforderlich sei.

„Entscheidungsmüdigkeit ist ein echtes Problem. Normale Menschen vertrauen KI oft blind und klicken automatisch auf ‚Bestätigen‘. KI kann sehr intelligent sein, aber sie kann auch ausgetrickst und dazu gebracht werden, Ihre Daten mit Phishing-Techniken auf primitivste Weise preiszugeben“, warnte er.

Zuvor hatten Angreifer gelernt, mithilfe von Grok verbotene Links zu X zu veröffentlichen.

Das KI-Team der Ethereum Foundation

Am 15. September kündigte David Krapis, der leitende Entwickler der nach Marktkapitalisierung zweitgrößten Kryptowährung, die Gründung eines Teams für künstliche Intelligenz bei der Ethereum Foundation an.

„Unsere Mission ist es, Ethereum zur primären Plattform für Berechnungen und Koordination zwischen KI und der Maschinenwirtschaft zu machen“, schrieb er.

Krapis identifizierte zwei Hauptbereiche, auf die sich die neue Struktur konzentrieren wird:

• Entwicklung von Mechanismen, die es KI-Agenten und Robotern ermöglichen, Zahlungen abzuwickeln, Aktionen zu koordinieren und Regeln einzuhalten, ohne dass Vermittler eingeschaltet werden müssen;
• Schaffung offener, überprüfbarer und zensurresistenter Alternativen, damit die Zukunft der künstlichen Intelligenz nicht von einer kleinen Gruppe von Unternehmen kontrolliert wird.

Kurzfristig wird das Team den ERC-8004-Standard für KI-Agententransaktionen fertigstellen. Er wird auf der Devconnect-Konferenz im November vorgestellt.

Источник: cryptocurrency.tech