Grok leakt 370.000 Benutzergespräche
Das KI-Startup xAI hat Hunderttausende Gespräche zwischen Nutzern und dem Chatbot Grok auf Google und anderen Suchmaschinen veröffentlicht. In vielen Fällen seien vertrauliche Informationen ohne die Zustimmung der Nutzer preisgegeben worden, schreibt Forbes.
Jedes Mal, wenn ein Benutzer in einem Chat auf die Schaltfläche „Teilen“ klickt, wird ein eindeutiger Link erstellt. Dadurch kann die Konversation in Messengern, per E-Mail und auf andere Weise geteilt werden. Es stellt sich heraus, dass sie auch in Suchmaschinen wie Google, Bing und DuckDuckGo indexiert werden.
Mit anderen Worten: Wenn Sie auf die Schaltfläche „Teilen“ klicken, wird die Konversation für jeden im Internet öffentlich zugänglich gemacht.
Der Veröffentlichung zufolge wurden mehr als 370.000 Dialoge indexiert. Unter den veröffentlichten Gesprächen finden sich sowohl einfache Geschäftsaufgaben wie das Schreiben von Tweets als auch eher fragwürdige Inhalte, etwa die Generierung von Fake News über Terroranschläge in Kaschmir oder Versuche, eine Krypto-Wallet zu hacken.
Sie finden persönliche Fragen zu Medizin, Psychologie, Passwörtern. Heruntergeladene Bilder, Tabellen, Textdokumente waren zugänglich.
Einige Anfragen enthielten Obszönitäten und fremdenfeindliche Äußerungen. Grok gab sogar Anleitungen zur Herstellung von Drogen, selbstverbreitender Schadsoftware und Bomben sowie Ratschläge zu Selbstmordmethoden. In einem der Gespräche präsentierte der Chatbot einen Plan zur Ermordung von Elon Musk.
Zuvor hatte es einen ähnlichen Skandal mit ChatGPT von OpenAI gegeben. Damals erklärte das Unternehmen die Indizierung der Korrespondenz als Testfunktion und deaktivierte sie. Musk machte sich über den Konkurrenten lustig, und der offizielle Grok-Account versicherte, dass der Dienst über keine solche Funktion verfüge.
Wann die Indizierung der Korrespondenz aktiviert wurde, ist nicht bekannt. Nutzer hatten sich bereits im Januar darüber beschwert.
Einige der Drogen- und Waffenanfragen wurden wahrscheinlich von Cybersicherheitsexperten im Rahmen von KI-Tests gestellt. Doch selbst professionelle Forscher wussten nicht, dass ihre Gespräche von Suchmaschinen erfasst wurden.
Google erklärte, dass die Ressourcenbesitzer selbst entscheiden, ob Seiten indexiert werden. Das Unternehmen erlaubte dies zuvor mit Bard-Chats, entfernte die Funktion jedoch 2023.
Mittlerweile nutzen Marketingexperten die veröffentlichte Grok-Korrespondenz bereits für SEO-Zwecke. LinkedIn und BlackHatWorld diskutieren, wie sie zur Markenwerbung in den Google-Suchergebnissen eingesetzt werden kann.
Im Juli erklärte Sam Altman, dass private Gespräche mit ChatGPT rechtlich nicht geschützt seien. Falls nötig, könnte ein Gericht alle Informationen, die Nutzer mit dem Chatbot geteilt haben, vorladen.
Источник: cryptocurrency.tech
