Elon Musks KI-Startup xAI hat die Funktionen von Grok im sozialen Netzwerk X eingeschränkt. Nach einem kürzlich aufgedeckten Skandal deaktivierten die Entwickler die Funktion, die authentische Bilder von echten Personen generierte.
Das Unternehmen geht gegen problematische Inhalte und Nutzer vor, die gegen die Regeln von X verstoßen. Personen, die versuchen, nach solchem Material zu suchen, werden den Strafverfolgungsbehörden gemeldet.
„Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass Bilder von echten Personen in freizügiger Kleidung, wie zum Beispiel Bikinis, auf einem Grok-Konto bearbeitet werden können. Die Einschränkung gilt für alle Nutzer, einschließlich zahlender Abonnenten“, heißt es in der Mitteilung.
Das Erstellen und Bearbeiten von Bildern über ein Grok-Konto auf der X-Plattform ist nun nur noch Premium-Nutzern vorbehalten. xAI möchte damit diejenigen zur Rechenschaft ziehen, die die Funktionen des Chatbots missbrauchen.
Die Entwickler bezeichneten die Einschränkungen als Ergänzung zu bestehenden Sicherheitsprotokollen und kündigten die Implementierung zusätzlicher Schutzmechanismen an.
Ein weiterer Skandal
Anfang Januar geriet Grok in einen weiteren Skandal, weil das Unternehmen in der Lage war, Bilder von nackten realen Personen und Minderjährigen zu erstellen.
Die britische Organisation Internet Watch Foundation gab an, ihre Analysten hätten „kriminelles Material“ von Kindern im Alter von 11 bis 13 Jahren entdeckt, das wahrscheinlich mit Grok erstellt wurde.
Musk sagte, ihm sei kein Fall bekannt, in dem ein Chatbot zur Erstellung von Bildern nackter Minderjähriger verwendet worden sei.
Mir sind keine von Grok generierten Nacktbilder von Minderjährigen bekannt. Absolut keine.
Grok generiert Bilder natürlich nicht spontan, sondern nur auf Anfrage des Nutzers.
Wenn es aufgefordert wird, Bilder zu generieren, weigert es sich, illegale Inhalte zu erzeugen, da dies seinem Betriebsprinzip entspricht… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) 14. Januar 2026
„Grok generiert sich natürlich nicht spontan. Es geschieht auf Aufforderung des Nutzers“, betonte der Unternehmer.
Laut seinen Angaben weigert sich der Chatbot, illegale Inhalte zu erstellen. Gleichzeitig gebe es mögliche Fälle von „feindseligem Hacking“, die zu „unerwarteten Ergebnissen“ führen könnten.
Am 11. Januar ordnete die malaysische Regulierungsbehörde vorübergehende Beschränkungen an, nachdem X Corp wiederholt nicht in der Lage gewesen war, die mit ihrem KI-Dienst verbundenen Risiken zu bewältigen.
Am Tag zuvor hatte Indonesien aus ähnlichen Gründen den Zugang zum Chatbot gesperrt und Unternehmensvertreter zu einer Besprechung einbestellt.
Die Aufsichtsbehörden in der EU, Großbritannien, Brasilien und Indien haben eine Untersuchung der Rolle von Grok bei der Verbreitung von Deepfakes gefordert.
Ein Zusammenschluss von 28 Organisationen, die sich für den Schutz digitaler Rechte, Frauenrechte und Kinderrechte einsetzen, forderte die Führungskräfte von Apple und Google auf, Maßnahmen zu ergreifen und X sowie den Chatbot aus den App Stores zu entfernen.
Zur Erinnerung: Im Januar wird Grok zusammen mit Googles generativer KI-Engine in das Netzwerk des Pentagons integriert.