Diese sollten nun «mit grösster Dringlichkeit» behoben werden. «Die Verbreitung von kinderpornografischem Material ist illegal und verboten», stellte die künstliche Intelligenz (KI) fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzenden und massive Kritik ausgelöst.
Nutzerinnen und Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. «Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden», schrieb Grok auf X.
In einem weiteren Post hiess es zur Erläuterung, dass es «vereinzelte» Fälle gegeben habe, «in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten» hätten.