Rechtbank Amsterdam verbiedt uitkleedfunctie chatbot Grok in Nederland

De rechtbank in Amsterdam heeft besloten dat de AI-chatbot Grok in Nederland de functie om gebruikers virtueel 'uit te kleden' niet meer mag aanbieden. Grok maakt deel uit van het socialemediaplatform X, eigendom van Elon Musk. Deze uitkleedfunctie stelde gebruikers in staat om beelden te creëren die eenvoudig via het platform verspreid kunnen worden.

Het verbod volgt op zorgen over de mogelijke gevolgen van deze functie, met het oog op online misbruik en de bescherming van gebruikers. Het expertisecentrum online misbruik heeft hierbij een belangrijke rol gespeeld door de risico's van de uitkleedfunctie te onderstrepen. De uitspraak van de rechtbank benadrukt dat bepaalde technologieën moeten voldoen aan wettelijke en ethische normen, zeker als het gaat om het beschermen van gebruikers online.

Met deze maatregel wordt een grens gesteld aan de functionaliteiten van AI-chatbots binnen Nederland, vooral wanneer deze kunnen leiden tot ongewenste verspreiding van potentieel schadelijke beelden. Het geeft aan dat regelgeving en rechtspraak actief ingrijpen om digitale veiligheid en privacy te waarborgen.