Copilot un employé de Microsoft a déposé une plainte contre son entreprise auprès de la Federal Trade Commission (FTC) des États-Unis.
Dans une lettre adressée à la présidente de la FTC, Lina Khan, l’employé affirme avoir demandé à plusieurs reprises à Microsoft de retirer Copilot Designer de l’utilisation publique jusqu’à ce que des mesures de sécurité adéquates soient mises en place, mais que cette recommandation a été rejetée.
Contenu
L’employé, nommé Jones, demande que CopilotDesigner soit accessible à tous et soit classé uniquement pour les adultes.
Découvrez « Rebel Moon – Partie 2 : L’Entailleuse » de Zack Snyder, disponible sur Netflix
Les demandes et les plaintes de Jones sont basées sur les déclarations de CopilotDesigner, un outil soutenu par OpenAI’s Dall-E 3.
Jones affirme que l’outil d’intelligence artificielle peut générer des images sexuellement explicites, violentes ou dangereuses en réponse à des commandes simples. Ces affirmations ne sont pas sans fondement.
CNBC a réussi à recréer tous les scénarios décrits par Jones en utilisant les demandes détaillées dans la version gratuite du logiciel.
Les préoccupations de Jones concernant Copilot Designer
Selon Jones, de nombreux consommateurs sont confrontés à ces problèmes, mais Microsoft ne fait rien pour les résoudre.
Il affirme que l’équipe a reçu plus de 1 000 plaintes de rapport de produit par jour, mais qu’il n’a pas les ressources nécessaires pour enquêter et résoudre ces problèmes de manière adéquate.
Microsoft a répondu en affirmant qu’elle était déterminée à traiter toutes les préoccupations des employés conformément à ses politiques.
Rappelons que Copilot Designer avait créé des images controversées de Taylor Swift qui se propageaient rapidement sur X. L’intelligence artificielle Gemini de Google avait également produit des images de nazis et d’autres images historiquement inexactes.
