La fraude aux jetons est arrivée et elle est MAUVAISE (YouTube)
· Source : Simon Willison
Claire Vo, fondatrice de ChatPRD, une plateforme d’IA destinée à aider les chefs de produit à transformer des idées en spécifications, a signalé une hausse importante de fraudes liées aux tokens sur son service. Depuis l’arrivée de GPT‑4, l’outil propose des essais gratuits, mais des utilisateurs malintentionnés ont exploité cet accès pour obtenir un usage illimité de l’IA ou revendre les tokens afin de créer des entreprises commerciales autour de l’agente ChatPRD. Parmi les cas évoqués, une étude internationale de cartes pour Roblox et Fortnite aurait utilisé des boucles d’essais gratuits et des codes promotionnels pour canaliser des ressources vers son propre agent et produire du contenu sur ces plateformes. Un schéma récurrent dans les prompts abusifs comprend des demandes d’images SVG de pélicans à vélo, que les escrocs utilisent pour identifier les signatures de différentes familles de modèles et ainsi déduire l’identité de versions préliminaires d’IA dans des services comme OpenRouter. Face à l’ampleur de l’abus, Claire a décidé de supprimer totalement les essais gratuits, jugeant cette mesure indispensable pour protéger l’intégrité du produit et empêcher toute exploitation commerciale non autorisée. Cette nouvelle souligne comment la facilité d’accès aux outils génératifs peut être compromise, obligeant les fournisseurs à repenser leurs modèles économiques et à renforcer les mécanismes de sécurité pour prévenir l’usage abusif de l’IA.
Lire l’article original sur Simon Willison
Ce résumé est une synthèse informative réalisée par dataqbs.com. Tous les droits sur le contenu original appartiennent à son auteur et au média cité. Nous agissons uniquement en tant que curateurs d’actualités technologiques et ne revendiquons aucune paternité.