dataqbs

La frode con token è arrivata e è cattiva (YouTube)

· Fonte: Simon Willison

Claire Vo, fondatrice di ChatPRD, una piattaforma basata su IA che aiuta i product manager a trasformare idee in specifiche, ha segnalato un aumento significativo di frodi con token nel suo servizio. Con l’arrivo di GPT‑4, lo strumento ha offerto prove gratuite, ma utenti malintenzionati hanno sfruttato quell’accesso per ottenere un uso illimitato dell’IA o per rivendere i token e avviare attività commerciali sull’agente di ChatPRD. Tra i casi descritti, uno studio internazionale di mappe per Roblox e Fortnite avrebbe utilizzato cicli di prove gratuite e codici promozionali per indirizzare risorse verso il proprio agente e creare contenuti su quelle piattaforme. Un modello ricorrente nei prompt abusivi include richieste di immagini SVG di pellicani che cavalcano biciclette, che gli truffatori usano per identificare firme di diverse famiglie di modelli e, così, dedurre l’identità di versioni preliminari di IA in servizi come OpenRouter. Di fronte all’ampiezza dell’abuso, Claire ha deciso di eliminare completamente le prove gratuite, una misura che considera necessaria per proteggere l’integrità del prodotto e prevenire l’esplorazione commerciale non autorizzata. Questa notizia è rilevante perché dimostra come la facilità di accesso a strumenti generativi possa essere compromessa, costringendo i fornitori a riconsiderare i propri modelli di business e a rafforzare i meccanismi di sicurezza per prevenire l’uso improprio dell’IA.

Leggi l’articolo originale su Simon Willison

Questo riassunto è una sintesi informativa realizzata da dataqbs.com. Tutti i diritti sul contenuto originale appartengono al suo autore e alla testata citata. Agiamo esclusivamente come curatori di notizie tecnologiche e non rivendichiamo alcuna paternità.

Legga questo articolo in Español · English · Deutsch · Français