Le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux

Le dernier modèle de génération d'images 4o d'OpenAI est étonnamment efficace pour générer du texte à l'intérieur des images, un exploit qui s'était avéré particulièrement difficile pour ses nombreux prédécesseurs.

Et cela en fait un outil puissant pour générer des images de documents frauduleux, comme l’ont constaté les utilisateurs.

Par exemple, Deedy Das, directeur de Menlo Ventures, a tweeté une photo d'un faux reçu pour un repas somptueux dans un vrai steakhouse de San Francisco, comme l'a repéré TechCrunch .

« On peut utiliser 4o pour générer de faux reçus », a écrit Deedy Das. « Il existe trop de processus de vérification réels qui s'appuient sur de “vraies images” comme preuve. Cette époque est révolue. »

Cela promet !!!

L'image elle-même, à première vue, est assez convaincante et comprend une répartition d'un repas à plusieurs plats, un sous-total correct et même un calcul de pourboire.

Un autre utilisateur a même réussi à modifier davantage l'image en ajoutant un filtre réaliste et des taches de nourriture — le moyen idéal pour commettre une fraude aux dépenses, si vous en aviez envie.

Et ce n'est que la partie émergée de l'iceberg. Deedy Das a également découvert que 4o se faisait un plaisir de produire des ordonnances frauduleuses pour des substances réglementées comme le Zoloft.

Escouade anti-fraude

Ce développement illustre les progrès réalisés par les générateurs d'images alimentés par l'IA. Les modèles précédents peinaient à recréer les lettres, ce qui produisait souvent des formes déformées et des phrases involontairement hilarantes .

Au-delà de la simulation de dépenses pour des repas somptueux, la capacité de plus en plus astucieuse d'OpenAI à générer de faux documents pourrait ouvrir la porte à tout, des faux formulaires fiscaux et chèques bancaires aux fausses cartes d'identité et certificats de naissance.

Reste à savoir si notre capacité à détecter cette avalanche de faux documents est avérée. Mais compte tenu des efforts actuels des entreprises d'IA, la situation ne s'annonce pas très bien. Des garde-fous tels que les métadonnées ajoutées ou les filigranes révélant si une image a été générée par une IA sont facilement contournés.

Avant même l'avènement des puissants générateurs d'images alimentés par l'IA, une enquête de 2015 révélait que 85 % des personnes interrogées admettaient avoir menti pour obtenir un remboursement plus important. Nombre de ces cas de fraude passent inaperçus en raison d'un manque de contrôles internes et de processus de comptabilité fournisseurs défaillants.

En d’autres termes, vous ne pouvez plus croire tout ce que vous voyez en ligne.

https://futurism.com/the-byte/openai-new-image-generator-fake-receipts