Les documents de l'armée de l'air américaine sur un test de Gen AI ne sont que des pages entières de rédactions

L'armée de l'air a payé une entreprise qui effectue des travaux d'intelligence artificielle générative pour le gouvernement. L'armée de l'air ne veut cependant pas révéler ce qu'elle a fait.

Le laboratoire de recherche de l’armée de l’air (AFRL : Air Force Research Laboratory), dont le slogan est « Win the Fight », a versé plus de cent mille dollars à une entreprise qui fournit des services d’IA générative à d’autres services du ministère de la Défense. Mais l’AFRL a refusé de dire quel était exactement le but de la recherche et a fourni page après page des documents entièrement censurés et expurgés en réponse à une demande de Freedom of Information Act (FOIA : Freedom of Information Act) de 404 Media concernant le contrat.

404 Media est une publication en ligne qui se concentre sur la technologie et les reportages sur Internet. Elle couvre des sujets tels que le piratage informatique, le travail du sexe, les communautés en ligne spécialisées et le mouvement pour le droit à la réparation. La publication appartient aux travailleurs et à ses journalistes.

Les nouvelles montrent que, même si l’IA continue de proliférer dans pratiquement tous les secteurs et de plus en plus dans les ministères, certaines parties de l’armée peuvent rester muettes sur leurs intentions concernant l’IA générative, même lorsque les modèles utilisés sont parfois les mêmes que ceux auxquels tout le monde a accès ou sont open source, et lorsque le travail n’est pas classifié. 404 Media a précédemment rapporté que l’armée de l’air avait testé un chatbot IA axé sur la surveillance.

« Ask Sage : Generative AI Acquisition Accelerator », peut-on lire dans un document d’approvisionnement de décembre 2023, sans aucune information supplémentaire sur le cas d’utilisation prévu. L’armée de l’air a versé 109 490 dollars à Ask Sage, indique le document. 

Ask Sage est une entreprise qui se consacre à la fourniture d'une IA générative au gouvernement. En septembre, l'entreprise a annoncé que l'armée mettait en œuvre les outils d'Ask Sage. En octobre, elle a obtenu l'autorisation « IL5 » , un terme du DoD désignant les mesures nécessaires pour protéger les informations non classifiées selon une certaine norme. 

404 Media a créé un compte sur le site Ask Sage. Une fois connecté, le site présente une liste des modèles disponibles via Ask Sage. Ils incluent essentiellement tous les principaux modèles fabriqués par des sociétés d'IA bien connues et des sociétés open source. GPT-4o et DALL-E-3 d'Open AI, Claude 3.5 d'Anthropic et Gemini de Google sont tous inclus. 

L’entreprise a également récemment ajouté le modèle DeepSeek R1 développé par la Chine , mais inclut une clause de non-responsabilité. « AVERTISSEMENT. N’UTILISEZ PAS CE MODÈLE AVEC DES DONNÉES SENSIBLES. CE MODÈLE EST BIAISÉ ET A DES LIENS AVEC LE PCC [Parti communiste chinois] », peut-on lire. Ask Sage est un moyen pour les employés du gouvernement d’accéder aux modèles d’IA et de les utiliser de manière plus sécurisée. Mais seuls certains des modèles de l’outil sont répertoriés par Ask Sage comme étant « conformes » ou « capables » de gérer des données sensibles.

Dans un Discord Ask Sage associé, des clients apparents demandent de l’aide à l’entreprise ou font d’autres commentaires. « Merci pour tout le travail acharné et les grandes améliorations qui facilitent tellement notre vie professionnelle », peut-on lire dans un message publié ce mois-ci. Le nom d’utilisateur correspond à celui d’une personne qui indique son poste comme « Mise en œuvre de l’IA, guerre de l’information – Commandement de combat aérien » sur LinkedIn.

Mais l’armée de l’air a refusé de fournir des détails précis sur ce pour quoi elle a payé Ask Sage. 404 Media a demandé tous les dossiers d’approvisionnement liés au contrat Ask Sage. Au lieu de cela, l’armée de l’air a fourni une présentation de 19 pages qui aurait apparemment expliqué le but du test, tout en supprimant 18 des pages.

La seule page disponible disait : « Ask Sage, Inc. étudiera l’utilisation d’Ask Sage par les aviateurs acquéreurs avec la DAF pour les technologies innovantes à double usage liées à la défense concernant la mission d’exploration des LLM pour l’utilisation de la DAF tout en explorant les avantages anticipés, définira clairement les adaptations de solutions nécessaires et définira des jalons clairs et des critères d’acceptation pour les efforts de la phase II. » 

Nicolas Chaillan, fondateur d'Ask Sage et ancien directeur des logiciels de l'armée de l'air et de la force spatiale, a déclaré à 404 Media dans un courriel que « il s'agissait d'un contrat de recherche de faisabilité.

« Cela n’incluait aucune licence du produit ni aucune utilisation du produit », a-t-il ajouté. Il a précisé que le seul livrable était un rapport et que le travail n’était pas classifié.

https://www.404media.co/email/38044fd9-4a6f-4179-b498-572c31e79a2c