Amazon Q AI, l’assistant génératif d’Amazon, a été conçu pour révolutionner le développement logiciel en automatisant des tâches complexes telles que la génération de code, les tests, et la mise à niveau des applications. Lors d’une démonstration vidéo, le PDG d’Amazon, Andy Jassy, et l’ancien PDG d’AWS, Adam Selipsky, ont présenté les capacités de mise à niveau de Java de l’outil Amazon Q AI. Malheureusement, une faute de frappe flagrante a été repérée : “Jave” au lieu de “Java”. Cette erreur, bien que mineure, a suscité des moqueries et des critiques sur les réseaux sociaux, soulignant l’importance de l’attention aux détails dans le développement logiciel mais aussi des questions sur la maturité et la fiabilité de cet outil.Les fautes de frappe sont le lot des meilleurs d'entre nous, mais l'orthographe compte toujours lorsqu'il s'agit de développement de logiciels. Il est donc assez surprenant de constater que le PDG d'Amazon, Andy Jassy, et l'ancien PDG d'AWS, Adam Selipsky, n'ont pas remarqué une faute de frappe embarrassante dans une vidéo de démonstration qu'ils ont présentée à leurs millions d'adeptes sur les médias sociaux comme preuve des capacités de mise à niveau Java d'Amazon Q AI, qu'Amazon vante depuis des mois dans les documents déposés auprès de la SEC, les communications aux actionnaires et la dernière conférence téléphonique sur les résultats d'Amazon avec les analystes de Wall Street.
À peine 37 secondes après le début de la démonstration du logiciel qui, selon Amazon, lui a permis d'économiser 4 500 années de travail de développeurs et de réaliser des gains d'efficacité supplémentaires de 260 millions de dollars par an, Amazon Q lance la conversation sur la mise à niveau de Java en déclarant : « Je peux vous aider à mettre à niveau vos bases de code Jave [sic] 8 et 11 vers Java 17 ». Cette faute d'orthographe embarrassante a incité l'utilisateur de Twitter @archo5dev à alerter Jassy sur la faute de frappe, mais il n'y a pas encore eu de réponse de la part de Jassy, qui s'est vanté que les développeurs d'Amazon n'ont pas pu trouver d'erreurs dans le travail de Q dans « 79% des revues de code générées automatiquement ».
« Qu'est-ce qu'un script de mise à jour de code (qui n'est pas un concept nouveau) + une interface utilisateur normale ont à voir avec "l'IA" générique ? De plus, il y a une faute de frappe dans cette vidéo de mauvaise qualité ».
[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">What does a code upgrade script (which is nothing new as a concept) + regular UI have to do with gen"AI"? Also, you have a typo in that obviously fake low quality video. <a href="https://t.co/DkmsYdSaHW">pic.twitter.com/DkmsYdSaHW</a></p>— Arvīds Kokins (@archo5dev) <a href="https://twitter.com/archo5dev/status/1826967180467990996?ref_src=twsrc%5Etfw">August 23, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]
Les implications pour les développeurs
Cette situation met en lumière plusieurs points importants pour les développeurs :
- L’importance des détails : Même les plus petites erreurs peuvent avoir des répercussions importantes, surtout lorsqu’elles sont exposées publiquement. Une simple faute de frappe peut nuire à la crédibilité d’une démonstration et, par extension, à celle de l’entreprise.
- La pression des démonstrations publiques : Présenter des outils ou des mises à jour devant un large public peut être stressant, et les erreurs peuvent facilement se produire. Les développeurs doivent être particulièrement vigilants lors de ces événements pour éviter les erreurs embarrassantes.
- La perception publique : Les erreurs commises par des figures de proue comme les PDG peuvent affecter la perception publique de la compétence et de la fiabilité de l’entreprise. Une erreur mineure peut être amplifiée par les médias et les réseaux sociaux, entraînant des conséquences disproportionnées.
Les avantages et les inconvénients de l’implication des dirigeants
L’implication des dirigeants dans les aspects techniques du développement logiciel présente des avantages et des inconvénients :
- Avantages :
- Vision stratégique : Les dirigeants peuvent apporter une perspective stratégique et aligner les efforts de développement avec les objectifs globaux de l’entreprise.
- Motivation des équipes : La participation des dirigeants peut motiver les équipes en montrant l’importance accordée à leur travail.
- Visibilité et soutien : Les dirigeants peuvent utiliser leur influence pour obtenir des ressources et du soutien pour les projets techniques.
- Inconvénients :
- Manque de compétences techniques : Les dirigeants peuvent ne pas avoir les compétences techniques nécessaires pour comprendre les détails complexes du code, ce qui peut entraîner des erreurs ou des malentendus.
- Pression supplémentaire : La présence des dirigeants peut ajouter une pression supplémentaire sur les développeurs, augmentant le risque d’erreurs.
- Risques de communication : Les erreurs commises par les dirigeants lors des démonstrations publiques peuvent nuire à la réputation de l’entreprise.
La démonstration met en lumière les faiblesses de l'outil
Amazon Q AI est présenté comme un assistant puissant capable de transformer et d’implémenter de nouvelles fonctionnalités à partir des demandes des développeurs. Il peut générer du code, diagnostiquer des erreurs, effectuer des analyses de sécurité, et optimiser les ressources AWS. En théorie, cet outil devrait permettre aux développeurs de gagner en efficacité et en productivité.
Malgré ces promesses, l'outil présente des limites :
- Erreurs humaines : Les erreurs comme celle observée lors de la démonstration peuvent être dues à des fautes humaines, mais elles soulignent également la nécessité d’une vérification rigoureuse des résultats générés par l’outil.
- Complexité des tâches : Bien qu’Amazon Q AI soit capable de gérer des tâches complexes, il peut encore rencontrer des difficultés avec des scénarios particulièrement compliqués ou des demandes non standardisées.
- Adaptation et apprentissage : Comme tout outil basé sur l’intelligence artificielle, Amazon Q AI nécessite du temps pour s’adapter et apprendre des erreurs passées. Les premières versions peuvent donc présenter des imperfections qui seront corrigées au fil du temps.
Les perspectives d’amélioration
Pour que Amazon Q AI atteigne son plein potentiel, plusieurs mesures peuvent être envisagées :
- Amélioration continue : Les développeurs doivent continuer à affiner l’outil en se basant sur les retours d’expérience et les erreurs rencontrées.
- Tests rigoureux : Avant toute démonstration publique, des tests approfondis doivent être réalisés pour minimiser les risques d’erreurs embarrassantes.
- Formation des utilisateurs : Les utilisateurs, y compris les dirigeants, doivent être formés à l’utilisation de l’outil pour maximiser son efficacité et éviter les erreurs dues à une mauvaise manipulation.
Certains intervenants de la filière estiment que l’intelligence artificielle complique plutôt leur travail
Selon Harness, le code généré par l'intelligence artificielle est susceptible de tripler la charge de travail des développeurs dans l'année à venir. L'augmentation du volume de code livré accroît les risques de failles et de vulnérabilités si les tests et les mesures de sécurité ne sont pas rigoureusement appliqués. Bien que neuf développeurs sur dix utilisent déjà des outils d'IA pour accélérer la livraison de logiciels, cette tendance nécessite une vigilance accrue à chaque étape du cycle de vie du développement logiciel (SDLC) pour prévenir les incidents de sécurité.
L'augmentation du volume de code généré par les outils d'intelligence artificielle pose un défi majeur en termes de sécurité et de gestion des vulnérabilités. Bien que l'automatisation et la génération de code puissent considérablement accélérer le processus de développement, elles introduisent également de nouveaux risques. Si les tests et les mesures de sécurité ne sont pas rigoureusement appliqués à chaque étape du cycle de vie du développement logiciel, il devient presque inévitable que des failles passent inaperçues et soient déployées en production.
La rapidité avec laquelle le code est produit grâce à l'IA peut surpasser la capacité des développeurs à effectuer des tests approfondis et à assurer la sécurité de chaque ligne de code. Sans une infrastructure solide pour la détection et la correction des failles, les erreurs et les vulnérabilités peuvent s'accumuler, augmentant le risque d'exploits et de temps d'arrêt coûteux. La complexité accrue et la vitesse du développement exigent des outils de tests automatisés et des processus de sécurité intégrés pour compenser les limitations humaines.
Cette dépendance accrue aux outils d'IA pour la génération de code peut entraîner une réduction de la vigilance humaine, où les développeurs pourraient faire excessivement confiance aux suggestions de l'IA sans une vérification rigoureuse. Cette approche peut devenir dangereuse, car même les systèmes d'IA avancés peuvent générer du code défectueux ou vulnérable. Une approche équilibrée, combinant l'efficacité de l'IA avec une supervision humaine minutieuse, est essentielle pour garantir la qualité et la sécurité du code.
Conclusion
Amazon Q AI est un outil prometteur qui a le potentiel de transformer le développement logiciel. Cependant, comme toute technologie émergente, il présente des défis et des imperfections qui doivent être surmontés. Avec des améliorations continues et une utilisation prudente, Amazon Q AI pourrait devenir un atout majeur pour les développeurs et les entreprises.
Et vous ?
Quels sont les avantages et les inconvénients d’avoir des dirigeants d’entreprise impliqués dans les aspects techniques du développement logiciel ? Comment les entreprises peuvent-elles mieux préparer leurs dirigeants pour des démonstrations techniques publiques ? Pensez-vous que les erreurs mineures, comme une faute de frappe, peuvent réellement affecter la réputation d’une entreprise technologique ? Pourquoi ou pourquoi pas ? Comment les équipes de développement peuvent-elles minimiser les erreurs lors des démonstrations publiques ? Quelle est l’importance de la transparence et de l’honnêteté dans la communication des erreurs techniques au public ? Avez-vous déjà vécu une situation similaire dans votre propre carrière ? Comment l’avez-vous gérée ? Quels sont les meilleurs moyens pour une entreprise de réagir après une erreur publique pour maintenir la confiance des clients et des partenaires ? 
Envoyé par Stéphane le calme
