L’un des enjeux actuels dans l’utilisation de l’IAg est la déclaration de son utilisation. Il peut être difficile de reconnaître la part d’un travail réalisé par l’outil et celle réalisée par soi-même, à plusieurs niveaux. En contexte professionnel, parler de son utilisation est encore tabou. Par ailleurs, restreindre l’utilisation dans son cours n’écarte pas le risque de fraude et de tricherie par les personnes étudiantes, par méconnaissance ou par peur de la sanction.

Un deuxième enjeu est le traçage des sources qui ont permis de générer l’information. Les contenus générés proviennent de sources qui ne sont généralement pas citées par les outils.

Les outils d’IAg sont entraînés sur une quantité importante de données pour générer la réponse la plus probable.

Plus une donnée est apparue dans le corpus d’entraînement, plus elle est probable. Une question essentielle à se poser est donc : Avec quelles données le modèle a-t-il été entraîné? La transparence de la compagnie sur les données d’entraînement est par conséquent un enjeu. Si ces données comportaient des biais et des informations fausses, les générations des outils comporteront également des biais et des incohérences.

Par ailleurs, une réponse probable n’est pas nécessairement une réponse vraie. Aussi, un outil pourrait vous communiquer des informations sur un auteur qui n’existerait pas en réalité et vous fournir des hyperliens qui ne fonctionnent pas.

En interagissant avec une IAg, on transmet de l’information. Selon l’outil, cette information peut être réutilisée sans autorisation à diverses fins.

Une personne enseignante pourrait éventuellement téléverser un devoir étudiant pour un soutien à l’analyse; elle pourrait téléverser des ressources d’un cours pour en approfondir la compréhension…

Les outils d’IAg ouverts au grand public sont des produits commerciaux développés par des entreprises qui en visent une adoption croissante, une dépendance similaire aux réseaux sociaux, par exemple. Outil proactif, formulant systématiquement des propositions, toujours prêt à reformuler, même lorsque l’on cherche une idéation, ainsi que très consensuel et flatteur.

Les outils d’IAg consomment beaucoup d’énergie, principalement de l’électricité, parce que leur fonctionnement repose sur des centres de données dotés de serveurs puissants qui effectuent des calculs complexes en continu. Ces serveurs chauffent et des systèmes de refroidissement sont donc utilisés, consommant ainsi de l’eau. Le fait de réentraîner un modèle, le type de média généré et le nombre de requêtes, de documentations ajoutées et d’itérations sont autant d’éléments qui influent sur la consommation d’énergie.