Le ministère des Sciences et des Technologies de l’information et de la communication (vice-Premier ministre et ministre des Sciences et des TIC, Bae Kyung-hoon) a annoncé que le ‘Guide d’éthique de la recherche en IA pour la R&D nationale’ avait été adopté à l’issue de la délibération et de l’approbation du comité exécutif du Conseil consultatif présidentiel pour les sciences et technologies. Ce guide a pour cœur d’affirmer clairement que la responsabilité et les droits relatifs aux résultats de recherche et développement recourant à l’intelligence artificielle (IA) appartiennent aux chercheurs, et de présenter sept recommandations que ces derniers doivent respecter.
 [코리안투데이] Couverture du ‘Guide d’éthique de la recherche en IA pour la R&D nationale’ du ministère des Sciences et des TIC © 장형임 기자 |
À mesure que le développement et la diffusion de l’intelligence artificielle s’accélèrent, ses effets dépassent les recherches individuelles pour s’étendre à l’ensemble de l’écosystème national de la R&D. L’introduction de l’IA dans tout le processus de recherche accroît considérablement la productivité, mais fait aussi apparaître de nouveaux types de risques éthiques : production d’informations inexactes, reproduction des biais des données existantes, atteintes à la sécurité et fuites de données personnelles, ou encore citations inappropriées de sources dont l’origine est incertaine. Estimant qu’une norme à l’échelle nationale était nécessaire pour répondre à ces risques, le ministère a élaboré ce guide.
Le guide vise à aider les chercheurs à recourir à l’IA de manière responsable et éthique à toutes les étapes de la R&D nationale. Mettant l’accent sur l’accompagnement plutôt que sur la réglementation, il pose comme principe fondamental que ‘le rôle de l’IA se limite à celui d’un outil, et que la responsabilité comme les droits sur le résultat final reviennent au chercheur qui l’a utilisée’. Il précise également que l’IA se cantonne à des fonctions auxiliaires telles que le résumé de documents, la traduction, la correction grammaticale, le codage de base ou l’organisation de données, et que, ne pouvant assumer d’obligations juridiques ou morales, elle ne saurait avoir la qualité d’auteur ou d’inventeur.
Sous ce principe fondamental, les sept recommandations présentées sont les suivantes : ▲vérification des faits ▲jugement autonome ▲garantie de transparence ▲gestion de la fiabilité des résultats ▲respect des politiques et règlements ▲sécurisation ▲protection des données personnelles. Le chercheur doit vérifier les erreurs des contenus générés par l’IA, l’absence éventuelle de données essentielles, ainsi que l’existence et l’authenticité des sources, examiner les éléments produits par l’IA à la lumière de son expertise et les reformuler selon son propre point de vue. Il doit en outre, lorsqu’il a eu recours à l’IA au cours de la recherche, divulguer de façon transparente le modèle, la version, l’objectif et la portée de son utilisation, et être capable d’expliquer logiquement le processus d’obtention des résultats, même lorsqu’il a employé l’IA. Il lui faut également vérifier et respecter les règlements de son établissement de R&D et les politiques propres à chaque revue, n’utiliser que des outils au sein d’environnements sécurisés autorisés, et s’abstenir de saisir dans des services d’IA des données contenant des informations personnelles.
Le guide comporte aussi des critères relatifs au processus d’évaluation. Lors de l’évaluation des projets de R&D nationaux et de l’examen des articles, l’évaluateur doit procéder à une appréciation autonome fondée sur son expertise, sans saisir les documents concernés dans une IA externe ; quant à l’évalué, il ne doit pas tenter, en recourant à l’IA, de contourner des critères d’examen légitimes ni de fausser l’évaluation, notamment au moyen d’instructions dissimulées (prompts cachés). De tels agissements constituent des fautes de recherche portant atteinte à la fiabilité de l’évaluation et sont susceptibles de sanctions au titre de la législation en vigueur.
Pour faciliter son application sur le terrain, le guide fournit également une ‘grille d’auto-diagnostic du chercheur’, permettant à chacun de s’auto-évaluer, ainsi qu’un ‘formulaire de déclaration du recours à l’IA’, utilisable lors de la remise de rapports de projet et autres documents. Hong Soon-jeong, directrice générale de la politique d’évaluation des résultats, a déclaré : ‘L’IA est un outil utile capable d’améliorer de façon révolutionnaire l’efficacité de la recherche, mais la responsabilité finale incombe toujours au chercheur’, ajoutant : ‘Nous espérons que ce guide contribuera à ancrer sur le terrain une culture d’utilisation responsable de l’IA et à garantir l’intégrité de la recherche dans la R&D nationale.’
La dépendance de la recherche à l’égard de l’IA augmente déjà rapidement. Selon une enquête de Wiley, la proportion de chercheurs ayant utilisé l’IA générative est passée de 57 % l’année précédente à 84 %, tandis qu’une enquête d’Elsevier fait état d’une hausse de 37 % à 58 % de la part des chercheurs y recourant dans leur travail. Dans ce contexte, ce guide a le mérite d’organiser à l’échelle nationale des critères d’utilisation de l’IA jusqu’ici laissés au seul jugement de chaque chercheur. Ces derniers disposent désormais d’orientations claires sur ce qu’ils peuvent faire avec l’IA et sur ce qu’ils doivent divulguer, tandis que les citoyens qui prennent connaissance des résultats de recherche disposent d’une base pour apprécier la fiabilité des travaux auxquels l’IA a participé.
Le ‘Guide d’éthique de la recherche en IA pour la R&D nationale’ est consultable sur le site du ministère des Sciences et des TIC (Politiques et statistiques > Informations sur les politiques > Innovation en sciences et technologies) ainsi que sur le site de l’Institut coréen de planification et d’évaluation des sciences et technologies (KISTEP). Le ministère prévoit de diffuser le guide et son manuel explicatif auprès de chaque établissement de R&D et de les publier sur son site, tout en recueillant en continu les avis du terrain afin de les compléter.
지역 홍보대사 신청 기자양성과정 신청 코리안투데이 지부장 신청 코리안투데이 인천강화코리안브랜드대상 신청 최고경영인대상 신청 소비자만족도대상 신청
<저작권자 ⓒ 코리안투데이(The Korean Today) 무단전재 및 재배포 금지>
