科学技术情报通信部（副总理兼科学技术情报通信部长官裴敬勋）表示，经国家科学技术咨询会议运营委员会审议和议决，《国家研发AI研究伦理指南》正式确定。本次指南的核心在于，明确利用人工智能（AI）开展研发所产生成果的责任与权利归属于研究者，并提出了研究者应当遵守的七大建议事项。
 [코리안투데이] 科学技术情报通信部《国家研发AI研究伦理指南》封面 © 장형임 기자 |
随着人工智能的发展与普及不断加快，其影响已超越个别研究，扩展到整个国家研发生态系统。AI被引入研究全过程后，研究生产效率显著提升，但与此同时，也出现了生成不准确信息、沿袭既有资料偏见、安全及个人信息泄露、不当引用来源不明资料等新型研究伦理风险。科技情报通信部认为，应对这些风险需要国家层面的标准，因而制定了本次指南。
该指南旨在支持研究者在国家研发实施的所有阶段，能够负责任且合乎伦理地运用AI。其重点在于支持而非管制，确立了「AI的作用仅限于工具，最终成果的责任与权利归属于运用AI的研究者」这一基本原则。指南还明确指出，AI仅限于文献摘要、翻译、语法校正、基础编码、数据整理等辅助性工具，因其无法承担法律和道德义务，故不能拥有作者或发明人的地位。
在这一基本原则之下提出的七大建议事项为：核实事实关系、自主判断、确保透明性、管理成果可信度、遵守政策与规定、确保安全、保护个人信息。研究者应核实AI生成内容的错误与核心资料缺失、来源的存在及真伪，并依据专业知识审查AI生成的资料，以自身视角加以重新组织。此外，在研究过程中运用AI时，应透明公开所用模型、版本以及目的、范围，即便使用AI，也应能够对成果的实现过程作出合乎逻辑的说明。研究者还应确认并遵守研发机构的规定及各学术期刊的政策，仅使用经许可的安全环境内的工具，且不得将含有个人信息的资料输入AI服务。
指南还纳入了针对评价过程的标准。在国家研发课题评价及论文审查时，评价者不得将审查对象资料输入外部AI，应基于专业性进行自主评价；被评价者不得利用AI规避正当的审查标准，或通过隐藏提示词（prompt）等方式歪曲评价。此类行为属于损害评价可信度的研究不端行为，可依相关法令受到制裁。
为便于现场应用，指南还一并提供了研究者可自行检查的《研究者自我诊断表》，以及提交课题报告等时可使用的《AI应用情况公开格式》。成果评价政策局局长洪淳正表示，AI是能够革新性地提升研究效率的有用工具，但对其的最终责任始终在于研究者，并期待本次指南能够成为在研究现场确立负责任AI应用文化、确保国家研发研究真实性的契机。
研究现场对AI的依赖度已在迅速上升。据威立（Wiley）调查，使用过生成式AI的研究者比例从前一年的57%增至84%；爱思唯尔（Elsevier）的调查也显示，在工作中运用AI的研究者从37%增至58%。本次指南的意义在于，在这一趋势之下，将此前仅凭研究者个人判断的AI应用标准，从国家层面加以厘清。对研究者而言，获得了关于AI可用范围及应公开内容的明确指引；对接触研究成果的公民而言，则具备了判断AI介入研究可信度的依据。
《国家研发AI研究伦理指南》可在科技情报通信部官网（政策·统计＞政策信息＞科学技术革新）及韩国科学技术企划评价院官网查阅。科技情报通信部计划将指南及解说书发送至各研发机构并在官网发布，同时持续收集现场意见加以完善。
Leave a Reply