韩国《关于人工智能(AI)发展与构建信任基础等的基本法》(简称《AI基本法》)于1月22日起正式实施。

　　这是全球首部针对人工智能全领域而非单一细分环节的综合性法律。当前人工智能技术正处于萌芽发展阶段，监管法案的出台让人工智能模型及服务开发企业高度关注“高影响人工智能运营者责任”“人工智能使用标识义务”等可能直接影响业务开展的条款。

　　韩国政府方面表示，为防范深度伪造、虚假信息传播、人权侵害等人工智能技术升级带来的危害，社会亟需相关规范;同时也充分考虑行业担忧，计划对政府的事实调查权、罚款权设置1年以上的暂缓执行期，推动法案“平稳落地”。

　　PART 01

　　一手抓人工智能产业振兴，一手抓监管规范

　　该法律的核心是，国家在为人工智能行业提供支持、推动其健康发展的同时，防范存在潜在危害的高风险人工智能应用。

　　在产业振兴方面，法案规定科学技术信息通信部长官需每3年制定并实施人工智能基本规划，助力人工智能及相关产业发展、提升国家竞争力。

　　国家人工智能战略委员会正式升格为法定委员会。

　　同时明确，国家和地方自治团体应尊重人工智能企业的创新精神，为相关产品与服务的研发工作提供支持。

　　在监管规范方面，政府需建立相关制度，最大限度降低人工智能对民众生活的潜在风险，保障其安全使用;

　　同时支持人工智能安全与可信技术的研发、相关教育普及和宣传工作。

　　《AI基本法》还明确，除其他法律对人工智能技术、产业等另有特殊规定外，均适用本法，确立了其在人工智能领域的综合性、上位法地位。

　　此前，韩国《电信事业法》《信息通信网法》等适用于人工智能等数字服务的核心现行法规，已难以跟上人工智能的发展步伐，出现监管空白，这也是《AI基本法》出台的背景。

　　有观点指出，《电信事业法》中“禁止侵害用户利益”的条款，难以应对人工智能、算法带来的歧视等新型损害;而以信息“流通” 和“公开”为前提制定的《信息通信网法》，也无法有效规制以未知方式生成信息的人工智能技术，这成为了制定新法案的重要依据。

　　PART 02

　　行业高度关注高影响人工智能，水印标注相关规定

　　AI行业认为，《AI基本法》中影响最大的条款，主要集中在高影响人工智能、人工智能使用标识(水印)、可解释性义务等方面。

　　高影响人工智能，指应用于医疗、能源、招聘、贷款审批等对民众生命权、基本权利有重大影响领域的人工智能技术。法案要求，人工智能企业在上述领域应用人工智能时，必须建立人工监管体系，并采取安全保障措施。

　　政府方面解释，目前仅完全自动驾驶(L4级及以上)车辆相关的人工智能技术，归属于高影响人工智能范畴。

　　但行业普遍认为，人工智能技术正飞速发展升级，医疗、能源、招聘等领域出现需受高影响人工智能规则监管的服务，并非遥远的未来。

　　根据《AI基本法》，企业若提供基于高影响人工智能或生成式人工智能的产品、服务，必须事先向用户告知其人工智能应用属性;生成式人工智能的产出内容，也需进行明确标识。

　　这一条款也引发了内容行业的担忧，不少从业者认为，即便仅在创作中部分使用人工智能技术，若被标注为“人工智能创作物”，可能会降低内容的市场评价。

　　最初的施行令曾允许，将人工智能生成的视频内容等标识，以仅机器可识别的元数据形式添加;但出于对“非显性标识无法有效区分深度伪造内容”的担忧，施行令后续进行了修订，强化了标识要求，规定需通过文字提示、语音播报等方式，至少一次向用户告知生成式人工智能技术的应用情况。

　　韩国科学技术信息通信部表示：“为人工智能生成内容添加水印，是防范深度伪造滥用等技术副作用的最低限度安全措施，也是全球头部企业正在推行的国际趋势。政府将设置至少1年的充分指导适应期，逐步推进该要求落地。”

　　《AI基本法》还规定，受人工智能决策影响的主体，有权在技术和合理的范围内，要求企业对人工智能最终结果所依据的核心标准、原理等，做出清晰、有实际意义的解释。

　　这一规定即要求人工智能具备“可解释性”，但也被解读为原则性条款。人工智能行业的主流观点认为，目前全球范围内，仅有谷歌等少数企业掌握相关技术，能够对复杂到被称作“黑箱”的人工智能生成、推理过程进行明确阐释。

　　PART 03

　　设置过渡期“事实调查、罚款权暂缓1年以上执行”

　　根据法案规定，若企业违反人工智能生成内容标识、人工智能风险管理体系建设、高影响人工智能运营者责任等相关规定，或政府接到相关违规举报、投诉，韩国科学技术信息通信部长官有权对涉事企业开展现场调查，查阅相关账簿、文件和资料。

　　对于未履行人工智能使用告知义务，或境外人工智能企业未在韩国指定境内代理人的行为，最高可处以3000万韩元罚款。

　　但考虑到法案刚落地，可能会制约尚处于起步阶段的韩国人工智能产业发展，政府最终决定，将事实调查权和罚款权的行使暂缓1年以上。

　　韩国互联网企业协会相关人士表示：“人工智能生成内容标识义务的具体实施方式、责任主体、适用范围，均交由施行令和公告另行规定，企业难以提前预判相关经营风险。”

　　例如，影视制作公司若仅使用人工智能服务，而非自主开发人工智能技术，仅作为技术使用方，是否需要履行标识义务，目前尚无明确规定;同时，企业也可能擅自删除人工智能使用标识。

　　有观点质疑，监管的实际效力可能大打折扣——此前施行令曾允许非显性标识，后因争议修订为需进行显性告知，这一过程也反映出规则的不确定性。从业者担忧，若后续因实际需求需要再次修订法案，企业将再次面临经营不确定性。

　　此外，韩国政府还将通过“AI基本法支援服务专班”为企业提供常态化的合规咨询。《AI基本法》仅配套施行令就达421页，条款庞大且复杂，也成为行业诟病的问题。为将人工智能这一新技术纳入法律规制，政府联合大型律所律师等专业人士组建了立法修订小组，推进法案制定;但众多中小微和初创企业表示，自身没有足够的资金，向大型律所咨询法案解读相关问题。

　　针对这一问题，韩国科学技术信息通信部表示，将组建由参与下位法制定的专家构成的支援服务专班，为中小企业提供法案解读支持。降低中小微企业的合规成本，推动法案从“形式落地”走向 “实质落地”。

　　PART 04

　　曾为概率型游戏信息公开划定明确标准，人工智能监管亟待细化

　　积极引入人工智能技术的游戏行业，对《AI基本法》的实施表示“感到混乱”。

　　根据2024年11月发布的《人工智能透明度保障指南》，游戏被认定为“艺术创作类作品”，可采用不影响展示和使用的方式，履行人工智能技术应用的告知或标识义务。

　　但指南未明确具体的标识方式和适用范围，行业仍面临极大的不确定性。

　　反观2024年实施的《游戏产业法》修订案，该法案强制要求企业公开概率型游戏道具的相关信息，当时韩国文化体育观光部出台了具体的概率标识方式和标准，有效减少了行业混乱。

　　韩国某大型游戏企业相关人士表示：“通过Steam等电脑游戏平台运营的游戏，已按照平台规则标注了人工智能技术使用情况;但仅在移动平台或韩国本土平台运营的游戏，该在哪些环节、以何种方式标注，目前仍无明确答案。”

　　另一位游戏行业政策与对外合作负责人也表示：“游戏行业对人工智能的应用场景十分多元，既有直接使用人工智能生成内容的游戏，也有在服务中嵌入人工智能模型的游戏，法案的相关规定过于模糊。尽管有1年的处罚暂缓期，企业仍不得不承受相关压力。”

　　韩国《AI基本法》的正式施行，是全球AI立法的重要里程碑，其“振兴与监管并重”的立法思路、“平稳落地”的实施策略，为全球AI治理提供了有益经验，而其落地过程中暴露的规则模糊、实操性不足等问题，也为各国AI立法敲响了警钟。同时，韩国法案的动态完善过程，也提示中国AI立法需建立常态化的评估与修订机制，让法律成为AI产业健康发展的“保障线”，而非“绊脚石”。

　　注：部分内容综合自韩国联合新闻社。