点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:生成式AI引发治理新思考
首页> 科技频道> 综合新闻 > 正文

生成式AI引发治理新思考

来源:科技日报2023-04-24 09:29

  过去几个月,ChatGPT为人工智能技术按下加速键。这个聊天程序证明了超大参数模型和通用型人工智能的可行性,谷歌、亚马逊等巨头纷纷推出自主研发的相关平台,国内也已有十数家企业在该领域有所布局。

  它们被统称为“生成式人工智能”。简单来说,这种AI可以通过算法生成新内容,包括图像、文字、音乐,甚至视频、代码等。

  这令人兴奋也不乏担忧。数据安全、个人隐私、信息造假、算法歧视……各国监管部门对一系列潜在风险反应迅速,动作不断。

  3月底,意大利个人数据保护局宣布暂时禁止使用ChatGPT,欧盟多个国家跟进,酝酿具体监管措施。美国商务部4月公开征求意见,讨论新人工智能模型在发布前是否应经过认证程序等内容。我国国家网信办也于近日发布《生成式人工智能服务管理办法(征求意见稿)》,针对准入门槛、数据来源、标注规则等作出明确规定。

  风险到哪里 监管到哪里

  “相比以往的AI技术,生成式AI可以直接利用自然语言和计算机进行交互,使用门槛低,生成内容质量高。”世辉律师事务所合伙人、律师王新锐对科技日报记者表示,“这让其一旦被滥用或误用,迷惑性比以往的人工智能技术更强,潜在损害也更大。并且它有可能成为一种影响各行业的底座型技术。”

  除了涉及数据安全、个人信息保护等传统问题,中国互联网协会研究中心副主任吴沈括强调,生成式AI也给内容治理、社会运行产生冲击和影响,这给现有的治理体制机制的敏捷性、覆盖性和穿透性带来很大挑战。

  据王新锐介绍,目前,意大利、西班牙、德国、加拿大、英国等国家出于数据和隐私保护的考虑对ChatGPT及其开发者展开调查,此外,域外有可能将ChatGPT等生成式AI列入高风险人工智能清单,希望通过立法防范其风险。

  吴沈括表示,前述主要国家对于生成式AI的监管依然从经典的数据治理、数据安全的角度切入,在他们看来,生成式AI的核心逻辑在于海量数据的汇集、加工、处理以及丰富的运算输出,因此,采取数据治理的思路顺理成章。

  但回到我国,仅从数据治理出发还不够,“我们的关切涉及内容治理、消费者权益、透明度、公平性、知识产权保护等各个方面,基本覆盖了目前与生成式AI相关的主要风险类型,故而采取的是一种风险预防、风险干预的多层次综合治理思路。”吴沈括说。

  建构多方参与的治理生态

  技术大步向前,如何平衡技术创新和政策管理,考验各方智慧。

  “一方面,我们需要加强数据隐私和个人信息安全的保护,对生成式AI从训练到投入使用的全生命周期的个人信息的处理和数据保护作出规范。另一方面,从生成式AI可能带来的风险出发,在现有法律框架上进一步建立健全生成式AI产业各方主体治理框架和问责机制,落实生成式AI相关主体的权利义务。”王新锐说,下一步需要进一步细化落实平台合规机制、加强科技伦理要求、确保算法安全并建立健全问责机制、促进高质量数据合法合规地流通共享。

  吴沈括提出,治理规则的明确性和确定性需要不断提升,努力打造实时、敏捷、全面的监管机制,最大限度发挥监管的引导作用及红线保护的根本价值。

  生成式AI爆火,涉及诸多利益诉求及关切。对此,王新锐建议,需要充分观察产业界和监管机构、大众媒体的互动,建立多方参与的治理机制。同时,加强公众教育和参与,提高公众对生成式AI的认识和理解,共同推动生成式AI的健康发展。(记者 崔 爽)

[ 责编:张佳兴 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中俄“海上联合-2025”联合演习开幕

  • 直击承德六道河镇救援现场

独家策划

推荐阅读
国家能源局7月31日发布的信息显示,截至6月底,我国电动汽车充电设施(充电枪)总数已达到1610万个。
2025-08-01 10:17
今年是中国启动国家公园体制改革10周年,中国国家公园建设实现从试点探索、破冰突围到系统协调、全面推进的历史性转变,取得明显成效。
2025-08-01 10:16
31日,中国工程院信息与电子工程学部、中国信息与电子工程科技发展战略研究中心发布《新一代信息工程科技 人工智能新兴技术备选清单》297项,其中约三分之二是首次提出。
2025-08-01 10:11
由我国牵头制定的两项国际标准《高压开关设备和控制设备第313部分:直流断路器》和《高压开关设备和控制设备第315部分:直流转换开关》近日正式发布。
2025-08-01 10:11
复兴油田首期石油2010.06万吨、天然气123.52亿立方米探明地质储量顺利通过自然资源部评审,标志着我国四川盆地首个页岩层系油田诞生。
2025-08-01 10:10
六方金刚石的形成条件极为苛刻,人工合成最大难点在于高温高压下六方金刚石的形成能量高于普通金刚石,因此高温高压产物常以普通金刚石为主,而难以得到六方金刚石。
2025-07-31 10:27
当机器人不再只限于执行预设操作,而是能够具备自主思考和判断,具身智能或许将会很快在更多的社会生活场景中投入应用,为人类的未来社会开创更多可能性。
2025-07-31 10:23
当前,高校应以人民为中心办好让人民满意的教育,奋力构建以人工智能为支撑的人才自主培养新生态,为中国式现代化培养出更多高质量人才。
2025-07-31 10:20
“我们使用导航软件时,经常用到的信号灯倒计时读秒功能,正是基于北斗高精度定位‘透传’的实时位置服务数据实现的。“北斗+人形机器人”“北斗+农机”“北斗+打桩机”……北斗系统持续赋能千行百业,在多个领域实现深度应用与创新突破。
2025-07-31 10:15
7月30日15时49分,在海南商业航天发射场,长征八号甲运载火箭(以下简称“长八甲火箭”)托举卫星互联网低轨06组卫星直冲云霄,将其精准送入预定轨道,发射任务取得圆满成功。
2025-07-31 04:55
科技浪潮下,侨界青年索华也带来创业项目——基于燃气低碳催化的粉末喷涂线研发和产业化,顺应新能源与“双碳”目标趋势。
2025-07-30 09:41
中国国土南北跨越纬度近50度、东西跨经度60多度,带来气候多样性,适宜不同品种的蔬菜、水果生长。答:“十四五”以来,在消费升级与供应链创新的双重作用下,我国果蔬产业发生着诸多变化。
2025-07-30 09:40
面对激荡的国际竞争局势与高质量发展的迫切需求,唯有主动拥抱变革,让人工智能科技创新的“源头活水”充分浇灌产业创新的“广阔田野”,方能赢得战略主动、制胜未来。
2025-07-30 05:00
前不久,甘肃皋兰什川古梨园系统、浙江德清淡水珍珠复合养殖系统和福建福鼎白茶文化系统正式被联合国粮农组织认定为全球重要农业文化遗产。至此,我国的全球重要农业文化遗产数量增至25项,继续领跑全球。
2025-07-30 05:00
29日12时11分,双曲线一号遥十运载火箭在我国酒泉卫星发射中心发射升空,将搭载的恩施硒都山泉号卫星顺利送入预定轨道,飞行试验任务获得圆满成功。
2025-07-30 05:00
北京时间7月27日18时03分,我国在太原卫星发射中心使用长征六号改运载火箭,成功将卫星互联网低轨05组卫星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。
2025-07-29 10:17
鸟类因误判透明或反光的玻璃而撞击建筑物,被称为“鸟撞”,是威胁鸟类种群的重要因素之一。
2025-07-29 04:40
日前从江西铜钹山国家级自然保护区获悉,该自然保护区与井冈山大学蜘蛛生物学研究团队开展蜘蛛资源本底调查中发现蜘蛛新物种——广丰合跳蛛。研究成果在国际期刊《生物钥匙》上发表。
2025-07-29 04:40
近日,该中心与重庆师范大学生命科学学院唐安军教授团队,在巫溪县白果林场发现近危物种长叶山兰,这是在阴条岭发现的又一新纪录种。
2025-07-29 04:40
随着大数据和人工智能技术的发展,数字化健康管理成为一种新的生活风尚,帮助人们提高健康管理的效率和质量。但当人们对健康数据的关注逐渐演变为时刻紧盯、过度解读时,这一数字化工具,反而可能催生不必要的焦虑,让人们在不知不觉中被数据所“绑架”。
2025-07-29 04:40
加载更多