新动态：生成式AI引发治理新思考

◎本报记者 崔 爽

(资料图片仅供参考)

过去几个月，ChatGPT为人工智能技术【shù】按下加速键。这个【gè】聊天程【chéng】序【xù】证明【míng】了超大参数【shù】模型和通用型人工智能的可行性【xìng】，谷歌【gē】、亚马逊【xùn】等巨【jù】头【tóu】纷纷推出自主【zhǔ】研发【fā】的相【xiàng】关平台，国内【nèi】也已有十数家企业在该领【lǐng】域有所布局。

它们被【bèi】统称为“生成【chéng】式【shì】人【rén】工智能”。简单来说，这种AI可以通过【guò】算法生成新【xīn】内容【róng】，包括图像、文字【zì】、音【yīn】乐，甚至视频、代码等。

这令人兴奋也不乏担【dān】忧。数【shù】据安全、个人隐私、信息造假、算法【fǎ】歧【qí】视【shì】……各国监管【guǎn】部门对【duì】一系列潜在风【fēng】险反【fǎn】应迅速，动作不断。

3月【yuè】底，意【yì】大利个人数据保护局宣【xuān】布暂时禁止使用ChatGPT，欧盟多个国家跟进，酝【yùn】酿具体监管措施。美国商务部4月公开征求意见，讨论新人工【gōng】智能模型在发布前【qián】是否应【yīng】经过认证程序等内容。我国【guó】国家网【wǎng】信办【bàn】也【yě】于【yú】近日发布【bù】《生成式人工智能服务管【guǎn】理【lǐ】办法（征求意见稿）》，针对【duì】准【zhǔn】入【rù】门槛、数据来源、标注【zhù】规则【zé】等【děng】作出明确规定【dìng】。

风险到哪里 监管到哪里

“相【xiàng】比以往的AI技术，生成【chéng】式【shì】AI可【kě】以直接【jiē】利用【yòng】自然【rán】语言和计算机进行交互【hù】，使用门槛低，生【shēng】成内容质量【liàng】高。”世辉律师事务所【suǒ】合伙人、律师王新锐对【duì】科技日报记【jì】者表【biǎo】示，“这让其一旦被滥用或误用，迷惑性比以往【wǎng】的人【rén】工智能技术更强，潜【qián】在损害也更大。并【bìng】且它有可能成为一种【zhǒng】影【yǐng】响各【gè】行业【yè】的底【dǐ】座型技术。”

除了涉【shè】及【jí】数【shù】据安全、个【gè】人信息保【bǎo】护等【děng】传统【tǒng】问题，中国互联网协会研究中心副主任吴沈【shěn】括强调【diào】，生成式AI也给内【nèi】容治理、社会运行产生冲击和影响，这给现有的治理体制机制的【de】敏捷【jié】性、覆盖性和【hé】穿透【tòu】性带【dài】来很大【dà】挑战【zhàn】。

据【jù】王新【xīn】锐介绍【shào】，目前，意大【dà】利、西班牙【yá】、德国、加拿【ná】大、英国等国家出于数据【jù】和隐私【sī】保护的考虑对ChatGPT及其开发者展【zhǎn】开调查【chá】，此【cǐ】外，域外有可【kě】能将ChatGPT等【děng】生成式AI列入高风险人【rén】工智能清单【dān】，希望通过立法防范其风险。

吴【wú】沈括表示，前【qián】述主要国【guó】家对于生成式AI的监管依然从经【jīng】典的【de】数据治理、数据安全的角【jiǎo】度【dù】切入，在【zài】他们看来，生成【chéng】式【shì】AI的核心逻辑在于海量数据【jù】的汇集【jí】、加工【gōng】、处理以及丰富的【de】运【yùn】算输出，因此，采取数据治【zhì】理的【de】思路顺理成章。

但回到我国，仅【jǐn】从数据【jù】治【zhì】理出发还不够，“我们的关切涉及内容治理、消费者权益、透明【míng】度、公平性、知识【shí】产【chǎn】权保护等【děng】各个方面，基本覆盖了目【mù】前【qián】与生成式AI相关【guān】的主要【yào】风【fēng】险类型，故而采【cǎi】取的是一种风险【xiǎn】预防、风险干预【yù】的多【duō】层次综合治理思路。”吴沈【shěn】括说。

建构多方参与的治理生态

技术大步向前，如何平衡技术创新和政策管理，考验各方智慧。

“一方面，我们需要加强【qiáng】数据隐【yǐn】私和个人【rén】信息安全的保护【hù】，对生成【chéng】式AI从训练【liàn】到投入使用的全生命【mìng】周期的个【gè】人信【xìn】息的处理和数据保护【hù】作出【chū】规【guī】范【fàn】。另【lìng】一【yī】方【fāng】面，从生成式AI可能带来的风险出发，在现有法律【lǜ】框【kuàng】架上【shàng】进一【yī】步建立健全生成式AI产业各【gè】方主体治理框架【jià】和【hé】问责机制，落实生成式AI相关主体的权利义务。”王新锐【ruì】说【shuō】，下一步【bù】需【xū】要进一步细化落实平台【tái】合规【guī】机【jī】制、加强科技伦理要【yào】求、确保算法【fǎ】安全【quán】并建立健全【quán】问责机制【zhì】、促【cù】进高质量数据合法合规地流通共享。

吴沈括提出，治理规则的明确性和确定【dìng】性需要【yào】不【bú】断提【tí】升，努【nǔ】力【lì】打【dǎ】造实时、敏捷、全面的监管机制【zhì】，最大限【xiàn】度发挥监【jiān】管的引导作用及红【hóng】线保护的根本价【jià】值【zhí】。

生成式【shì】AI爆火，涉及诸多利益诉求及关【guān】切。对此，王新【xīn】锐建议，需要充分观察产【chǎn】业界和【hé】监管机构、大众媒体的互动，建立多方参与【yǔ】的治理机制。同时【shí】，加强公【gōng】众【zhòng】教育和参与，提高公众【zhòng】对生成【chéng】式AI的认识【shí】和【hé】理解【jiě】，共同推动生成式AI的健【jiàn】康发【fā】展【zhǎn】。（崔【cuī】爽）