作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，當(dāng)前人工智能產(chǎn)業(yè)發(fā)展迅速、備受關(guān)注，同時(shí)合規(guī)治理也極具挑戰(zhàn)性。中國(guó)工商出版社、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心、海問律師事務(wù)所于2024年4月12日舉辦了《智能新紀(jì)元：生成式人工智能的發(fā)展與治理》新書發(fā)布活動(dòng)，就當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的前沿趨勢(shì)、治理態(tài)勢(shì)等進(jìn)行了主題討論。來自人工智能相關(guān)企業(yè)、研究機(jī)構(gòu)、法律合規(guī)機(jī)構(gòu)、監(jiān)管部門等人士參加。
海問律師事務(wù)所合伙人林熙翔
歡迎各界來賓以及主持本次研討會(huì)
海問律師事務(wù)所主任張繼平致辭
一、出版初衷：在制度這條賽道上能為國(guó)內(nèi)的人工智能發(fā)展提供什么？
“當(dāng)今全球人工智能的競(jìng)爭(zhēng)，不僅僅是技術(shù)和產(chǎn)品的較量，更是制度之爭(zhēng)。在這場(chǎng)關(guān)乎未來發(fā)展的制度競(jìng)賽中，法律人能為我國(guó)人工智能技術(shù)和產(chǎn)業(yè)進(jìn)步提供怎樣的助力？我們應(yīng)當(dāng)營(yíng)造一個(gè)什么樣的制度環(huán)境，才能確保人工智能在高質(zhì)量發(fā)展和高水平安全間實(shí)現(xiàn)良性互動(dòng)？這是一個(gè)長(zhǎng)期而重要的課題，也正是編寫本書的初心所在?！?/span>
對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律
本書主編、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣在發(fā)布會(huì)上詳細(xì)介紹了該書的編撰緣起。她表示，圖書所收錄的文章對(duì)上述問題進(jìn)行了深入思考和解答，并就相關(guān)議題提出了真知灼見。通過分享書中的精華觀點(diǎn),她闡明了法律制度在推動(dòng)人工智能健康發(fā)展中的關(guān)鍵作用，以及構(gòu)建良性治理生態(tài)的重要意義。
《智能新紀(jì)元：生成式人工智能的發(fā)展與治理》一書由20余位長(zhǎng)期耕耘于人工智能領(lǐng)域的理論與實(shí)務(wù)專家共同寫成，并得到學(xué)界、產(chǎn)業(yè)界等多位專家力薦，一定程度上凝聚了當(dāng)下學(xué)界、產(chǎn)業(yè)界的共識(shí)。書中重點(diǎn)對(duì)國(guó)內(nèi)外監(jiān)管治理態(tài)勢(shì)、人工智能企業(yè)的合規(guī)與風(fēng)險(xiǎn)管理、相關(guān)技術(shù)的落地應(yīng)用及風(fēng)險(xiǎn)等問題進(jìn)行分析，為未來的監(jiān)管治理、合規(guī)發(fā)展提出了有價(jià)值的參考。
二、行業(yè)專家分享：人工智能技術(shù)應(yīng)用的最新趨勢(shì)
在“生成式人工智能的產(chǎn)業(yè)發(fā)展：洞察與趨勢(shì)”環(huán)節(jié)，嘉賓們從不同維度探討了生成式人工智能當(dāng)前和未來的產(chǎn)業(yè)發(fā)展動(dòng)態(tài)。大模型自主智能體技術(shù)——從工具智能到群體智能
中國(guó)人民大學(xué)高瓴人工智能學(xué)院準(zhǔn)聘助理教授林衍凱認(rèn)為， 人類智能具有工具使用與分工協(xié)作兩大關(guān)鍵特性。與之對(duì)應(yīng)的，在ChatGPT的基礎(chǔ)上，人工智能已經(jīng)發(fā)展出了大模型自主智能體。OpenAI、Google等陸續(xù)發(fā)布的項(xiàng)目已經(jīng)證明大模型能夠模仿人類使用外部工具，達(dá)到了接近乃至超越人類的工具使用性能，達(dá)到工具智能。在其基礎(chǔ)上，邁向通用人工智能需要做到的就是通過任務(wù)分工與協(xié)作來執(zhí)行復(fù)雜任務(wù)實(shí)現(xiàn)群體智能，如清華的ChatDev、斯坦福AI小鎮(zhèn)、人大RecAgent等。2024年人工智能有三大發(fā)展趨勢(shì)
微軟全球助理法律顧問、微軟亞太研發(fā)集團(tuán)法律事務(wù)部總經(jīng)理羅立凡表示，微軟和Open AI的合作取得了階段性的成功，生成式人工智能的應(yīng)用已從簡(jiǎn)單的搜索問題向垂直領(lǐng)域深耕，未來將會(huì)融入到所有的領(lǐng)域。他認(rèn)為2024年人工智能有三大發(fā)展趨勢(shì)。一是小語言模型，它可以在設(shè)備上離線運(yùn)行，在執(zhí)行具體任務(wù)上，通過使用高質(zhì)量數(shù)據(jù)訓(xùn)練，在特定的垂類領(lǐng)域達(dá)到與大語言模型相當(dāng)?shù)男阅?。二是多模態(tài)人工智能，包括圖象、視頻、音頻通過一個(gè)接入口就可以提供服務(wù)。三是助力科學(xué)研究，以加快科學(xué)發(fā)展速度。雖然難以預(yù)測(cè)人工智能今后的發(fā)展，但可以確定會(huì)帶來各行各業(yè)變革式的改變，大大提升效率。AI Agent的發(fā)展現(xiàn)狀、未來前景和法律思考
抖音集團(tuán)法律研究總監(jiān)李穎提出，AI Agent的發(fā)展方向有兩種：一是類似于人的“功能性”，如協(xié)同辦公；二是類似于人的“社會(huì)性”，如在虛擬世界的互動(dòng)。在商業(yè)化實(shí)踐上有三種方向：一是垂直領(lǐng)域的Agent產(chǎn)品；二是通用助理類的Agent產(chǎn)品；三是Agents應(yīng)用開發(fā)平臺(tái)。AI Agent的未來趨勢(shì)短期來看，在垂直領(lǐng)域的應(yīng)用落地更快、早期有技術(shù)積累的廠商將引領(lǐng)行業(yè)標(biāo)準(zhǔn)、操作系統(tǒng)廠商預(yù)計(jì)率先實(shí)現(xiàn)實(shí)質(zhì)性突破。長(zhǎng)期來看，AI Agent未來會(huì)有更多的自主性，并基于協(xié)同性的提高涌現(xiàn)超級(jí)個(gè)體和超級(jí)個(gè)體公司；AI Agent會(huì)促進(jìn)基礎(chǔ)設(shè)施的實(shí)現(xiàn)，平臺(tái)會(huì)成為一個(gè)重要的載體；最后，她還分享了關(guān)于AI Agent的三點(diǎn)法律思考。全球AIGC行業(yè)格局未定，多模態(tài)將成為“標(biāo)配”
副研究員、《AI賦能超級(jí)個(gè)體》作者翟尤，認(rèn)為當(dāng)前全球AIGC行業(yè)格局尚未確定，細(xì)分應(yīng)用型公司競(jìng)爭(zhēng)激烈，不同公司都在嘗試跨越多個(gè)細(xì)分場(chǎng)景或者模態(tài)，今年下半年多模態(tài)將成為“標(biāo)配”。從產(chǎn)業(yè)發(fā)展形態(tài)上，他認(rèn)為目前海外產(chǎn)業(yè)發(fā)展呈現(xiàn)“倒三角”形態(tài)：底層算力層由個(gè)別廠商壟斷；基礎(chǔ)模型層趨于集中于頭部企業(yè)；行業(yè)模型層企業(yè)數(shù)量不多，很多會(huì)參考開源底座；應(yīng)用層基于純API調(diào)用制作產(chǎn)品的企業(yè)數(shù)量十分龐大。國(guó)內(nèi)產(chǎn)業(yè)發(fā)展則呈現(xiàn)“橄欖型”：底層的優(yōu)質(zhì)算力企業(yè)數(shù)量極少；最上層基于API調(diào)用制作產(chǎn)品的企業(yè)數(shù)量也比較少；處于基礎(chǔ)模型和行業(yè)模型的企業(yè)數(shù)量較多。
海問律師事務(wù)所知識(shí)產(chǎn)權(quán)合伙人賈媛媛律師
在“生成式人工智能的治理挑戰(zhàn)與應(yīng)對(duì)”的主題討論環(huán)節(jié)，嘉賓們探討了當(dāng)前人工智能治理的狀況以及面臨的挑戰(zhàn)。
中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所高級(jí)工程師，AIIA政策法規(guī)工作組秘書長(zhǎng)程瑩，對(duì)人工智能帶來的變革性影響有四個(gè)判斷：一是AIGC作為新型生產(chǎn)工具，革新內(nèi)容生產(chǎn)方式。二是AIGC應(yīng)用加劇各方數(shù)據(jù)資源競(jìng)爭(zhēng)博弈。三是AIGC將革新人機(jī)交互形式，邁向人機(jī)共生新階段。四是部分AIGC作為通用目的技術(shù)，成為經(jīng)濟(jì)社會(huì)底層基礎(chǔ)設(shè)施。對(duì)于AIGC帶來的風(fēng)險(xiǎn)挑戰(zhàn)，她認(rèn)為一方面體現(xiàn)為原有風(fēng)險(xiǎn)的疊加放大，比如技術(shù)自身缺陷、版權(quán)追責(zé)困境、倫理問題等；同時(shí)還在于新的突出問題，比如在生物合成、化學(xué)、核能（CBRN）等領(lǐng)域帶來的風(fēng)險(xiǎn)等。大模型訓(xùn)練數(shù)據(jù)的合理使用
淘天集團(tuán)法務(wù)部數(shù)據(jù)合規(guī)負(fù)責(zé)人顧偉，認(rèn)為從大模型這幾年的發(fā)展趨勢(shì)來看，對(duì)數(shù)據(jù)的需求量是越來越高的，而只有到一定數(shù)據(jù)級(jí)，模型對(duì)某些問題的處理性能才能呈現(xiàn)快速增長(zhǎng)。同時(shí)在數(shù)據(jù)類型上，早期模型的訓(xùn)練數(shù)據(jù)以網(wǎng)頁數(shù)據(jù)、圖書、代碼等為主，隨著多模態(tài)的發(fā)展，數(shù)據(jù)內(nèi)容多元化的趨勢(shì)更明顯，而隨著人工智能應(yīng)用的普及，對(duì)不同領(lǐng)域數(shù)據(jù)集的要求也會(huì)更多。他認(rèn)為，在訓(xùn)練數(shù)據(jù)的合規(guī)使用上，目前法律的要求比較原則，為更好地促進(jìn)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展，通過知識(shí)產(chǎn)權(quán)合理使用規(guī)則創(chuàng)新，和個(gè)人信息的合理使用，保證訓(xùn)練數(shù)據(jù)的數(shù)量、質(zhì)量和多樣性非常重要。數(shù)據(jù)出境、算法備案等實(shí)務(wù)問題分析
海問律師事務(wù)所合伙人傅鵬針對(duì)生成式人工智能運(yùn)營(yíng)中的具體合規(guī)問題做了分享。比如針對(duì)調(diào)用或接入境外大模型的場(chǎng)景，他認(rèn)為兩類情況會(huì)構(gòu)成向境外傳輸數(shù)據(jù)，需要落實(shí)相關(guān)合規(guī)申報(bào)義務(wù)。一是自用型跨境場(chǎng)景，如企業(yè)調(diào)用境外大模型來完成企業(yè)內(nèi)部的數(shù)據(jù)處理活動(dòng)；二是服務(wù)型跨境，如企業(yè)在產(chǎn)品中嵌入了境外大模型的接口，當(dāng)境內(nèi)用戶使用產(chǎn)品特定功能時(shí)，企業(yè)會(huì)將有關(guān)數(shù)據(jù)傳輸?shù)骄惩猓{(diào)用境外的大模型。針對(duì)備案問題，他認(rèn)為實(shí)踐中是有一些場(chǎng)景不需要進(jìn)行備案，比如企業(yè)內(nèi)部調(diào)用大模型生成代碼，但作內(nèi)部研發(fā)使用，不涉及輿論場(chǎng)景；還比如針對(duì)專門領(lǐng)域的特定受眾，調(diào)用大模型生成了結(jié)果，如生物醫(yī)藥企業(yè)進(jìn)行的一些數(shù)據(jù)生成和分析。
四、圓桌討論：多個(gè)人工智能熱點(diǎn)話題
在“如何統(tǒng)籌生成式人工智能的發(fā)展與安全”的圓桌討論中，嘉賓們以對(duì)話形式，圍繞大模型與版權(quán)的關(guān)系、大模型適用于自動(dòng)駕駛的合規(guī)等議題展開了討論。
大模型服務(wù)和版權(quán)之間有什么樣的關(guān)系微軟公司高級(jí)律師、微軟亞太研發(fā)集團(tuán)高級(jí)法務(wù)總監(jiān)何淼提出，“在生成式人工智能的版權(quán)問題上，確實(shí)有一個(gè)利益平衡的探索過程。微軟在開發(fā)相關(guān)技術(shù)時(shí)高度重視版權(quán)保護(hù)，為保障技術(shù)發(fā)展和版權(quán)保護(hù)之間平衡不斷進(jìn)行了嘗試。我們的Azure OpenAI服務(wù)具有Content filtering的功能可以進(jìn)行版權(quán)保護(hù)和降低侵權(quán)的風(fēng)險(xiǎn)。此外，如果使用了我們的工具仍然面臨侵權(quán)訴訟，微軟承諾為客戶提供抗辯支持?！?/span>某人工智能企業(yè)大模型合規(guī)法務(wù)吳少卿對(duì)于很多模型公司不主張對(duì)AI生成內(nèi)容擁有版權(quán)的原因，特別提出了三個(gè)理由：一是版權(quán)難以爭(zhēng)取，關(guān)于生成內(nèi)容的版權(quán)歸屬目前仍存在法律不確定性；二是現(xiàn)有很多商業(yè)模式不依賴版權(quán)來獲利；三是避免擁有版權(quán)可能帶來的法律責(zé)任。如何打通行業(yè)數(shù)據(jù)和行業(yè)模型訓(xùn)練的堵點(diǎn)某科技集團(tuán)數(shù)據(jù)合規(guī)執(zhí)行總監(jiān)朱玲鳳指出，數(shù)據(jù)是模型訓(xùn)練的基礎(chǔ)，而其獲取路徑取決于模型的訓(xùn)練目標(biāo)和方向。在使用開源數(shù)據(jù)前，需要仔細(xì)評(píng)估其匹配的開源協(xié)議。不同于開源軟件，模型開源包括了數(shù)據(jù)集、代碼和模型，且考慮了個(gè)人信息保護(hù)和版權(quán)影響。比如Bigcoder提供版權(quán)過濾器，允許用戶請(qǐng)求移除其貢獻(xiàn)的代碼，能確保其內(nèi)容不被用于訓(xùn)練數(shù)據(jù)。除了開源，也可以考慮隱私計(jì)算工具。比如G7在近期提出了利用合成數(shù)據(jù)實(shí)現(xiàn)醫(yī)療數(shù)據(jù)打通，可以識(shí)別特定區(qū)域的疾病增加，可能與環(huán)境因素有關(guān)，也可能識(shí)別到某地區(qū)醫(yī)療資源不足等問題。通過合成數(shù)據(jù)可以保障在原始數(shù)據(jù)的分布比例基礎(chǔ)上實(shí)現(xiàn)數(shù)據(jù)的可用性，同時(shí)通過合成來解決個(gè)人信息保護(hù)的問題。理想汽車法律研究運(yùn)營(yíng)負(fù)責(zé)人田喜清指出，構(gòu)建中文語料庫對(duì)于提升生成式人工智能的訓(xùn)練質(zhì)量至關(guān)重要。微軟公司高級(jí)律師、微軟亞太研發(fā)集團(tuán)高級(jí)法務(wù)總監(jiān)何淼，指出生成式AI的發(fā)展依賴于海量數(shù)據(jù)，這對(duì)于技術(shù)創(chuàng)新至關(guān)重要，數(shù)據(jù)的限制可能在提升安全性方面有所幫助，但是怎么掌握平衡也是很重要的。某人工智能企業(yè)大模型合規(guī)法務(wù)吳少卿認(rèn)為，人工智能產(chǎn)業(yè)分工日益細(xì)化，復(fù)雜的產(chǎn)業(yè)生態(tài)導(dǎo)致責(zé)任分配變得尤為重要，隨著場(chǎng)景的豐富和角色的多樣化，明確每個(gè)參與者的責(zé)任和自由度至關(guān)重要。他認(rèn)為在數(shù)據(jù)處理和知識(shí)產(chǎn)權(quán)的角色及責(zé)任關(guān)系上，尤其是在內(nèi)容安全方面，服務(wù)提供者通常應(yīng)承擔(dān)主要責(zé)任，但模型廠商在某些情況下也需提供技術(shù)支持。嘉賓們一致認(rèn)為，短期內(nèi)人工智能已經(jīng)開始帶來實(shí)際的效率提升，AI的發(fā)展將使一些重復(fù)性的工作減輕，而創(chuàng)造性的工作將變得更為重要。AI的廣泛應(yīng)用可能會(huì)打破傳統(tǒng)的職業(yè)界限，促進(jìn)跨領(lǐng)域協(xié)作，并改變我們與同事及技術(shù)的互動(dòng)方式。我們應(yīng)該擁抱AI技術(shù)的發(fā)展，學(xué)習(xí)如何有效利用AI工具，準(zhǔn)備好迎接未來可能帶來的職業(yè)角色和工作流的變革。
題21-1_畫板 1 副本FA957310F08241619B67FAAC4823E9AE.png)
題21-1_畫板 114202E035D7D448C854A98012E0CB5BF.png)
