作為新一輪科技革命和產業變革的核心驅動力，當前人工智能產業發展迅速、備受關注，同時合規治理也極具挑戰性。中國工商出版社、對外經濟貿易大學數字經濟與法律創新研究中心、海問律師事務所于2024年4月12日舉辦了《智能新紀元：生成式人工智能的發展與治理》新書發布活動，就當前人工智能產業發展的前沿趨勢、治理態勢等進行了主題討論。來自人工智能相關企業、研究機構、法律合規機構、監管部門等人士參加。
海問律師事務所合伙人林熙翔
歡迎各界來賓以及主持本次研討會
海問律師事務所主任張繼平致辭
一、出版初衷：在制度這條賽道上能為國內的人工智能發展提供什么？
“當今全球人工智能的競爭，不僅僅是技術和產品的較量，更是制度之爭。在這場關乎未來發展的制度競賽中，法律人能為我國人工智能技術和產業進步提供怎樣的助力？我們應當營造一個什么樣的制度環境，才能確保人工智能在高質量發展和高水平安全間實現良性互動？這是一個長期而重要的課題，也正是編寫本書的初心所在。”
對外經濟貿易大學數字經濟與法律
本書主編、對外經濟貿易大學數字經濟與法律創新研究中心主任張欣在發布會上詳細介紹了該書的編撰緣起。她表示，圖書所收錄的文章對上述問題進行了深入思考和解答，并就相關議題提出了真知灼見。通過分享書中的精華觀點,她闡明了法律制度在推動人工智能健康發展中的關鍵作用，以及構建良性治理生態的重要意義。
《智能新紀元：生成式人工智能的發展與治理》一書由20余位長期耕耘于人工智能領域的理論與實務專家共同寫成，并得到學界、產業界等多位專家力薦，一定程度上凝聚了當下學界、產業界的共識。書中重點對國內外監管治理態勢、人工智能企業的合規與風險管理、相關技術的落地應用及風險等問題進行分析，為未來的監管治理、合規發展提出了有價值的參考。
在“生成式人工智能的產業發展：洞察與趨勢”環節，嘉賓們從不同維度探討了生成式人工智能當前和未來的產業發展動態。
中國人民大學高瓴人工智能學院準聘助理教授林衍凱認為， 人類智能具有工具使用與分工協作兩大關鍵特性。與之對應的，在ChatGPT的基礎上，人工智能已經發展出了大模型自主智能體。OpenAI、Google等陸續發布的項目已經證明大模型能夠模仿人類使用外部工具，達到了接近乃至超越人類的工具使用性能，達到工具智能。在其基礎上，邁向通用人工智能需要做到的就是通過任務分工與協作來執行復雜任務實現群體智能，如清華的ChatDev、斯坦福AI小鎮、人大RecAgent等。
微軟全球助理法律顧問、微軟亞太研發集團法律事務部總經理羅立凡表示，微軟和Open AI的合作取得了階段性的成功，生成式人工智能的應用已從簡單的搜索問題向垂直領域深耕，未來將會融入到所有的領域。他認為2024年人工智能有三大發展趨勢。一是小語言模型，它可以在設備上離線運行，在執行具體任務上，通過使用高質量數據訓練，在特定的垂類領域達到與大語言模型相當的性能。二是多模態人工智能，包括圖象、視頻、音頻通過一個接入口就可以提供服務。三是助力科學研究，以加快科學發展速度。雖然難以預測人工智能今后的發展，但可以確定會帶來各行各業變革式的改變，大大提升效率。
抖音集團法律研究總監李穎提出，AI Agent的發展方向有兩種：一是類似于人的“功能性”，如協同辦公；二是類似于人的“社會性”，如在虛擬世界的互動。在商業化實踐上有三種方向：一是垂直領域的Agent產品；二是通用助理類的Agent產品；三是Agents應用開發平臺。AI Agent的未來趨勢短期來看，在垂直領域的應用落地更快、早期有技術積累的廠商將引領行業標準、操作系統廠商預計率先實現實質性突破。長期來看，AI Agent未來會有更多的自主性，并基于協同性的提高涌現超級個體和超級個體公司；AI Agent會促進基礎設施的實現，平臺會成為一個重要的載體；最后，她還分享了關于AI Agent的三點法律思考。
副研究員、《AI賦能超級個體》作者翟尤，認為當前全球AIGC行業格局尚未確定，細分應用型公司競爭激烈，不同公司都在嘗試跨越多個細分場景或者模態，今年下半年多模態將成為“標配”。從產業發展形態上，他認為目前海外產業發展呈現“倒三角”形態：底層算力層由個別廠商壟斷；基礎模型層趨于集中于頭部企業；行業模型層企業數量不多，很多會參考開源底座；應用層基于純API調用制作產品的企業數量十分龐大。國內產業發展則呈現“橄欖型”：底層的優質算力企業數量極少；最上層基于API調用制作產品的企業數量也比較少；處于基礎模型和行業模型的企業數量較多。
海問律師事務所知識產權合伙人賈媛媛律師
在“生成式人工智能的治理挑戰與應對”的主題討論環節，嘉賓們探討了當前人工智能治理的狀況以及面臨的挑戰。
中國信息通信研究院政策與經濟研究所高級工程師，AIIA政策法規工作組秘書長程瑩，對人工智能帶來的變革性影響有四個判斷：一是AIGC作為新型生產工具，革新內容生產方式。二是AIGC應用加劇各方數據資源競爭博弈。三是AIGC將革新人機交互形式，邁向人機共生新階段。四是部分AIGC作為通用目的技術，成為經濟社會底層基礎設施。對于AIGC帶來的風險挑戰，她認為一方面體現為原有風險的疊加放大，比如技術自身缺陷、版權追責困境、倫理問題等；同時還在于新的突出問題，比如在生物合成、化學、核能（CBRN）等領域帶來的風險等。
淘天集團法務部數據合規負責人顧偉，認為從大模型這幾年的發展趨勢來看，對數據的需求量是越來越高的，而只有到一定數據級，模型對某些問題的處理性能才能呈現快速增長。同時在數據類型上，早期模型的訓練數據以網頁數據、圖書、代碼等為主，隨著多模態的發展，數據內容多元化的趨勢更明顯，而隨著人工智能應用的普及，對不同領域數據集的要求也會更多。他認為，在訓練數據的合規使用上，目前法律的要求比較原則，為更好地促進人工智能產業創新發展，通過知識產權合理使用規則創新，和個人信息的合理使用，保證訓練數據的數量、質量和多樣性非常重要。
海問律師事務所合伙人傅鵬針對生成式人工智能運營中的具體合規問題做了分享。比如針對調用或接入境外大模型的場景，他認為兩類情況會構成向境外傳輸數據，需要落實相關合規申報義務。一是自用型跨境場景，如企業調用境外大模型來完成企業內部的數據處理活動；二是服務型跨境，如企業在產品中嵌入了境外大模型的接口，當境內用戶使用產品特定功能時，企業會將有關數據傳輸到境外，調用境外的大模型。針對備案問題，他認為實踐中是有一些場景不需要進行備案，比如企業內部調用大模型生成代碼，但作內部研發使用，不涉及輿論場景；還比如針對專門領域的特定受眾，調用大模型生成了結果，如生物醫藥企業進行的一些數據生成和分析。
在“如何統籌生成式人工智能的發展與安全”的圓桌討論中，嘉賓們以對話形式，圍繞大模型與版權的關系、大模型適用于自動駕駛的合規等議題展開了討論。
微軟公司高級律師、微軟亞太研發集團高級法務總監何淼提出，“在生成式人工智能的版權問題上，確實有一個利益平衡的探索過程。微軟在開發相關技術時高度重視版權保護，為保障技術發展和版權保護之間平衡不斷進行了嘗試。我們的Azure OpenAI服務具有Content filtering的功能可以進行版權保護和降低侵權的風險。此外，如果使用了我們的工具仍然面臨侵權訴訟，微軟承諾為客戶提供抗辯支持。”某人工智能企業大模型合規法務吳少卿對于很多模型公司不主張對AI生成內容擁有版權的原因，特別提出了三個理由：一是版權難以爭取，關于生成內容的版權歸屬目前仍存在法律不確定性；二是現有很多商業模式不依賴版權來獲利；三是避免擁有版權可能帶來的法律責任。某科技集團數據合規執行總監朱玲鳳指出，數據是模型訓練的基礎，而其獲取路徑取決于模型的訓練目標和方向。在使用開源數據前，需要仔細評估其匹配的開源協議。不同于開源軟件，模型開源包括了數據集、代碼和模型，且考慮了個人信息保護和版權影響。比如Bigcoder提供版權過濾器，允許用戶請求移除其貢獻的代碼，能確保其內容不被用于訓練數據。除了開源，也可以考慮隱私計算工具。比如G7在近期提出了利用合成數據實現醫療數據打通，可以識別特定區域的疾病增加，可能與環境因素有關，也可能識別到某地區醫療資源不足等問題。通過合成數據可以保障在原始數據的分布比例基礎上實現數據的可用性，同時通過合成來解決個人信息保護的問題。理想汽車法律研究運營負責人田喜清指出，構建中文語料庫對于提升生成式人工智能的訓練質量至關重要。微軟公司高級律師、微軟亞太研發集團高級法務總監何淼，指出生成式AI的發展依賴于海量數據，這對于技術創新至關重要，數據的限制可能在提升安全性方面有所幫助，但是怎么掌握平衡也是很重要的。某人工智能企業大模型合規法務吳少卿認為，人工智能產業分工日益細化，復雜的產業生態導致責任分配變得尤為重要，隨著場景的豐富和角色的多樣化，明確每個參與者的責任和自由度至關重要。他認為在數據處理和知識產權的角色及責任關系上，尤其是在內容安全方面，服務提供者通常應承擔主要責任，但模型廠商在某些情況下也需提供技術支持。嘉賓們一致認為，短期內人工智能已經開始帶來實際的效率提升，AI的發展將使一些重復性的工作減輕，而創造性的工作將變得更為重要。AI的廣泛應用可能會打破傳統的職業界限，促進跨領域協作，并改變我們與同事及技術的互動方式。我們應該擁抱AI技術的發展，學習如何有效利用AI工具，準備好迎接未來可能帶來的職業角色和工作流的變革。
京公網安備110105011258