??

7月6日，2023世界人工智能大會(huì)在上海世博中心拉開帷幕。這是專家在一幅關(guān)于上海景象的智能生成畫作前討論。新華社記者 黃曉勇 攝

??近日，由中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)主辦，西南政法大學(xué)合辦，西南政法大學(xué)人工智能法學(xué)院、西南政法大學(xué)智能司法研究院、西南大數(shù)據(jù)法

律研究中心共同承辦的“人工智能法治論壇”舉行。會(huì)議深入探討了人工智能發(fā)展與安全過程中的重大理論與實(shí)踐問題。

??來自全國(guó)人大法工委、最高人民法院等部門，中央黨校（國(guó)家行政學(xué)院）、中國(guó)社科院法學(xué)所、清華大學(xué)、中國(guó)人民大學(xué)、浙江大學(xué)等科研院校，以及

實(shí)務(wù)部門的一百余名專家、學(xué)者參加了此次會(huì)議。

??首都師范大學(xué)政法學(xué)院副教授崔俊杰：科技倫理審查要考慮具體科學(xué)場(chǎng)景

??程序規(guī)制不是封閉的構(gòu)成性規(guī)制，而是開放的功能性規(guī)制，可以實(shí)現(xiàn)將表層的行為-責(zé)任分配與深層的集體道德決策過程深度互嵌。真實(shí)的科技倫理審查

具有兩階審查的特點(diǎn)，與經(jīng)典正當(dāng)法律程序存在明顯區(qū)別，為此不能簡(jiǎn)單套用法律程序中的一般制度，而需要考慮具體科學(xué)場(chǎng)景中倫理反思所需必要程序要

求。科技倫理審查的正當(dāng)法律程序設(shè)計(jì)中要有維系倫理審查組織的結(jié)構(gòu)均衡程序、反思均衡程序、保障對(duì)話環(huán)境與塑造情景正義的程序。

??南京大學(xué)中德法學(xué)研究所副研究員金健：人工智能對(duì)行政模式的沖擊需要思考

??人工智能技術(shù)的開發(fā)與應(yīng)用引發(fā)了一系列問題，對(duì)傳統(tǒng)行政模式產(chǎn)生了沖擊。面對(duì)這些新問題，通過分析算法行政中的全自動(dòng)化情形的自主性特征，可

發(fā)現(xiàn)，組織責(zé)任、引入經(jīng)濟(jì)上的無過錯(cuò)責(zé)任與嚴(yán)格責(zé)任、把算法作為行政助手和像歐盟一樣把算法升為主體上的電子人等方案，無法解決現(xiàn)有問題，須轉(zhuǎn)向

立法論的視角。

??西南政法大學(xué)人工智能法學(xué)院博士生張翔：人工智能法律治理應(yīng)貫穿目的與行為

??應(yīng)急式、分散式、場(chǎng)景式立法未能找準(zhǔn)人工智能領(lǐng)域法律問題的癥結(jié)，難以從整體上提供系統(tǒng)化、前瞻性的人工智能法律治理方案。應(yīng)當(dāng)以貫穿目的與

行為的系統(tǒng)論為支撐，重構(gòu)人工智能法律定義。人工智能領(lǐng)域立法應(yīng)當(dāng)以平衡安全與創(chuàng)新、平衡公平與效率為基本原則，以貫穿人工智能全生命周期的主體

要素和行為要素為基本線索。而法律制度之間的內(nèi)在脈絡(luò)不僅受制于立法價(jià)值和法律原則，也受制于人工智能各要素之間相互聯(lián)結(jié)、互為制約的系統(tǒng)論本質(zhì)特征。

??江西理工大學(xué)法學(xué)院副教授張志堅(jiān)：人工智能自主交易的合法有效需研究

??人工智能自主交易行為區(qū)別于電子合同，也區(qū)別于智能合約。人工智能在特定領(lǐng)域內(nèi)實(shí)施自主交易行為，仍是人類意志的延伸，具有相應(yīng)的民事行為能

力，具備行為合法有效的可能性，而超越特定領(lǐng)域的行為效力待定。在人工智能自主交易行為的法律責(zé)任上，存在預(yù)期違約責(zé)任與違約責(zé)任兩種類型，原則

上以擁有獨(dú)立財(cái)產(chǎn)的人工智能自身為責(zé)任主體。同時(shí)，基于人工智能的特殊性，除了財(cái)產(chǎn)賠償方式外，還可以對(duì)其設(shè)置修正程序、刪除數(shù)據(jù)、強(qiáng)制銷毀等專

屬的責(zé)任承擔(dān)方式。

??《網(wǎng)絡(luò)信息法學(xué)研究》特約編輯狄行思：確認(rèn)合資格金融人工智能受信人地位

??關(guān)于AI能否作為獨(dú)立的信義義務(wù)人，與其智能化程度密切相關(guān)，也事關(guān)開發(fā)者、使用者在背后承擔(dān)的角色。人工智能技術(shù)除了技術(shù)屬性，還必須具有一

定的社會(huì)屬性。應(yīng)確認(rèn)合資格金融人工智能受信人地位，并以信義治理路徑對(duì)其進(jìn)行規(guī)制。

??上海財(cái)經(jīng)大學(xué)法學(xué)院副教授沈小軍：自動(dòng)駕駛產(chǎn)品責(zé)任險(xiǎn)不能替代交強(qiáng)險(xiǎn)

??現(xiàn)有自動(dòng)駕駛汽車產(chǎn)品責(zé)任保險(xiǎn)研究主要集中在侵權(quán)責(zé)任和交強(qiáng)險(xiǎn)上，對(duì)產(chǎn)品責(zé)任保險(xiǎn)的研究存在明顯不足。要引入一個(gè)強(qiáng)制性的產(chǎn)品責(zé)任保險(xiǎn)，在未

來完全自動(dòng)駕駛時(shí)代強(qiáng)制性的產(chǎn)品責(zé)任保險(xiǎn)是非常有必要的。在產(chǎn)品責(zé)任強(qiáng)制保險(xiǎn)跟交強(qiáng)險(xiǎn)的關(guān)系方面，因?yàn)闃?gòu)成要件和免除事由方面的限制，產(chǎn)品責(zé)任強(qiáng)

制保險(xiǎn)仍然不能替代交強(qiáng)險(xiǎn)。

??螞蟻集團(tuán)高級(jí)政策研究高級(jí)專家毛智琪：參考各國(guó)經(jīng)驗(yàn)提升合規(guī)管理有效性

??隨著人工智能在國(guó)家競(jìng)爭(zhēng)力、國(guó)家安全等方面的作用凸顯，各國(guó)都在加緊相關(guān)規(guī)劃部署和政策制定，人工智能已經(jīng)成為國(guó)際競(jìng)爭(zhēng)新的焦點(diǎn)所在。但由于

人工智能目前仍在發(fā)展中，存在著隱私和數(shù)據(jù)安全、內(nèi)容安全、競(jìng)爭(zhēng)公平、知識(shí)產(chǎn)權(quán)保護(hù)等風(fēng)險(xiǎn)，技術(shù)和應(yīng)用的安全性與真實(shí)性等問題尚待解決。大模型對(duì)

算力的巨大消耗也對(duì)低碳轉(zhuǎn)型目標(biāo)的實(shí)現(xiàn)帶來新的挑戰(zhàn)，這些新的問題成為各國(guó)政府關(guān)注的新課題。參考目前各國(guó)監(jiān)管趨勢(shì)和行業(yè)實(shí)踐，可以考慮從建立全

生命周期的合規(guī)管理與監(jiān)測(cè)機(jī)制、引入合規(guī)科技等技術(shù)手段強(qiáng)化風(fēng)險(xiǎn)識(shí)別能力和管控能力，進(jìn)一步提升合規(guī)管理的有效性，更好地應(yīng)對(duì)技術(shù)發(fā)展帶來的挑戰(zhàn)，

推動(dòng)人工智能技術(shù)的安全創(chuàng)新和產(chǎn)業(yè)變革，賦能中國(guó)經(jīng)濟(jì)高質(zhì)量發(fā)展。

??西南大數(shù)據(jù)法律研究中心執(zhí)行副主任譚玲：多方面探尋人工智能著作權(quán)侵權(quán)防范

??當(dāng)前生成式人工智能的著作權(quán)侵權(quán)風(fēng)險(xiǎn)主要存在于數(shù)據(jù)獲取、人機(jī)互動(dòng)過程、大模型訓(xùn)練以及內(nèi)容生成四個(gè)領(lǐng)域，需要從許可使用、合理使用、法定許可

等著作權(quán)制度探尋不同階段、不同類型生成式人工智能著作權(quán)侵權(quán)風(fēng)險(xiǎn)防范路徑。商用情況下數(shù)據(jù)獲取端對(duì)在先作品的利用可以集體許可為基礎(chǔ)，其他授權(quán)模

式為補(bǔ)充。非商用情況下適用合理使用制度，同時(shí)進(jìn)行概括性作品使用申明。人機(jī)互動(dòng)過程中，通過用戶協(xié)議闡明未經(jīng)授權(quán)上傳在先作品的后果。對(duì)于內(nèi)容生

成端，風(fēng)格和思想的相似一般而言不涉及具體侵權(quán)問題，但仍需完善AI“洗稿”的侵權(quán)行為認(rèn)定標(biāo)準(zhǔn)。

??東南大學(xué)法學(xué)院副研究員徐珉川：數(shù)據(jù)有效流動(dòng)歸根結(jié)底是信用生產(chǎn)

??關(guān)于生成式人工智能的公共數(shù)據(jù)可信供給問題。“數(shù)字政府”背景下的公共數(shù)據(jù)開放，其核心是一種可信價(jià)值。建立可信的治理方式，建立一套公共數(shù)據(jù)

開發(fā)的可信秩序激勵(lì)。面向生成式智能創(chuàng)新，需要可信的公共數(shù)據(jù)供給。數(shù)據(jù)供給核心為信用問題，如何讓數(shù)據(jù)有效流動(dòng)、開放，歸根結(jié)底為一種信用生產(chǎn)、

適用等方面的再生產(chǎn)。

??全國(guó)人大常委會(huì)法工委行政法室處長(zhǎng)母光棟：人工智能治理可綜合運(yùn)用部門法原則

??研究生成式人工智能的發(fā)展和治理問題，可以綜合運(yùn)用各個(gè)部門法確定的原則和具體制度。比如，生成式人工智能技術(shù)中的重要環(huán)節(jié)之一是公共數(shù)據(jù)治理，

采集、生成數(shù)據(jù)需要遵循合法和必要原則，開發(fā)、運(yùn)用數(shù)據(jù)需要遵循開放和共享原則，在整個(gè)公共數(shù)據(jù)治理過程中，還要遵循有關(guān)法律法規(guī)確定的安全和風(fēng)險(xiǎn)

防范等原則。從不同部門法視角研究生成式人工智能問題，有利于推動(dòng)這一新興產(chǎn)業(yè)的健康發(fā)展。（金燦）