當(dāng)你把目的地輸入導(dǎo)航系統(tǒng)，它可以規(guī)劃出最優(yōu)路線，以縮短高峰時(shí)段上下班時(shí)間；當(dāng)你打開智能音箱時(shí)，它會播放你此前從未聽過但的確很喜歡的歌曲；當(dāng)你瀏覽新聞資訊平臺時(shí)，總會驚嘆于頁面顯示的信息正合你意。這些我們逐漸習(xí)以為常的生活，都是隱藏于服務(wù)背后的算法。
如今，人工智能及其核心算法正以前所未有的深度和廣度，嵌入社會、經(jīng)濟(jì)、政治等諸多領(lǐng)域，一個(gè)前所未有的高度自動化的世界正在形成。從商業(yè)領(lǐng)域擴(kuò)展至立法、執(zhí)法與司法等公權(quán)力運(yùn)行過程中，對提高政府治理能力、推動人民群眾生活的便利化，以及預(yù)測并防止風(fēng)險(xiǎn)的發(fā)生和擴(kuò)大等方面發(fā)揮重要作用。在新冠肺炎疫情常態(tài)化防控和復(fù)工復(fù)產(chǎn)關(guān)鍵階段發(fā)揮重要作用的健康碼，當(dāng)屬例證。隨著機(jī)器學(xué)習(xí)算法的控制力的延伸，決策權(quán)部分或全部，主動或被動地從“人類之手”交由“算法之手”。“十四五”規(guī)劃綱要將“加快數(shù)字化發(fā)展 建設(shè)數(shù)字中國”作為獨(dú)立篇章，圍繞打造數(shù)字經(jīng)濟(jì)新優(yōu)勢、加快數(shù)字社會建設(shè)步伐、提高數(shù)字政府建設(shè)水平以及營造良好數(shù)字生態(tài)，勾畫出了未來五年數(shù)字中國建設(shè)的新圖景。
現(xiàn)代社會中，科技嵌入治理不僅成為現(xiàn)實(shí)，也是趨勢。如何保證科技向善，不僅是倫理問題，更是法治問題。國家行政管理出版社出版的新書《算法：人工智能在想什么》一書，在細(xì)致勾勒算法時(shí)代特征的基礎(chǔ)上，審視算法時(shí)代的隱憂與算法決策的風(fēng)險(xiǎn)，并提供規(guī)制算法的思路和框架，對人類長久存在的歧視問題在算法中的體現(xiàn)展開深入分析，并以無人駕駛為例探討算法規(guī)制的關(guān)鍵所在，探討應(yīng)對風(fēng)險(xiǎn)與問題的可行性路徑，從多學(xué)科的角度對嵌入國家治理能力體系中的算法進(jìn)行了理論和實(shí)務(wù)兩個(gè)層面的探討。此書的作者是活躍在國內(nèi)研究一線的中青年學(xué)者，他們不僅能用深入淺出的語言來探討這一重要問題，更難得的是，他們從科技倫理和法治兩個(gè)層面，探討在國家治理體系和能力現(xiàn)代化的進(jìn)程中政府對算法如何予以規(guī)制，以及政府如何依法科學(xué)運(yùn)用算法，該著作也是這一領(lǐng)域的最新研究成果。
1988年鄧小平同志提出的“科學(xué)技術(shù)是第一生產(chǎn)力”。十八屆三中全會提出了“國家治理體系和治理能力現(xiàn)代化”的重要命題，以人工智能、大數(shù)據(jù)和算法為代表的現(xiàn)代科技在改變社會結(jié)構(gòu)、商業(yè)模式和個(gè)人生活方式的同時(shí)，必然嵌入現(xiàn)代國家治理體系之中，影響社會治理能力。如何在法治化的背景下理性審視算法技術(shù)，又如何有效規(guī)制算法，可謂人工智能時(shí)代國際社會普遍關(guān)注的一項(xiàng)重要議題。我們在看到人工智能和算法帶來益處的同時(shí)，也需要有效應(yīng)對算法帶來的風(fēng)險(xiǎn)和挑戰(zhàn)。對我國而言，為人工智能技術(shù)提供更多法律和政策支持，對算法問題予以規(guī)制，是重要問題，決定著我國在新一輪科技和產(chǎn)業(yè)革命中，能否實(shí)現(xiàn)科技和產(chǎn)業(yè)發(fā)展的多贏局面。
法治化是國家治理現(xiàn)代化的主要內(nèi)容，是衡量國家治理現(xiàn)代化水平的主要標(biāo)準(zhǔn)，是實(shí)現(xiàn)國家治理現(xiàn)代化的關(guān)鍵。我們要探討如何規(guī)制算法，就要對算法以及算法的應(yīng)用予以了解，并要運(yùn)用法治思維和法治方式來展開討論、尋求對策。
首先，要準(zhǔn)確理解算法及其特征。無論是法學(xué)、社會學(xué)、管理學(xué)等專業(yè)社科研究人員，還是普通公眾，都需要“揭開算法的神秘面紗”，知道算法是怎么回事兒，在這個(gè)算法已經(jīng)無處不在的時(shí)代，這是第一步。算法，本質(zhì)上就是解決問題的一系列步驟。它并非計(jì)算機(jī)時(shí)代或人工智能體系的獨(dú)創(chuàng)概念，只不過隨著大規(guī)模數(shù)據(jù)采集和分析能力的提升，能夠自主學(xué)習(xí)的機(jī)器學(xué)習(xí)算法日漸成為人工智能時(shí)代的驅(qū)動器。機(jī)器學(xué)習(xí)算法的運(yùn)行原理是，通過對已有數(shù)據(jù)進(jìn)行學(xué)習(xí)建模，再根據(jù)更多的數(shù)據(jù)修正和分析模型，在面對新情景時(shí)，也可以根據(jù)歷史數(shù)據(jù)和其“所學(xué)”作出判斷。人工智能的實(shí)現(xiàn)相當(dāng)程度上要?dú)w功于機(jī)器學(xué)習(xí)算法之應(yīng)用。
其次，要客觀中立研究和解讀算法。任何科學(xué)技術(shù)的興起與發(fā)展過程均伴隨一定的隱憂，機(jī)器學(xué)習(xí)算法也不例外。人類與算法之間的關(guān)系錯綜復(fù)雜，它在帶來諸多實(shí)實(shí)在在便利的同時(shí)，也帶來一些風(fēng)險(xiǎn)。現(xiàn)實(shí)中對人工智能、大數(shù)據(jù)等科技及其應(yīng)用的探討，很容易走向極端。一種極端，是對科技盲目樂觀，簡單信奉所謂“技術(shù)中立”，對掌握科技、運(yùn)用科技的人，過分信任，監(jiān)管對策準(zhǔn)備不足；另一種極端，是對新技術(shù)的發(fā)展進(jìn)程不了解，盲目恐慌，以科幻電影所描繪的未來世界來展開想象。其實(shí)，十八般武藝俱全，既能訂餐又能炒菜，還能開車的超級人工智能，仍是遙不可及的未來。作為社會科學(xué)研究者，對科技問題展開規(guī)制的探討應(yīng)當(dāng)是客觀中立的。
最后，要跨學(xué)科探討對算法的規(guī)制。對算法規(guī)制的研究應(yīng)當(dāng)是多學(xué)科交叉融合的，而且應(yīng)當(dāng)是多主體參與的。其中，既要有學(xué)者的思考，更要有政府部門和企業(yè)的高度參與。算法規(guī)制的成功與否，取決于學(xué)界、政府和行業(yè)是否共同思考，有效利用新技術(shù)推動社會治理創(chuàng)新。需要聚集來自法學(xué)、哲學(xué)、公共管理等社會學(xué)科的知識和力量，用冷靜中立的視角，來思考人工智能和算法帶來的挑戰(zhàn)和風(fēng)險(xiǎn)。無論是自動駕駛的法律和政策應(yīng)對研究，還是個(gè)人信息保護(hù)現(xiàn)狀分析，人工智能時(shí)代算法歧視研究乃至數(shù)據(jù)安全法立法建議等問題，法學(xué)都應(yīng)當(dāng)在其中發(fā)揮重要作用。
（作者：胡建淼，系中共中央黨校〔國家行政學(xué)院〕教授）
