《自然》發(fā)表的一篇評論文章指出，研究人員必須建立一門科學來研究人類—算法行為的集體模式，以便更好地監(jiān)管適應性算法，并確保它們對社會發(fā)

揮安全有益的作用。

　　自適應算法是能根據人類集體行為不斷變化的算法，比如能根據多個變化因素（包括宣傳、反宣傳以及共同利益）為社交媒體推送篩選個性化內容

的算法。這些算法已被發(fā)現(xiàn)與產生廣泛影響有關，包括社會運動和股市閃電崩盤。

　　在美國最高法院今年晚些時候將審理的一起案件中，優(yōu)兔（YouTube）的母公司谷歌被起訴，因為其視頻的適應性算法推送使恐怖分子變得激進的

內容，而谷歌對此負有責任。這起案件迫使人們思考如何監(jiān)管會根據人類行為發(fā)生改變的算法。

　　美國康奈爾大學科學家納森·馬提亞斯在文中表示：“隨著AI系統(tǒng)的應用日漸廣泛，人類的生活與適應性算法將緊密交織。”人類與適應性算法之間

的相互影響會形成一個復雜系統(tǒng)，在這個系統(tǒng)中，任何部分的微小變化，如算法調整，都會導致非預期的后果。

　　馬提亞斯提出了完善人類—算法集體行為這門科學的多個步驟，包括對行為模式的分類和預測，以及避免產生危害的有效干預。由于算法的影響通

常由民眾和記者最早察覺，作者因而認為這些群體應被納入這類研究中。

　　文章還指出，適應性算法或對社會產生深遠的益處，不過，“這里的前提是必須用可靠的研究對算法進行設計和監(jiān)管”。（記者張夢然）