中新經(jīng)緯12月21日電 (薛宇飛)近日，清華大學社會科學學院社會學系、中國科學院學部-清華大學科學與社會協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設計與企業(yè)社會責任”研討會。清華大學公共管理學院教授、人工智能治理研究中心主任梁正在研討會上表示，算法治理是一個制度問題，不是技術問題，算法的治理應當重點關注算法使用的過程及其產(chǎn)生的影響。

梁正表示，從技術特性方面看，機器學習目前還是一個“黑箱”過程，在透明性和可解釋性上存在問題，某種程度上類似于化學科學產(chǎn)生之前的“煉金術”階段，“我們知道算法管用，但不知道它的核心原理是什么，需要在基礎理論方面進一步深入研究。”

梁正分析說，從國際經(jīng)驗看，歐盟是自上而下地制定規(guī)則，以算法透明和問責去保證算法公平。他稱，這里面，涉及到了算法原理的可解釋性、過程的可追溯性及決策結果的可被理解性，具體的治理路徑是建立算法評估機制、審計機制以及問責機制，用這個方式倒推算法開發(fā)和應用的責任。

相較而言，美國對算法的規(guī)制相對謹慎，梁正說，“如果把算法理解為一套技術方案，對它進行干預的話，可能就不符合基本的市場競爭理念。美國在這方面還是很小心，特別是商業(yè)、企業(yè)領域。不過，在過去三年，美國在公共領域比較明顯的變化是對人臉識別技術的禁用，包括紐約市出臺的算法問責法，州層面出臺的法案如《加州消費者隱私法》，則類似于歐盟的思路。”

他介紹，中國目前已經(jīng)出臺一系列法律法規(guī)，包括《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》，建立了基礎機制，一些規(guī)范、指引、準則在推出過程中，數(shù)據(jù)治理體系也在建設中。在基本的制度體系建立后，接下來應該重點研究制定可實施和操作的細則。

“治理模式構建方面，算法的治理不在于算法本身，而在于算法使用后產(chǎn)生的影響。當然，也不只是看結果，還要看過程，這是一個理想狀況。如果技術解決方案上能夠做到可解釋、可負責、可信任，就可以保障它不出問題。算法治理還需要多方協(xié)同參與，包括使用者、勞動者、研發(fā)設計者、管理者等等。”他還說。

梁正指出，“目前國家出臺的相關法律，把安全、個人權益等敏感問題的紅線都劃出來了，之后便是針對各專門應用領域提出更具體的要求，算法做到可解釋、可問責，治理中實現(xiàn)分級分類、分場景。同時，過程中有監(jiān)督，事后有補救，以及確定治理的優(yōu)先級，在不同領域應用不同的治理工具，包括對基本底線的把控。”

他最后強調(diào)，算法治理是一個制度問題，不是技術問題，不能僅僅按照技術的選擇區(qū)分什么是好算法或壞算法。(中新經(jīng)緯APP)

中新經(jīng)緯版權所有，未經(jīng)書面授權，任何公司及個人不得轉(zhuǎn)載、摘編或以其它方式使用。

關鍵詞： 梁正：算法治理應關注技術使用過程及產(chǎn)生的影響