中新經(jīng)緯12月21日電 (張燕征)近日，清華大學(xué)社會(huì)科學(xué)學(xué)院社會(huì)學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會(huì)協(xié)同發(fā)展研究中心主辦了“倫理立場(chǎng)、算法設(shè)計(jì)與企業(yè)社會(huì)責(zé)任”研討會(huì)。中國科學(xué)院自動(dòng)化研究所研究員曾毅在研討會(huì)上指出，企業(yè)算法倫理與應(yīng)用要做到“知行合一”。

“人工智能是一個(gè)看似智能的信息處理工具，但并不能像人類之間一樣默認(rèn)有一定的基線水平信任，人類的信任來源于長(zhǎng)期的文化沉淀與關(guān)系網(wǎng)絡(luò)。”曾毅表示，人們對(duì)于人工智能系統(tǒng)的起點(diǎn)應(yīng)是不信任，隨著交互增多，人們開始逐漸對(duì)人工智能系統(tǒng)與服務(wù)產(chǎn)生一定的、有條件的信任。

“企業(yè)算法倫理與應(yīng)用要做到知行合一。”曾毅指出，在人工智能倫理和治理方面，一些企業(yè)設(shè)有倫理研究團(tuán)隊(duì)，并產(chǎn)生一些關(guān)于倫理研究的結(jié)果，但倫理研究結(jié)果并沒有真正用來指導(dǎo)企業(yè)研發(fā)人工智能產(chǎn)品與服務(wù)，甚至產(chǎn)品團(tuán)隊(duì)與倫理團(tuán)隊(duì)存在較大鴻溝，如果是這樣的話，長(zhǎng)遠(yuǎn)來看企業(yè)很難贏得公眾、政府、學(xué)術(shù)界的信任。

倫理原則的技術(shù)落地挑戰(zhàn)重重，需要企業(yè)和學(xué)術(shù)界真正將倫理關(guān)切進(jìn)行深度技術(shù)實(shí)踐。曾毅舉例說，《中華人民共和國個(gè)人信息保護(hù)法》、人工智能治理原則都談到了平臺(tái)應(yīng)該給用戶授權(quán)，比如用戶可要求平臺(tái)刪除用戶的數(shù)據(jù)，這件事看起來簡(jiǎn)單，但它在技術(shù)落地上幾乎不具備可行性。

“數(shù)據(jù)庫里可以實(shí)時(shí)刪掉用戶的數(shù)據(jù)，但只要是用人工智能算法的企業(yè)都知道，應(yīng)用數(shù)據(jù)方法絕大多數(shù)不是放在數(shù)據(jù)庫里面調(diào)用的，而是通過人工智能和機(jī)器學(xué)習(xí)模型學(xué)習(xí)，把用戶特征學(xué)習(xí)到了以后，以參數(shù)的形式內(nèi)化于人工智能模型當(dāng)中。如果你采用類似于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型，是很難把單個(gè)用戶數(shù)據(jù)的影響從模型當(dāng)中刪除的。”曾毅稱。

人工智能對(duì)于社會(huì)長(zhǎng)遠(yuǎn)的影響也不可忽視。曾毅表示，人類的下一代是社會(huì)當(dāng)中最脆弱的一代，因?yàn)楫?dāng)受到傷害的時(shí)候，他們沒有成年人的表達(dá)欲望和能力。另外，即使他們受到人工智能產(chǎn)品與服務(wù)的傷害時(shí)，他們可能也不自知。這就使得他們更容易受傷害。

因此，曾毅表示，目前人工智能倫理原則中，應(yīng)該明確告知用戶現(xiàn)在交互的對(duì)象是人工智能，而不是人類，未來也不應(yīng)該混淆人工智能與人類之間的界限。

“如果真正能夠?qū)崿F(xiàn)人類水平的人工智能，它必然是有真正的理解能力。假如它變成社會(huì)準(zhǔn)成員，我們?cè)撛趺刺幚砣斯ぶ悄芘c社會(huì)準(zhǔn)成員之間的關(guān)系？也許我們的文化現(xiàn)在還很難接受人工智能成為社會(huì)準(zhǔn)成員，但是一旦向這個(gè)方向邁進(jìn)，實(shí)現(xiàn)通用人工智能或涌現(xiàn)出超級(jí)智能，對(duì)現(xiàn)在的社會(huì)來說，是完全沒有任何準(zhǔn)備的，其存在的長(zhǎng)遠(yuǎn)倫理問題未來三五十年時(shí)間未見得有解。”曾毅稱。(中新經(jīng)緯APP)

關(guān)鍵詞： 曾毅：企業(yè)算法倫理與應(yīng)用要做到知行合一