情況如下:原標(biāo)題：微軟前執(zhí)行副總裁沈向洋受聘清華大學(xué)，首堂課談AI責(zé)任圖片來(lái)源：清華大學(xué)記者|彭新

　　3月5日，清華大學(xué)宣布，通過(guò)視頻連線為正在西雅圖清華大學(xué)全球創(chuàng)新學(xué)院（GIX）大樓授課的沈向洋博士頒發(fā)雙聘教授聘書(shū)，這也是清華大學(xué)首次以視頻會(huì)議方式在線舉行聘任儀式。

　　沈向洋是著名的計(jì)算機(jī)視覺(jué)和圖形學(xué)專(zhuān)家，1996年加入微軟，1999年回北京參與創(chuàng)立微軟中國(guó)研究院。在微軟期間，歷任微軟亞洲研究院院長(zhǎng)兼首席科學(xué)家，微軟全球資深副總裁、全球執(zhí)行副總裁。

　　本次聘任儀式，是沈向洋在去年宣布離職微軟后首次公開(kāi)亮相。2019年11月13日，微軟CEO薩提亞宣布沈向洋將在2020年初離開(kāi)微軟。2020年3月2日，“清華大學(xué)本科教學(xué)”官方公眾號(hào)發(fā)布了題為《沈向洋雙聘教授聘任儀式暨春風(fēng)講堂第四講》的通知，正式確認(rèn)沈向洋去向。

　　聘任儀式后，沈向洋在線發(fā)表了題為“Engineering Responsible AI”的報(bào)告并通過(guò)在線平臺(tái)公開(kāi)直播，這也被視為其在清華的“第一堂課”。

　　沈向洋稱(chēng)，近年來(lái)人工智能領(lǐng)域取得的進(jìn)步已經(jīng)超出了此前的預(yù)期。但是，許多人工智能領(lǐng)域的從業(yè)人員并未充分考慮其可能產(chǎn)生的社會(huì)影響。如今企業(yè)界、學(xué)術(shù)界和政府需要立即采取行動(dòng)以應(yīng)對(duì)相關(guān)的社會(huì)挑戰(zhàn)。

　　所謂Responsible AI，即負(fù)責(zé)任的人工智能。2018年，微軟發(fā)表《未來(lái)計(jì)算》（The Future Computed）一書(shū)，其中提出了人工智能開(kāi)發(fā)的六大原則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。在報(bào)告開(kāi)始階段，沈向洋再次引用該原則，重申其重要性。

　　在報(bào)告中，沈向洋回顧了當(dāng)前AI的進(jìn)展，他認(rèn)為，如今AI技術(shù)已經(jīng)可以做決策，這是AI技術(shù)發(fā)展過(guò)程中非常重要的一步，但是人們依然缺乏對(duì)AI做決定這一過(guò)程的理解。舉例而言，當(dāng)人類(lèi)在生產(chǎn)電氣零部件時(shí)，都會(huì)有相應(yīng)的檢查記錄，哪里出現(xiàn)問(wèn)題，就可以對(duì)操作文件進(jìn)行分析，從而找出問(wèn)題。但是，AI卻沒(méi)有這樣的環(huán)節(jié)，導(dǎo)致問(wèn)題很難排查發(fā)現(xiàn)。

　　AI這一特點(diǎn)在微軟內(nèi)部同樣表現(xiàn)如此，“我們對(duì)微軟 500名機(jī)器學(xué)習(xí)領(lǐng)域工程師進(jìn)行了調(diào)查，我們問(wèn)他們?nèi)绾胃纳茩C(jī)器學(xué)習(xí)系統(tǒng)？在經(jīng)過(guò)調(diào)查后，得出結(jié)論：如今機(jī)器學(xué)習(xí)工程師面臨的最大問(wèn)題之一是，他們知道出了一些問(wèn)題，但是不知道具體是哪里出了問(wèn)題，也并不知道為什么會(huì)出現(xiàn)問(wèn)題。” 沈向洋說(shuō)。

　　在對(duì)AI訓(xùn)練結(jié)果的解釋性、AI的偏見(jiàn)上，研究人員的缺陷也在影響AI發(fā)展。沈向洋以圖形識(shí)別狗舉例，盡管研究人員可以創(chuàng)造準(zhǔn)確率較高的識(shí)別算法，區(qū)別圖像中的狼和哈士奇，但仍無(wú)法解釋其中原理。實(shí)際上，AI的判斷并非通過(guò)圖片中的動(dòng)物部分，而是通過(guò)圖片中除了動(dòng)物之外的部分進(jìn)行的。

　　在AI的偏見(jiàn)上，一個(gè)經(jīng)典例子就是黑色人種的人臉識(shí)別。通常，AI對(duì)黑人女性比白人的面部識(shí)別準(zhǔn)確率要低。但經(jīng)過(guò)調(diào)整再次訓(xùn)練模型后，這種識(shí)別率的差距可以降低，達(dá)到可接受水平。從不斷的訓(xùn)練中，研究者得出結(jié)論，這種偏見(jiàn)來(lái)自于訓(xùn)練采用的樣本數(shù)據(jù)。因?yàn)檠芯空呷藛T更多采用非黑色人種的數(shù)據(jù)樣本。

　　報(bào)告中，沈向洋還引用《麻省理工科技評(píng)論》的一則新聞報(bào)道，該報(bào)道稱(chēng)。通過(guò)評(píng)估算法，AI可能將錯(cuò)誤的人送進(jìn)監(jiān)獄。在沒(méi)有仔細(xì)評(píng)估的前提下，AI預(yù)測(cè)犯罪可能會(huì)加劇對(duì)深色皮膚人士的不平等，而非提高社會(huì)安全。

　　最后，沈向洋總結(jié)道，“我們是第一代和AI共存的人類(lèi)，無(wú)論喜歡與否都別無(wú)選擇，人類(lèi)得決定怎么構(gòu)建、使用AI。而一個(gè)由AI做決定、人類(lèi)無(wú)法理解的世界是不能接受的。”