2019年，李飛飛教授與哲學(xué)家約翰·埃切門迪共同成立了斯坦福大學(xué)以人為本人工智能研究院（HAI），旨在推動(dòng)人工智能技術(shù)的發(fā)展，同時(shí)確保這些強(qiáng)大的工具能夠服務(wù)于提升人類福祉，而非僅僅追求生產(chǎn)力的提高。

作為現(xiàn)代人工智能領(lǐng)域的奠基人之一，李飛飛從更加人文的視角看待如今的技術(shù)發(fā)展，她說：“現(xiàn)在有很多噪音，有很多夸張的論述，但這是技術(shù)發(fā)展的一個(gè)必經(jīng)階段。在這個(gè)以人工智能為驅(qū)動(dòng)的時(shí)代，以人為本的理念比以往任何時(shí)候都更為重要。”

本文經(jīng)授權(quán)摘編整理自《我看見的世界》。

《我看見的世界：李飛飛自傳》，作者: [美] 李飛飛，譯者：趙燦，版本：中信出版社 2024年4月

人工智能帶來社會(huì)危機(jī)

2015 年 5 月，雅虎圖片托管服務(wù) Flickr 在描述 56 歲黑人男子威廉的肖像時(shí)，自動(dòng)生成了一個(gè)標(biāo)簽“猿”。

雅虎的新技術(shù)立刻引發(fā)了各方強(qiáng)烈憤慨。此后，這項(xiàng)技術(shù)接二連三出現(xiàn)失誤:將達(dá)豪集中營(yíng)大門的照片標(biāo)記為攀爬架，把一位臉上涂有彩色粉末的白人婦女貼上了“猿”的標(biāo)簽。雅虎 Flickr 已經(jīng)麻煩纏身。不僅是雅虎，谷歌也陷入了類似的爭(zhēng)議，谷歌照片服務(wù)也將兩個(gè)黑人青少年錯(cuò)誤地標(biāo)記為“大猩猩”。

圖像分類本已是老生常談的成功技術(shù)，卻在短短幾周內(nèi)變得非常復(fù)雜。

雖然事故并非惡意，但這并不能讓人感到寬慰。相反，無心之失所揭示的問題才更加令人不安:包括 ImageNet 在內(nèi)的數(shù)據(jù)集由于缺乏多樣性，導(dǎo)致了一系列意料之外的結(jié)果;未經(jīng)充分測(cè)試的算法和存疑的決策又進(jìn)一步加劇了負(fù)面影響。當(dāng)互聯(lián)網(wǎng)呈現(xiàn)的是以白人、西方人和男性為主的日常生活畫面時(shí)我們的技術(shù)就很難理解其他人群了。

有果必有因，正如記者兼評(píng)論員杰克·克拉克(Jack Clark) 所言，問題的根源在于人工智能“男性之海”問題:科技行業(yè)的代表性不足，導(dǎo)致算法無意中帶有偏見，在非白人、非男性用戶身上表現(xiàn)不佳。這篇文章于 2016 年發(fā)表在彭博社網(wǎng)站上，是對(duì)人工智能倫理問題的最早一批討論之一。

從代表性問題的出現(xiàn)，到問題被大眾真切地感受到，中間往往需要幾年的時(shí)間。

李飛飛和她的同僚們決定，向九年級(jí)和十年級(jí)的女生開放為期兩周的斯坦福大學(xué)人工智能實(shí)驗(yàn)室課程。讓每個(gè)一直被歷史排除在外的參與者相信，她們同樣屬于這個(gè)時(shí)代、這個(gè)領(lǐng)域。

李飛飛，1976年出生于中國(guó)北京，美國(guó)國(guó)家工程院院士、美國(guó)國(guó)家醫(yī)學(xué)院院士、美國(guó)藝術(shù)與科學(xué)院院士，美國(guó)斯坦福大學(xué)首位紅杉講席教授，以人為本人工智能研究院（HAI）院長(zhǎng)，研究領(lǐng)域主要為計(jì)算機(jī)視覺、認(rèn)知神經(jīng)科學(xué)、計(jì)算神經(jīng)科學(xué)和大數(shù)據(jù)分析。

邀請(qǐng)少數(shù)人群參加人工智能課程的想法非常受歡迎，這個(gè)項(xiàng)目很快就像滾雪球一樣發(fā)展成為全國(guó)性的非營(yíng)利組織，遍布北美各地校園，使命范圍也不斷擴(kuò)大。這個(gè)項(xiàng)目開始向有色人種學(xué)生和經(jīng)濟(jì)困難學(xué)生開放。

在短短幾年后，這個(gè)項(xiàng)目就正式命名為 AI4ALL，甚至吸引了一些資金，梅琳達(dá)·弗倫奇·蓋茨(Melinda French Gates) 的 Pivotal Ventures 創(chuàng)投公司和英偉達(dá)創(chuàng)始人黃仁勛提供了一輪融資，讓項(xiàng)目改頭換面。

這個(gè)旅程可能需要幾代人才能完成，現(xiàn)在只是邁出了一小步，但實(shí)現(xiàn)了從無到有的跨越。在業(yè)界追逐人工智能未來時(shí)，往往肆意而為，缺乏自省，而 AI4ALL的努力能夠保證，至少有一小部分人在逆向而行。

在風(fēng)暴中心

2022 年底，ChatGPT 的公開發(fā)布席卷了世界，隨后出現(xiàn)了更多生成式人工智能工具。

從最初只能執(zhí)行簡(jiǎn)單的任務(wù)到如今具備類似人類的能力，短短幾年的時(shí)間，人工智能的發(fā)展速度令人咋舌，與此同時(shí)，對(duì)其潛在風(fēng)險(xiǎn)的擔(dān)憂也日益增加。

事實(shí)上，人工智能存在的偏見問題直到現(xiàn)在依然沒有被很好地解決。2023年底，《華盛頓郵報(bào)》發(fā)表了一篇詳盡的專題報(bào)道，深入探討了機(jī)器學(xué)習(xí)技術(shù)中潛在的偏見。當(dāng)前的 AI 圖像生成模型，如 Dall-E 和 Stable Diffusion，有時(shí)仍會(huì)反映出社會(huì)的刻板印象。例如，在生成“具有創(chuàng)造力的人”的圖像時(shí)，這些系統(tǒng)往往傾向于呈現(xiàn)白人形象；而在描繪“社會(huì)服務(wù)人員”時(shí)，則多數(shù)情況下展示的是有色人種的形象。

美劇《西部世界》劇照。

其實(shí)，大型語(yǔ)言模型，即使是多模態(tài)的大型語(yǔ)言模型，可能也并不具備真正意義上的“思考”能力。大型語(yǔ)言模型很容易出現(xiàn)荒謬的概念性失誤，也樂于編造聽起來合理但實(shí)際上毫無意義的胡言亂語(yǔ)。

了解這些事實(shí)有助于我們避免過分迷戀模型的能力。然而，隨著大型語(yǔ)言模型生成的文本、圖像、語(yǔ)音和視頻越來越復(fù)雜，真與假之間的界限愈加模糊。越來越多的評(píng)論家開始質(zhì)疑，為我們敲響警鐘:作為個(gè)人、機(jī)構(gòu)，甚至社會(huì)，我們究竟有沒有能力區(qū)分真實(shí)和虛構(gòu)?

當(dāng)人們意識(shí)到這一切還只是 1.0 版本時(shí)，這種發(fā)問尤其令人警醒。

我們?nèi)陨硖幰粓?chǎng)全球風(fēng)暴之中。每天似乎都有新的頭條新聞報(bào)道自動(dòng)化對(duì)全球勞動(dòng)者構(gòu)成的威脅。隨著人工智能在監(jiān)控領(lǐng)域的應(yīng)用日趨成熟，記者和人權(quán)活動(dòng)家的擔(dān)憂與日俱增，對(duì)隱私和個(gè)人尊嚴(yán)對(duì)隱私的古老威脅也在現(xiàn)代社會(huì)出現(xiàn)，相關(guān)報(bào)道使公眾對(duì)人工智能形成了負(fù)面看法，這在整個(gè)科技領(lǐng)域都是非常罕見的。

科技不斷發(fā)展，算法語(yǔ)言表達(dá)的高級(jí)程度已逼近人類水平。機(jī)器人正在逐漸學(xué)會(huì)應(yīng)對(duì)真實(shí)的環(huán)境。視覺模型不僅可以通過照片進(jìn)行訓(xùn)練，還可以在全三維世界中進(jìn)行沉浸式實(shí)時(shí)訓(xùn)練。人工智能能夠像識(shí)別內(nèi)容一樣流暢地生成內(nèi)容。與此同時(shí)，倫理問題在我們周圍不斷涌現(xiàn)，與人類經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)聯(lián)也日益緊密，但這就是科學(xué)一直以來的樣子。

重估人工智能

從 ImageNet 時(shí)代開始，規(guī)模的重要性就已經(jīng)顯而易見。但近年來，“越大越好”的觀點(diǎn)幾乎被賦予了宗教般的意義，關(guān)于“大數(shù)據(jù)”的討論永無休止，不斷強(qiáng)化著這樣的觀點(diǎn):規(guī)模是神奇催化劑，是機(jī)器中的幽靈，可以將人工智能的舊時(shí)代與令人窒息的夢(mèng)幻未來區(qū)分開來。

沒有人能否認(rèn)，神經(jīng)網(wǎng)絡(luò)確實(shí)在這個(gè)資源豐富的時(shí)代蓬勃發(fā)展:驚人的數(shù)據(jù)量、大規(guī)模分層架構(gòu)和大量互聯(lián)的硅片確實(shí)帶來了歷史性變化。

美劇《西部世界》第三季劇照。

人工智能正在成為一種特權(quán)，一種排他性極強(qiáng)的特權(quán)。越來越多的學(xué)者、政策制定者認(rèn)為，使用人工智能模型的高昂成本正在將研究人員排除在該領(lǐng)域之外，從而損害了對(duì)這一新興技術(shù)的獨(dú)立研究。這種權(quán)力的轉(zhuǎn)移正在悄然改變?nèi)斯ぶ悄茴I(lǐng)域的格局，促使研究人員將他們的研究成果更多地應(yīng)用于商業(yè)領(lǐng)域。

學(xué)術(shù)界早就意識(shí)到人工智能可能會(huì)帶來負(fù)面沖擊，比如缺乏透明度、容易受到偏見和對(duì)抗性影響等等。然而，由于研究規(guī)模有限，風(fēng)險(xiǎn)一直只存在于理論層面。市值接近萬億美元的公司已經(jīng)掌握了主導(dǎo)權(quán)，潛在風(fēng)險(xiǎn)的發(fā)展步伐也急劇加快。無論是否準(zhǔn)備就緒，這些問題都需要以商業(yè)速度加以解決。

每個(gè)問題單獨(dú)來看都令人擔(dān)憂，但它們共同指向了一個(gè)未來，其特點(diǎn)是監(jiān)督減少、不平等加劇，如果處理不當(dāng)，甚至可能導(dǎo)致迫在眉睫的數(shù)字獨(dú)裁主義問題。

硅谷的傲慢態(tài)度向來為外界所詬病。在人工智能時(shí)代，盡管我們對(duì)潛在風(fēng)險(xiǎn)的認(rèn)知不斷加深，企業(yè)的夸夸其談也上升到了新的高度，企業(yè)高管們承諾將在不久后推出自動(dòng)駕駛汽車，設(shè)計(jì)出高超精湛的腫瘤檢測(cè)算法，實(shí)現(xiàn)工廠的端到端自動(dòng)化。至于被先進(jìn)技術(shù)取代了工作的人(出租車司機(jī)、長(zhǎng)途卡車司機(jī)、裝配線工人甚至放射科醫(yī)生)的命運(yùn)，商業(yè)領(lǐng)域的態(tài)度似乎介于半心半意的“再培訓(xùn)”和幾乎不加掩飾的漠不關(guān)心之間。

無論首席執(zhí)行官和自詡為未來學(xué)家的人的言論如何徹底脫離公眾，技術(shù)的日益普及都會(huì)進(jìn)一步加劇人們對(duì)人工智能的恐懼。在這個(gè)時(shí)代，里程碑接二連三地出現(xiàn)，最可怕的情景正在逼近。有偏見的人工智能被廣泛應(yīng)用于處理貸款申請(qǐng)，甚至協(xié)助法官做出假釋決定等方面。類似的報(bào)道還顯示，在某些招聘中，求職者會(huì)先經(jīng)過人工智能技術(shù)的篩選，然后才有真人面試官進(jìn)行面試，此類做法往往會(huì)在無意中造成歧視性影響。

如今的人工智能是如此宏偉，如此強(qiáng)大，如此反復(fù)無常，既能輕易激發(fā)靈感， 也很容易摧毀一切。要讓人工智能值得信任，需要的遠(yuǎn)不止商業(yè)公司空洞的陳詞濫調(diào)。

美劇《西部世界》第三季劇照。

人工智能的未來

我們?cè)?jīng)將人工智能視作純粹的科學(xué)，而現(xiàn)在，我們更愿意用:“現(xiàn)象”“顛覆”“謎題”“特權(quán)”“自然之力”來定義新一代人工智能所能做的一切，無論是好是壞，無論是在預(yù)期之內(nèi)，還是在意料之外，都因其設(shè)計(jì)本身缺乏透明度而變得復(fù)雜。

如果在算法設(shè)計(jì)完成后，再加入安全性和透明度等考慮因素，無論設(shè)計(jì)得多么精妙，都不足以滿足要求。下一代人工智能必須從開發(fā)之初就采取與現(xiàn)在完全不同的理念。以激情為起點(diǎn)固然很好，但我們要面對(duì)的是紛繁復(fù)雜而又不起眼的挑戰(zhàn)，要取得真正的進(jìn)展，就必須有敬畏之心。而硅谷似乎缺乏這種心態(tài)。

如今，人工智能是一種責(zé)任，是我們所有人共同承擔(dān)的責(zé)任。

深度學(xué)習(xí)飛速發(fā)展，每一年都感覺像是要面對(duì)一個(gè)全新的領(lǐng)域，其應(yīng)用的深度和多樣性增長(zhǎng)得如此之快，甚至全職研究生和博士后也很難跟上文獻(xiàn)的步伐，更不用說教授們了。可能性無窮無盡，挑戰(zhàn)也永無止境。

即使在這樣一個(gè)黑暗的時(shí)代，人工智能也具有無與倫比的激勵(lì)力量。面對(duì)全球亟待解決的 問題，面對(duì)具有歷史意義的機(jī)遇，面對(duì)可能需要幾代人的努力才能揭開謎底的未知，真正解決所有問題的答案遠(yuǎn)遠(yuǎn)不是公司戰(zhàn)略或?qū)W術(shù)課程所能提供的。未來幾年，從業(yè)者需要的不僅是專業(yè)技術(shù)知識(shí)，他們還必須了解哲學(xué)、倫理學(xué)，甚至法律。

想象空間是巨大的，但愿景需要一個(gè)重要的紐帶串聯(lián)起來，這個(gè)紐帶就是大學(xué)。早在有人利用人工智能謀取利益之前，人工智能就已經(jīng)在大學(xué)里起步了。在大學(xué)校園里，仍然最有可能感受到某些意想不到的研究突破帶來的火花。感知機(jī)、神經(jīng)網(wǎng)絡(luò)、ImageNet，以及后來的很多東西都出自大學(xué)。

要從根本上重新構(gòu)想人工智能，使其成為以人為本的實(shí)踐，與其說這是旅程方向的改變，不如說是旅程范圍的擴(kuò)展。人工智能一直以來都追求科學(xué)性，而現(xiàn)在，它必須也追求人性。人工智能應(yīng)該秉承最優(yōu)秀的學(xué)術(shù)傳統(tǒng)，保持合作和敬畏，同時(shí)不懼怕直面現(xiàn)實(shí)世界。畢竟，星光是多樣的。一旦白色的光輝展開，各種顏色就會(huì)發(fā)出耀眼奪目的光芒。