首頁 > 科技要聞 > 科技> 正文

李飛飛丈夫，Salesforce首席科學(xué)家發(fā)長文，揭秘AI智能體時(shí)代！

新智元 整合編輯：太平洋科技 發(fā)布于：2025-02-01 00:15

就在不久前，科技界目光聚焦于一篇?jiǎng)e具深意的文章。其作者正是Salesforce首席科學(xué)家、斯坦福大學(xué)計(jì)算機(jī)科學(xué)兼職教授——Silvio Savarese。

Savarese還有一個(gè)令人矚目的身份——「AI教母」李飛飛的丈夫。

Silvio Savarese深入探討了AI智能體的未來發(fā)展，提出了三大階段的演變：從獨(dú)立任務(wù)執(zhí)行到多智能體協(xié)作，再到企業(yè)級的全面協(xié)調(diào)。

智能體將不僅僅是工具，更將成為提升工作效能和創(chuàng)造力的強(qiáng)大伙伴。

同時(shí)，他還深入思考了在這一激動(dòng)人心的發(fā)展進(jìn)程中，人類所應(yīng)扮演的角色與承擔(dān)的責(zé)任。

本文在不改變原文大意的情況下，編譯如下：

最近，通過推出Agentforce，Salesforce正在推動(dòng)企業(yè)邁向一個(gè)全新的AI賦能時(shí)代。

步入AI的第三波浪潮，借助AI智能體，人們工作起來會更有能力、更覺有趣、更富創(chuàng)造力。

從人才招聘到醫(yī)療保健領(lǐng)域，AI與人類在各行各業(yè)的合作日益廣泛。這種協(xié)作不僅能快速滿足大規(guī)模的需求，而且在多數(shù)情況下，比單純的人工操作更加精準(zhǔn)。

雖然需要些時(shí)間，但智能體無疑會在多方面優(yōu)化我們的工作：提升生產(chǎn)力與效率，輔助戰(zhàn)略決策，我堅(jiān)信，它還能提高整體工作滿意度。

無論普通員工還是高管，幾乎所有企業(yè)人員都能在調(diào)配人力的同時(shí)，指揮數(shù)字勞動(dòng)力。

在這個(gè)時(shí)代的發(fā)展進(jìn)程中，信任和問責(zé)制至關(guān)重要。

其演進(jìn)分為三個(gè)階段：首先，專業(yè)智能體負(fù)責(zé)獨(dú)立任務(wù)；接著，多智能體系統(tǒng)實(shí)現(xiàn)無縫協(xié)作；最后，企業(yè)級協(xié)調(diào)系統(tǒng)將徹底改變企業(yè)的運(yùn)作模式。

Salesforce的AI研究團(tuán)隊(duì)肩負(fù)著塑造企業(yè)AI未來的使命。接下來，為大家講講我們對智能體發(fā)展的展望，以及人類在此過程中需扮演的角色 。

AI智能體的演變：從規(guī)則到推理

LLM是經(jīng)過訓(xùn)練的深度學(xué)習(xí)模型，能理解文本還能生成文本。

AI智能體的發(fā)展和機(jī)器學(xué)習(xí)的進(jìn)步密切相關(guān)。早期傳統(tǒng)的基于規(guī)則的系統(tǒng)，比如機(jī)器人過程自動(dòng)化（RPA），能精準(zhǔn)完成一系列任務(wù)，但在應(yīng)對變化時(shí)就容易出現(xiàn)問題。這類早期系統(tǒng)需要大量技術(shù)支持，還要找專業(yè)人員咨詢。

過去幾十年，機(jī)器處理信息的方式有了很大變化，從原來死板的自動(dòng)化系統(tǒng)，變成了現(xiàn)在靈活、適應(yīng)能力強(qiáng)又高效的學(xué)習(xí)系統(tǒng)。

現(xiàn)在，像Agentforce這樣的現(xiàn)代平臺造出的智能體，能明白具體情況，適應(yīng)新變化，還能做各種任務(wù)。

而未來的發(fā)展方向更值得期待：我們將會有借助多智能體推理的自適應(yīng)智能體。

這種智能體可以從周圍環(huán)境中學(xué)到東西，在實(shí)際使用中不斷進(jìn)步，能和人類、企業(yè)客戶、合作伙伴、供應(yīng)商一起工作。甚至，還能跟越來越貼近人們生活的個(gè)性化AI助手配合。

現(xiàn)在，我們才剛開始朝著企業(yè)AI智能體發(fā)展的三個(gè)階段邁進(jìn)。

企業(yè)智能體的三個(gè)階段

就好比音樂從簡單的單音旋律，逐漸演變成復(fù)雜美妙的交響樂。AI智能體也在不斷進(jìn)步，從單個(gè)獨(dú)自工作，變?yōu)槎鄠�(gè)智能體協(xié)同配合。

每個(gè)階段都建立在上一階段的基礎(chǔ)上，為企業(yè)創(chuàng)造出更加豐富、更有層次的互動(dòng)。

第一階段：單個(gè)AI專家智能體

第一階段，專家智能體聚焦特定行業(yè)，能出色完成既定任務(wù)。這給日常關(guān)鍵的商業(yè)運(yùn)作帶來了前所未有的效率和準(zhǔn)確性。這些智能體是企業(yè)應(yīng)用AI的基礎(chǔ)。它們處理零散任務(wù)又穩(wěn)又快，極大改變了部門的工作流程。

它們還能將AI的最新成果用于工作。比如，精準(zhǔn)預(yù)測最佳行動(dòng)方案，根據(jù)每位客戶的偏好和行為，給出高度個(gè)性化的產(chǎn)品推薦。此外，不管是面向客戶、服務(wù)還是銷售代表（人和智能體都是如此），都能生成高質(zhì)量的指導(dǎo)意見、營銷文案和信函。

例如，在商業(yè)領(lǐng)域，智能體徹底改變了庫存和賬戶管理。

智能體可不只做簡單的庫存檢查，還會主動(dòng)監(jiān)控多個(gè)地點(diǎn)的庫存狀況，預(yù)測季節(jié)性需求變化，實(shí)時(shí)生成賬戶摘要，從中找出不尋常的模式或潛在機(jī)會。

過去，人工分析這些任務(wù)要花好幾個(gè)小時(shí)，現(xiàn)在智能體幾秒鐘就能搞定，而且分析得更準(zhǔn)、更透徹。這給零售客戶帶來了更優(yōu)質(zhì)、更個(gè)性化，甚至是神奇的體驗(yàn)。

服務(wù)運(yùn)營也發(fā)生了類似轉(zhuǎn)變。這些智能體不光能做基本的賬單匯總，還會分析客戶互動(dòng)模式，自動(dòng)對服務(wù)請求分類、排序，進(jìn)而得出有關(guān)客戶需求的預(yù)測性洞察。

智能體能夠發(fā)現(xiàn)客戶行為中的趨勢，這些趨勢可能意味著客戶滿意度有問題，或者存在業(yè)務(wù)拓展機(jī)會。如此一來，就為服務(wù)團(tuán)隊(duì)提供了實(shí)用信息，而不只是一堆原始數(shù)據(jù)。

如此一來，客戶服務(wù)變得輕松又流暢。終端客戶幾乎察覺不到服務(wù)的存在——很多時(shí)候，他們還沒意識到有問題，問題就已經(jīng)解決了。

金融服務(wù)領(lǐng)域，智能體大大提高了客戶服務(wù)效率。

確認(rèn)爭議時(shí)，智能體能分析交易歷史，識別潛在的欺詐活動(dòng)，還會自動(dòng)啟動(dòng)相關(guān)安全協(xié)議。做財(cái)務(wù)規(guī)劃時(shí)，智能體整合市場數(shù)據(jù)、客戶個(gè)人歷史和各類經(jīng)濟(jì)指標(biāo)，生成全面的分析報(bào)告。

合理使用這些智能體，企業(yè)后臺的運(yùn)作效率會大幅提升，消費(fèi)者也能體驗(yàn)更先進(jìn)的私人銀行、投資指導(dǎo)和財(cái)富管理服務(wù)。

第二階段：復(fù)合智能體——無縫協(xié)作者

這一階段，公司內(nèi)部的專家智能體開始協(xié)同合作，朝著一個(gè)共同的商業(yè)目標(biāo)努力。

「協(xié)調(diào)者智能體」負(fù)責(zé)組織多個(gè)專家智能體協(xié)同工作。這就好比餐廳的總經(jīng)理，要把出色的接待員、服務(wù)員、經(jīng)理、廚師、備餐員和配送員組織起來，大家齊心協(xié)力，贏得那個(gè)夢寐以求的米其林星級。

在復(fù)雜的商業(yè)場景中，復(fù)合智能體的表現(xiàn)是怎樣的呢？我們來看看這個(gè)客戶服務(wù)場景。

有一位忠誠的零售客戶，想要更換一款過季商品的尺碼。這時(shí)，多個(gè)智能體在背后默默協(xié)作。

首先，有一名前線服務(wù)代表負(fù)責(zé)處理客戶最初的詢問。接著，一名庫存專家會去檢查各個(gè)地方的產(chǎn)品庫存情況。同時(shí)，物流智能體開始計(jì)算運(yùn)輸選項(xiàng)和時(shí)間安排。還有賬單專家，認(rèn)真審查客戶的賬戶歷史和支付選項(xiàng)。

最關(guān)鍵的是「協(xié)調(diào)者智能體」，它把前面這些智能體的工作成果匯總到一起，生成一個(gè)有條理、高效率，既符合品牌形象又貼合客戶需求的回復(fù)。這些回復(fù)會交給前線工作人員，他們審核、完善后，再分享給客戶。

當(dāng)多智能體方法實(shí)施得當(dāng)，「協(xié)調(diào)者智能體」為人類協(xié)調(diào)者提供服務(wù)時(shí)，能帶來諸多由AI驅(qū)動(dòng)的顯著優(yōu)勢：

可靠性提升：系統(tǒng)借助專門化、可靠的智能體聚焦特定領(lǐng)域。由于每個(gè)智能體的工作范圍較窄，這不僅提升了可靠性，還減少了幻覺現(xiàn)象。

安全性增強(qiáng)：采用分布式處理方式，把敏感數(shù)據(jù)的處理交給特定智能體，從而增強(qiáng)了安全性。

可擴(kuò)展性強(qiáng)：隨著需求改變，生態(tài)系統(tǒng)能無縫擴(kuò)展。組織可不斷增添新的專門化智能體，輕松拓展功能。這或許是其中最重要的優(yōu)勢。

第三階段：集成式智能體——企業(yè)協(xié)調(diào)者

在理想的最終階段，跨組織邊界的復(fù)雜智能體對智能體（A2A）交互出現(xiàn)了，這開創(chuàng)了全新的商業(yè)模式。

除了傳統(tǒng)的企業(yè)對企業(yè)（B2B）、企業(yè)對消費(fèi)者（B2C）模式外，還涌現(xiàn)出企業(yè)對智能體（B2A），甚至企業(yè)對智能體再到消費(fèi)者（B2A2C）的交互形式。在這些新模式中，AI智能體成了工作和交易的中介。

來看一個(gè)簡單的汽車租賃場景：客戶的個(gè)人AI智能體與租賃公司的商業(yè)AI智能體進(jìn)行談判。

客戶智能體一心爭取更劃算的價(jià)格和更多價(jià)值，租賃公司智能體則試圖靠附加服務(wù)多賺錢。但租賃公司的智能體得拿捏好分寸，推銷要積極，又不能太激進(jìn)，以防生意被競爭對手搶走。

這些智能體之間的交互，需要依據(jù)復(fù)雜的博弈理論。這要求它們具備高超的談判技巧，遵循特定的協(xié)議，能夠在不確定的情況下管理風(fēng)險(xiǎn)，有可靠的信任驗(yàn)證機(jī)制，還要能巧妙地化解沖突。

現(xiàn)在，想象一下復(fù)雜的企業(yè)流程。

就拿供應(yīng)鏈優(yōu)化和客戶協(xié)調(diào)這些工作來說，無論你是消費(fèi)者，還是企業(yè)員工，集成式AI能讓你擁有一個(gè)智能助手。這個(gè)助手可以根據(jù)你的需求和期望，處理復(fù)雜的協(xié)調(diào)工作，開展有價(jià)值的協(xié)作。

但是，要實(shí)現(xiàn)這個(gè)目標(biāo)，我們?nèi)祟愡�有很多工作要做。

必要條件：信任與責(zé)任

當(dāng)我們部署愈發(fā)復(fù)雜的智能體系統(tǒng)時(shí)，每一項(xiàng)決策都必須遵循信任與責(zé)任這兩個(gè)基本原則。

構(gòu)建信任

在智能體時(shí)代，信任的內(nèi)涵遠(yuǎn)不止于防范有害內(nèi)容、偏見和幻覺。

Salesforce近期的研究表明，61%的客戶覺得，隨著AI的發(fā)展，可信度變得比以往任何時(shí)候都更加重要。我們正步入一個(gè)全新領(lǐng)域，在這個(gè)領(lǐng)域中，組織需要對人類與AI的共生關(guān)系抱有深度信任。

這種信任基于以下要素。首先是準(zhǔn)確性和邊界：AI智能體必須在明確的范圍里運(yùn)行，同時(shí)保持準(zhǔn)確。

智能體的自我意識同樣關(guān)鍵。就像一個(gè)值得敬重的同事，AI智能體得清楚自己的能力邊界，明白什么時(shí)候該向人類尋求幫助。這就需要一套復(fù)雜的交接協(xié)議，保證AI和人類能無縫配合。

比如，我們的AI研究團(tuán)隊(duì)正在研究訓(xùn)練方法，教AI智能體遇到解決不了的難題時(shí)，把不確定的地方標(biāo)出來，接著去尋求幫助。只要訓(xùn)練得當(dāng)，AI就會知道什么時(shí)候不能瞎猜，而是向人類求助。

對于多智能體系統(tǒng)，我們還需要全球公認(rèn)和廣泛采用的協(xié)議。有了這些協(xié)議，協(xié)調(diào)者智能體才能安全、合乎道德地與其他企業(yè)的智能體交流、協(xié)商與合作，實(shí)現(xiàn)雙方共同利益。這種互動(dòng)得快速、高效，還得公平。

最后，隨著AI智能體越來越多，我們的安全措施也得增強(qiáng)。

和其他技術(shù)一樣，一些人也會利用AI搞破壞。他們可能會訓(xùn)練AI蠕蟲來泄露數(shù)據(jù)，或者嘗試控制其他AI智能體，曝光客戶的私人數(shù)據(jù)。

強(qiáng)化保護(hù)、做好隱私控制以及持續(xù)進(jìn)行監(jiān)控，是維持信任的關(guān)鍵。只有建立了信任，AI才能從工具變成和我們一起成長的業(yè)務(wù)伙伴。

確保問責(zé)制

當(dāng)組織開始部署能每秒做出數(shù)千個(gè)決策的AI智能體時(shí)，需要建立明確的責(zé)任和監(jiān)督框架。

這樣一來，一旦出現(xiàn)問題，我們就能有應(yīng)對的辦法。這要有一套周全的方案。下面講講負(fù)責(zé)監(jiān)督智能體的管理團(tuán)隊(duì)該怎么做。

清晰的責(zé)任鏈條：AI 智能體做出重要決策時(shí)，得清楚到底誰來負(fù)責(zé)，不能有絲毫含糊。這可能意味著建立新的角色，比如「AI運(yùn)維官」，他們不僅有權(quán)監(jiān)管智能體的部署工作，而且在問題發(fā)生時(shí)也承擔(dān)責(zé)任。

我們需要一個(gè)強(qiáng)大的系統(tǒng)，在信息不完整、有偏見、出現(xiàn)幻覺或者產(chǎn)生有害輸出之前，就把問題查出來并解決掉。

這可不只是做簡單的安全檢查，還要持續(xù)監(jiān)控智能體做出的決策，具備實(shí)時(shí)干預(yù)的能力，而且要有一套完整的審計(jì)追蹤機(jī)制。

研究團(tuán)隊(duì)最近在檢索增強(qiáng)生成（RAG）上有了很大的進(jìn)展，這讓AI系統(tǒng)獲取和驗(yàn)證信息的方式有了很大改善。這些新成果能讓我們快速評估和調(diào)整AI系統(tǒng)，確保它給出的結(jié)果既準(zhǔn)確又靠譜。

要制定一套流程，讓人類能對智能體進(jìn)行監(jiān)督和干預(yù)。不能只局限于「human-in-the-loop」這個(gè)簡單概念，要設(shè)計(jì)出更復(fù)雜的框架，明確人類在何時(shí)、以何種方式介入智能體的決策。

在常規(guī)任務(wù)中，智能體能充分發(fā)揮自主性，而遇到重大決策時(shí)，人類的判斷仍能起到關(guān)鍵作用 。

一旦出現(xiàn)錯(cuò)誤，我們要有一套結(jié)構(gòu)化應(yīng)對方法。這不僅包含技術(shù)層面的回滾程序，還得明確如何與客戶溝通、采取哪些補(bǔ)救措施，以及制定系統(tǒng)性改進(jìn)的協(xié)議，以防止類似問題的發(fā)生。

目前，做出商業(yè)決策的自主AI智能體面臨著責(zé)任界定的問題，現(xiàn)有的監(jiān)管環(huán)境并不適用于它們。

我們需要和監(jiān)管機(jī)構(gòu)合作，制定合適的治理結(jié)構(gòu)，明確AI智能體的責(zé)任，建立全新的法律和合規(guī)框架。

展望未來：科學(xué)方法與企業(yè)創(chuàng)新

要想部署真正有效的AI系統(tǒng)，企業(yè)高層要有長遠(yuǎn)眼光，把這些技術(shù)進(jìn)步運(yùn)用到實(shí)際應(yīng)用中。

企業(yè)在AI應(yīng)用上是否成功，不只看部署了多少AI智能體，或者實(shí)施速度有多快。關(guān)鍵在于企業(yè)領(lǐng)導(dǎo)和技術(shù)專家的精心規(guī)劃，讓AI與現(xiàn)有的工作流程、業(yè)務(wù)過程以及人類的工作偏好完美融合。

Salesforce在企業(yè)CRM領(lǐng)域摸爬滾打多年，經(jīng)驗(yàn)豐富，很懂業(yè)務(wù)邏輯優(yōu)化。我們把這些經(jīng)驗(yàn)和知識融入到 Agentforce的部署策略里。系統(tǒng)不僅功能強(qiáng)大，在滿足客戶業(yè)務(wù)需求和運(yùn)營人員需求方面，也做到了可靠又負(fù)責(zé)。

未來，人類和AI不再相互對立，而是攜手合作，各展所長。隨著Agentforce發(fā)布，智能體已經(jīng)成為提升工作效能的強(qiáng)大助力，讓團(tuán)隊(duì)完成以前辦不到的任務(wù)。

開始這一轉(zhuǎn)型的時(shí)機(jī)就是現(xiàn)在，就像每一次突破性實(shí)驗(yàn)都始于假設(shè)一樣，每次成功的AI轉(zhuǎn)型也都是從一個(gè)愿景開始，到最終驗(yàn)證成真！

參考資料：

https://x.com/silviocinguetta/status/1877166654464893035

https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/

本文來源：新智元

網(wǎng)友評論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來
二維碼 回到頂部