導(dǎo)語(yǔ):2024年12月，世界經(jīng)濟(jì)論壇發(fā)布了《探索人工智能前沿：人工智能體的演變及其影響》白皮書(shū)，不僅探討了人工智能體的發(fā)展軌跡，還分析了其在醫(yī)療、教育和金融等行業(yè)中提升效率的潛力。同時(shí)，該報(bào)告也強(qiáng)調(diào)了在推進(jìn)這些技術(shù)時(shí)必須考慮的倫理問(wèn)題（如透明度和問(wèn)責(zé)制）以及建立有效管理框架和跨部門(mén)合作的重要性，為尋求深入了解人工智能體帶來(lái)的機(jī)遇與挑戰(zhàn)的讀者提供了寶貴的信息。

該報(bào)告首先定義了人工智能體的概念，然后概述了不同類(lèi)型的智能體及其隨時(shí)間的演變。最后一部分展望未來(lái)，總結(jié)了部署人工智能體的新興技術(shù)實(shí)例和社會(huì)經(jīng)濟(jì)影響，以及降低風(fēng)險(xiǎn)的可能措施。

一人工智能體的定義

根據(jù)國(guó)際標(biāo)準(zhǔn)化組織的定義，人工智能體可被廣義地定義為使用傳感器感知知覺(jué)（聲音、文本、圖像等）并使用效應(yīng)器對(duì)環(huán)境做出反應(yīng)的實(shí)體。人工智能體一般具有自主性（定義為獨(dú)立運(yùn)行和決策的能力，無(wú)需不斷的人工干預(yù)）和權(quán)限（定義為在規(guī)定范圍內(nèi)執(zhí)行特定行動(dòng)的授權(quán)和訪問(wèn)權(quán)），可采取行動(dòng)實(shí)現(xiàn)一系列指定目標(biāo)，從而改變其環(huán)境。

圖1：人工智能體的核心組成部分

二人工智能體的演變

自20世紀(jì)50年代以來(lái)，人工智能體已從基于規(guī)則的系統(tǒng)演變?yōu)槟軌蜃灾鲗W(xué)習(xí)和適應(yīng)的智能實(shí)體。最初，這些系統(tǒng)依賴(lài)固定規(guī)則，具有確定性行為和可預(yù)測(cè)性，但缺乏學(xué)習(xí)能力。隨著技術(shù)的發(fā)展，人工智能開(kāi)始處理大數(shù)據(jù)，引入概率和非確定性，使決策更加靈活。

20世紀(jì)90年代，機(jī)器學(xué)習(xí)技術(shù)的進(jìn)步使人工智能體能夠從數(shù)據(jù)中學(xué)習(xí)，提高性能。神經(jīng)網(wǎng)絡(luò)的引入也為深度學(xué)習(xí)打下了基礎(chǔ)，成為現(xiàn)代人工智能的核心。2017年以后，大語(yǔ)言模型的發(fā)展顯著提升了人工智能在自然語(yǔ)言處理方面的能力，使模型能夠生成類(lèi)人文本并執(zhí)行復(fù)雜語(yǔ)言任務(wù)。

如今，人工智能體采用強(qiáng)化學(xué)習(xí)、遷移學(xué)習(xí)等技術(shù)，不斷自我完善，適應(yīng)新環(huán)境，做出更明智的決策。這一演變標(biāo)志著人工智能從簡(jiǎn)單的規(guī)則遵循者到復(fù)雜任務(wù)執(zhí)行者的轉(zhuǎn)變，展現(xiàn)了其在學(xué)習(xí)和適應(yīng)性方面的巨大進(jìn)步。

（一）關(guān)鍵技術(shù)趨勢(shì)

1.大模型

大語(yǔ)言模型（LLM）和多模態(tài)大模型（LMM）徹底改變了人工智能體的能力，尤其是在自然語(yǔ)言處理以及文本、圖像、音頻和視頻生成方面。大模型的出現(xiàn)得益于多項(xiàng)技術(shù)進(jìn)步和transformer架構(gòu)的推動(dòng)，后者為深入理解上下文和詞語(yǔ)關(guān)系鋪平了道路，大大提高了自然語(yǔ)言處理任務(wù)的效率和性能。總的來(lái)說(shuō)，先進(jìn)的人工智能模型能夠更好地理解、生成和處理自然語(yǔ)言。

2.機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)

機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)的一些例子包括：

監(jiān)督學(xué)習(xí)：便于從貼有標(biāo)簽的數(shù)據(jù)集中學(xué)習(xí)，因此模型可以準(zhǔn)確預(yù)測(cè)或分類(lèi)以前未見(jiàn)過(guò)的新數(shù)據(jù)。

強(qiáng)化學(xué)習(xí)：使智能體能夠在動(dòng)態(tài)環(huán)境中通過(guò)試錯(cuò)學(xué)習(xí)最佳行為。智能體可以不斷更新其知識(shí)庫(kù)，而無(wú)需定期進(jìn)行再訓(xùn)練。

有人類(lèi)反饋的強(qiáng)化學(xué)習(xí)：使智能體能夠通過(guò)人類(lèi)反饋進(jìn)行調(diào)整和改進(jìn)，特別側(cè)重于使人工智能行為符合人類(lèi)的價(jià)值觀和偏好。

遷移學(xué)習(xí)：將一個(gè)通常在大型數(shù)據(jù)集上（如識(shí)別汽車(chē)）訓(xùn)練的預(yù)訓(xùn)練模型調(diào)整用于解決新的但相關(guān)的問(wèn)題（如識(shí)別卡車(chē)）。

微調(diào)：微調(diào)是將預(yù)訓(xùn)練模型在較小的、針對(duì)特定任務(wù)的數(shù)據(jù)集上進(jìn)一步訓(xùn)練。這一過(guò)程允許模型保留其基礎(chǔ)知識(shí)，同時(shí)提高其在特定任務(wù)上的性能。

這些學(xué)習(xí)范式和其他學(xué)習(xí)范式經(jīng)常結(jié)合使用，極大地?cái)U(kuò)展了人工智能體在各個(gè)應(yīng)用領(lǐng)域解決問(wèn)題的能力。圖2詳細(xì)介紹了人工智能體的演變過(guò)程。

圖2：人工智能體能力的演變

（二）人工智能體的類(lèi)型

本節(jié)概述了不同類(lèi)型的人工智能體，并追溯了它們的發(fā)展歷程，重點(diǎn)介紹了支持其發(fā)展的關(guān)鍵技術(shù)進(jìn)步。根據(jù)人工智能體的定義特征，可將其分為確定性智能體或非確定性智能體。

表1：定義確定性和非確定性人工智能體的特征

表2：人工智能體分類(lèi)

（三）高級(jí)人工智能體

當(dāng)前許多人工智能體的架構(gòu)往往基于或鏈接到大語(yǔ)言模型，而大語(yǔ)言模型的配置方式非常復(fù)雜。圖3展示了導(dǎo)致當(dāng)前人工智能體取得突破性進(jìn)展的關(guān)鍵組件及其不斷增長(zhǎng)的能力范圍。

圖3：高級(jí)人工智能體的關(guān)鍵組成部分

（四）人工智能體系統(tǒng)

人工智能體系統(tǒng)是一種有組織的結(jié)構(gòu)，它整合了多個(gè)異構(gòu)（如基于規(guī)則和目標(biāo)的智能體）或同構(gòu)（如僅基于目標(biāo)）的人工智能體。每個(gè)智能體通常都是專(zhuān)門(mén)的，擁有自己的能力、知識(shí)和決策過(guò)程，同時(shí)共享數(shù)據(jù)以協(xié)同實(shí)現(xiàn)系統(tǒng)目標(biāo)。

人工智能體系統(tǒng)的設(shè)計(jì)旨在確保每個(gè)智能體都能為總體目標(biāo)作出貢獻(xiàn)，無(wú)論是管理復(fù)雜的實(shí)時(shí)流程（如自動(dòng)駕駛）、優(yōu)化工業(yè)流程還是協(xié)調(diào)活動(dòng)（如智能城市基礎(chǔ)設(shè)施）。通過(guò)將工作量分配給專(zhuān)門(mén)的智能體，系統(tǒng)可以處理動(dòng)態(tài)環(huán)境并適應(yīng)不斷變化的條件，從而確保最佳性能。

（五）人工智能體的未來(lái)：邁向多智能體系統(tǒng)

多智能體系統(tǒng)（MAS）由多個(gè)獨(dú)立的人工智能體以及人工智能體系統(tǒng)組成，它們通過(guò)合作、競(jìng)爭(zhēng)或協(xié)商來(lái)實(shí)現(xiàn)集體任務(wù)和目標(biāo)。這些智能體可以是自主實(shí)體，如軟件程序或機(jī)器人，每個(gè)智能體通常都有自己的能力、知識(shí)和決策過(guò)程。這使得智能體可以并行執(zhí)行任務(wù)、相互通信并適應(yīng)復(fù)雜環(huán)境的變化。

三展望未來(lái)

（一）主要優(yōu)勢(shì)

通過(guò)在大語(yǔ)言模型的基礎(chǔ)上集成推理、規(guī)劃和自我檢查等能力，有望開(kāi)發(fā)出更為強(qiáng)大的人工智能體。這些智能體不僅能夠顯著提升用戶(hù)的工作效率，還能執(zhí)行超出用戶(hù)專(zhuān)業(yè)技能范疇的復(fù)雜工作（例如高級(jí)編程），或者簡(jiǎn)化那些復(fù)雜且耗時(shí)的任務(wù)，讓它們以更低的成本、更快捷的速度來(lái)執(zhí)行。此外，人工智能體在緩解各行業(yè)技能短缺方面發(fā)揮著關(guān)鍵作用，有效填補(bǔ)了專(zhuān)業(yè)知識(shí)不足和需求激增的領(lǐng)域。具有更高自主性的人工智能體能夠越來(lái)越多地應(yīng)對(duì)現(xiàn)實(shí)世界中的開(kāi)放性挑戰(zhàn)，這些挑戰(zhàn)曾是人工智能難以觸及的領(lǐng)域。例如，它們可以幫助推動(dòng)科學(xué)發(fā)現(xiàn)，提高供應(yīng)鏈或電網(wǎng)等復(fù)雜系統(tǒng)的效率，處理流程中的罕見(jiàn)和非常規(guī)情況。

（二）風(fēng)險(xiǎn)與挑戰(zhàn)實(shí)例

雖然人工智能體無(wú)疑帶來(lái)了許多益處，但它們也帶來(lái)了固有的風(fēng)險(xiǎn)，以及一系列新的安全和安保挑戰(zhàn)。例如，獨(dú)立追求不一致目標(biāo)的人工智能體可能會(huì)造成巨大傷害，尤其是在人工智能體的自主程度提高而人類(lèi)監(jiān)督程度降低的情況下。如果人工智能體學(xué)會(huì)欺騙人類(lèi)操作員，追求增強(qiáng)自身權(quán)力的目標(biāo)，或者以不可預(yù)測(cè)的方式與其他人工智能體相互勾結(jié)，這可能會(huì)引發(fā)一系列新的安全風(fēng)險(xiǎn)。

智能體特有的風(fēng)險(xiǎn)既可能是技術(shù)性的，也可能是規(guī)范性的。與人工智能體相關(guān)的挑戰(zhàn)源于技術(shù)限制、倫理問(wèn)題和更廣泛的社會(huì)影響，這些問(wèn)題往往與系統(tǒng)的自主程度以及人類(lèi)脫離環(huán)路后使用系統(tǒng)的總體潛力相關(guān)。如果在適當(dāng)?shù)牟襟E中沒(méi)有人的參與，智能體可能會(huì)接二連三地采取多種后果嚴(yán)重的行動(dòng)，這可能會(huì)在人注意到正在發(fā)生的事情之前就造成嚴(yán)重后果。

人工智能體還可能擴(kuò)大與人工智能領(lǐng)域相關(guān)的已知風(fēng)險(xiǎn)，并可能帶來(lái)全新的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)可大致分為技術(shù)、社會(huì)經(jīng)濟(jì)和道德風(fēng)險(xiǎn)。

1.技術(shù)風(fēng)險(xiǎn)的例子包括

（1）人工智能體故障導(dǎo)致的故障風(fēng)險(xiǎn)：人工智能體可能引入新的故障模式，從而增加故障風(fēng)險(xiǎn)。例如，大語(yǔ)言模型可能導(dǎo)致智能體生成看似可信但實(shí)際錯(cuò)誤的輸出，這帶來(lái)了傳統(tǒng)技術(shù)所不具備的風(fēng)險(xiǎn)。

（2）惡意使用和安全漏洞：人工智能體可能會(huì)擴(kuò)大欺詐的風(fēng)險(xiǎn)，欺詐的數(shù)量和復(fù)雜程度都會(huì)增加。

（3）驗(yàn)證和測(cè)試復(fù)雜人工智能體的挑戰(zhàn)：一些人工智能體的透明度缺乏和非確定性行為，給驗(yàn)證和核查工作帶來(lái)了巨大挑戰(zhàn)。

2.社會(huì)經(jīng)濟(jì)風(fēng)險(xiǎn)的例子包括

（1）過(guò)度依賴(lài)和剝奪權(quán)力：提高人工智能體的自主性可能會(huì)減少人類(lèi)對(duì)其的監(jiān)督，并增加執(zhí)行復(fù)雜任務(wù)時(shí)的依賴(lài)，包括在高風(fēng)險(xiǎn)情境中。如果人類(lèi)不參與監(jiān)控，人工智能體因設(shè)計(jì)缺陷或敵對(duì)攻擊導(dǎo)致的故障可能不會(huì)立即被發(fā)現(xiàn)。此外，如果用戶(hù)缺乏必要的專(zhuān)業(yè)知識(shí)或領(lǐng)域知識(shí)，他們可能難以控制或禁用這些智能體。

與人工智能體的頻繁互動(dòng)也可能對(duì)個(gè)人和集體的認(rèn)知能力產(chǎn)生長(zhǎng)期影響。例如，過(guò)度依賴(lài)人工智能體進(jìn)行社交互動(dòng)，如虛擬助理、人工智能伴侶或治療師，可能會(huì)導(dǎo)致社會(huì)隔離，并可能隨時(shí)間影響心理健康。

（2）社會(huì)阻力：對(duì)使用人工智能體的抵制可能會(huì)阻礙其在某些行業(yè)或用例中的應(yīng)用。

（3）對(duì)就業(yè)的影響：人工智能體的使用可能會(huì)通過(guò)自動(dòng)化眾多任務(wù)、提升生產(chǎn)效率以及改變勞動(dòng)力所需的技能，從而引發(fā)工作替代。這種替代效應(yīng)主要影響那些依賴(lài)于常規(guī)和重復(fù)性任務(wù)的行業(yè)，例如制造業(yè)和行政服務(wù)業(yè)。

（4）財(cái)務(wù)影響：各組織可能會(huì)因部署人工智能體而面臨更高的成本，如保護(hù)軟件系統(tǒng)免受網(wǎng)絡(luò)威脅和管理相關(guān)運(yùn)營(yíng)風(fēng)險(xiǎn)的費(fèi)用。

3.倫理風(fēng)險(xiǎn)的例子包括

（1）人工智能決策中的倫理困境：人工智能體的自主性引發(fā)了有關(guān)其在危急情況下決策能力的倫理問(wèn)題。

（2）確保人工智能透明度和可解釋性方面的挑戰(zhàn)：許多人工智能模型像“黑盒子”一樣運(yùn)作，其決策過(guò)程復(fù)雜且不透明，用戶(hù)難以理解或解釋決策是如何形成的。這種缺乏透明度的情況可能導(dǎo)致人們對(duì)人工智能體的決策能力產(chǎn)生疑慮，擔(dān)心其中可能存在錯(cuò)誤或偏見(jiàn)。這不僅阻礙了對(duì)人工智能體的信任，還引發(fā)了關(guān)于人工智能體決策的道德責(zé)任和法律責(zé)任的問(wèn)題。

（三）應(yīng)對(duì)風(fēng)險(xiǎn)和挑戰(zhàn)

要使人工智能體在極大改善結(jié)果的同時(shí)保持自主性，我們必須面對(duì)包括安全保障、監(jiān)管、道德與法律責(zé)任、數(shù)據(jù)公平與治理、互操作性、技能、文化和觀念等在內(nèi)的多重挑戰(zhàn)。這要求我們?cè)谌斯ぶ悄荏w的設(shè)計(jì)、開(kāi)發(fā)、部署和使用全過(guò)程采取綜合方法，并調(diào)整政策與監(jiān)管。隨著先進(jìn)的人工智能體和多智能體系統(tǒng)不斷融入數(shù)字基礎(chǔ)設(shè)施，建立考慮復(fù)雜情況的治理框架變得尤為重要。在評(píng)估和降低潛在風(fēng)險(xiǎn)時(shí)，了解人工智能體的具體應(yīng)用和環(huán)境至關(guān)重要，因?yàn)槠錆撛谖：χ饕从诓渴瓠h(huán)境。例如，在醫(yī)療保健或自動(dòng)駕駛等高風(fēng)險(xiǎn)領(lǐng)域，即使是小錯(cuò)誤也可能帶來(lái)嚴(yán)重后果；而在客戶(hù)服務(wù)等低風(fēng)險(xiǎn)領(lǐng)域，同樣的錯(cuò)誤可能影響較小。因此，在特定應(yīng)用和環(huán)境下，采用風(fēng)險(xiǎn)分析方法，系統(tǒng)地識(shí)別、分類(lèi)和評(píng)估所有相關(guān)風(fēng)險(xiǎn)，對(duì)于確保利益相關(guān)者能夠在技術(shù)、社會(huì)經(jīng)濟(jì)和道德層面實(shí)施有效緩解措施和戰(zhàn)略至關(guān)重要。

1.技術(shù)風(fēng)險(xiǎn)措施舉例

提高信息透明度：了解信息的使用地點(diǎn)、目的、方式和使用者對(duì)于揭示系統(tǒng)運(yùn)作原理和智能體決策過(guò)程至關(guān)重要。為了提高人工智能體的透明度，可以采取包括整合行為監(jiān)控、設(shè)定閾值、觸發(fā)器和警報(bào)等措施，以持續(xù)觀察和分析智能體的行為和決策。這樣的行為監(jiān)控有助于深入理解故障原因，并在故障發(fā)生時(shí)進(jìn)行有效緩解。

2.社會(huì)經(jīng)濟(jì)風(fēng)險(xiǎn)措施舉例

（1）公眾教育和意識(shí)：為緩解社會(huì)互動(dòng)中對(duì)人工智能體的過(guò)度依賴(lài)和權(quán)力喪失的風(fēng)險(xiǎn)，制定和執(zhí)行讓公眾了解并參與人工智能體的戰(zhàn)略至關(guān)重要。這些努力應(yīng)致力于讓個(gè)人對(duì)人工智能體的能力和局限有深入的理解，以便進(jìn)行更明智的互動(dòng)和健康的整合。

（2）建立收集公眾關(guān)切的論壇：接受度、參與度、信任感和心理安全感對(duì)于克服社會(huì)阻力、正確采用人工智能體并將其融入各種流程至關(guān)重要。缺乏人類(lèi)的充分認(rèn)同，人工智能體的實(shí)施將面臨重大挑戰(zhàn)。因此，在設(shè)計(jì)和部署高級(jí)人工智能體的整個(gè)過(guò)程中，傾聽(tīng)和解決公眾關(guān)切對(duì)于建立對(duì)人工智能體和自主系統(tǒng)的廣泛信任至關(guān)重要。

（3）深思熟慮的部署戰(zhàn)略：各組織可以圍繞提高效率和增強(qiáng)任務(wù)能力采取深思熟慮的戰(zhàn)略，而不是專(zhuān)注于完全取代工人。通過(guò)優(yōu)先采取再培訓(xùn)計(jì)劃等前瞻性措施，可以支持工人過(guò)渡到新的或已改變的角色。

3.倫理風(fēng)險(xiǎn)措施舉例

（1）明確的倫理準(zhǔn)則：優(yōu)先考慮人權(quán)、隱私和問(wèn)責(zé)制是確保人工智能體做出符合人類(lèi)和社會(huì)價(jià)值觀的決策的基本措施。

（2）行為監(jiān)控：為了減輕透明度方面的挑戰(zhàn)，有必要采取一些措施，使用戶(hù)能夠追蹤和了解人工智能體決策背后的基本推理。

四結(jié)論

人工智能體的自主性增強(qiáng)帶來(lái)了雙重影響：一方面，它推動(dòng)了從基礎(chǔ)到復(fù)雜的多智能體系統(tǒng)的技術(shù)進(jìn)步；另一方面，它也引入了新的風(fēng)險(xiǎn)，包括減少人類(lèi)監(jiān)督和潛在的社會(huì)經(jīng)濟(jì)問(wèn)題。隨著技術(shù)的發(fā)展，人工智能體將在經(jīng)濟(jì)和勞動(dòng)力中發(fā)揮關(guān)鍵作用。

為應(yīng)對(duì)這些挑戰(zhàn)，必須對(duì)人工智能體的安全和社會(huì)影響進(jìn)行研究，并建立相應(yīng)的治理框架。這需要技術(shù)、民間社會(huì)和治理社區(qū)的合作，以形成有效的治理機(jī)制。

該報(bào)告旨在促進(jìn)對(duì)人工智能體領(lǐng)域的理解并推動(dòng)負(fù)責(zé)任的實(shí)踐。通過(guò)負(fù)責(zé)任的開(kāi)發(fā)與治理，人工智能體有望在未來(lái)推動(dòng)社會(huì)變革。

參考來(lái)源：世界經(jīng)濟(jì)論壇 參考題目：

Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents

參考鏈接：

https://cn.weforum.org/publications/navigating-the-ai-frontier-a-primer-on-the-evolution-and-impact-of-ai-agents/