經(jīng)濟(jì)觀察網(wǎng) 陳奇杰/文 12月26日，阿里巴巴集團(tuán)和中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合召開(kāi)大模型技術(shù)發(fā)展與治理創(chuàng)新研討會(huì)。浙江大學(xué)百人計(jì)劃研究員褚志軒在會(huì)上表示，智能體的安全問(wèn)題可能比單純的大模型更加嚴(yán)重，管控起來(lái)也更復(fù)雜。

褚志軒說(shuō)，當(dāng)前用戶使用大模型進(jìn)行對(duì)話，一般會(huì)輸出一個(gè)結(jié)果，決定權(quán)在用戶，他們可以采納，也可以不用。相比之下，智能體將會(huì)直接執(zhí)行更加真實(shí)的任務(wù)，智能體是大模型最重要的落地形式，未來(lái)可能會(huì)被應(yīng)用到千行百業(yè)。

褚志軒進(jìn)一步說(shuō)明，當(dāng)前使用較多的聊天問(wèn)答場(chǎng)景，其實(shí)還是一個(gè)比較簡(jiǎn)單的方式應(yīng)用大模型。智能體能夠完成更加復(fù)雜的工作。例如，在醫(yī)療領(lǐng)域的話，智能體可能會(huì)先給病人做診斷，然后告知病人結(jié)果，或是給病人推薦用藥。這意味著，管控智能體既要對(duì)大模型進(jìn)行管控，也要在垂直領(lǐng)域做一些特殊的管控。

褚志軒認(rèn)為，對(duì)智能體的管控需要從兩個(gè)方面著手：一方面是從技術(shù)層面保障智能體安全可信。這并非需要我們完全介入到智能體所有的工作流程中，因?yàn)橄褶k公軟件釘釘，里面有很多智能體，應(yīng)用比較廣泛，人力可能難以完全監(jiān)控到所有漏洞。從技術(shù)上而言，未來(lái)更可能會(huì)是由智能體來(lái)管理智能體。因?yàn)槊總€(gè)智能體都可以被定義為不同的角色，它既可以是一個(gè)執(zhí)行者去完成任務(wù)，也可以是一個(gè)管理執(zhí)行者的監(jiān)察者。另一方面則是完善治理規(guī)范，在智能體的發(fā)展過(guò)程中，推出規(guī)章制度規(guī)范其應(yīng)用，出現(xiàn)問(wèn)題就可以按此進(jìn)行修正。

智能體被視為大模型落地的“最后一公里”，它以大模型為大腦，具備思維能力，且通過(guò)傳感器、工具和函數(shù)接口擁有感知能力和執(zhí)行能力。

目前，美國(guó)人工智能研究公司OpenAI、谷歌、阿里巴巴和百度等一眾國(guó)內(nèi)外大模型廠商都在積極布局智能體。例如，12月12日，谷歌推出大模型Gemini 2.0?，并且開(kāi)發(fā)了多個(gè)領(lǐng)域的智能體。百度、字節(jié)跳動(dòng)等公司相繼推出協(xié)助開(kāi)發(fā)者構(gòu)建智能體的平臺(tái)。11月，百度透露目前運(yùn)用文心智能體平臺(tái)的開(kāi)發(fā)者已經(jīng)突破80萬(wàn)，平臺(tái)上智能體的數(shù)量和今年6月相比提升了310%。

?

?