本報記者 趙姍

微軟的創始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的，而低估五年或十年中能夠做到的。”這句話用來理解人工智能的影響是相當合適的。目前，隨著人工智能產業飛速發展，催生了新的人機交互模式，核心便是AI大模型驅動的智能體（AI Agent）（以下簡稱“AI助手”）。AI助手讓“人機協同”成為新常態，個人與企業正在步入AI助手時代。

然而，伴隨著快速發展，一系列問題與挑戰也隨之而來。如何在應對AI助手面臨挑戰的同時抓住發展機遇，實現AI助手的可持續發展和更廣泛應用，成為行業需要深入思考和探討的重點。

數據隱私安全、倫理和法律等成為挑戰

“AI助手在快速發展的同時，也面臨許多挑戰和問題。”國務院發展研究中心創新發展研究部第二研究室主任楊超在接受中國經濟時報記者采訪時表示，在這些問題中，最為關鍵的還在于AI助手使用所帶來的數據隱私安全、倫理和法律問題。

楊超認為，從數據隱私保護來看，由于人工智能系統本身需要依賴大量用戶數據進行訓練，必然會導致相關機構將AI助手服務期間獲取和產生的數據用于AI助手本身的優化，即使通過刪除個性化屬性等方式對數據脫敏，數據隱私和安全問題也難以完全避免。尤其是隨著AI助手的普及，其訓練涉及的數據量將快速提升，從而進一步放大安全風險。

從倫理和法律角度看，隨著AI助手能力的增強，其自主性和決策能力必然會顯著提升，在部分應用場景中將會脫離人類的直接指令而開展自主行為。這些自主行為一旦產生外部性影響，就將引發倫理和法律問題。“一個經典的例子是，人工智能自動駕駛的汽車在行駛過程中，前方突然出現行人，改變行駛方向會傷害乘客，不改變方向則會傷害行人。這種情況下無論AI助手做出何種選擇都會帶來倫理問題。”楊超說。

清華大學復雜工程系統實驗室主任、中國人工智能學會智能產品與產業工作委員會主任任勇在接受中國經濟時報記者采訪時表示，在當下階段，AI助手仍然面臨技術創新與場景適配度的挑戰。

一是算法的精準性與可靠性。AI助手的核心——算法需要不斷學習和優化以提高準確性和可靠性，然而，面對復雜多變的用戶需求和場景，當前的算法往往難以達到期待的要求。

二是跨模態學習與環境理解能力。AI助手當前的技術水平仍存在一定的局限性，難以充分理解和整合應用時空變化的模態信息，對環境信息的多模態感知與理解尚有很大的提升空間。

三是場景理解與適應能力。有些場景化需求超越了簡單的物理環境感知，需要與場景自身的底層邏輯、應用邏輯相結合才能理解，這對當下的AI助手而言是一個現實挑戰。

“此外，AI技術的復雜性和變化性使得已有法規難以完全覆蓋各種變動。當AI助手出現錯誤或造成損害時，責任追究便成了難題。”任勇說。

“AI助手面臨的挑戰還有算法偏見與歧視、過度依賴和成癮。”清華大學人工智能國際治理研究院秘書長、歐美同學會研究院人工智能和數字經濟研究中心執行主任魯俊群在接受中國經濟時報記者采訪時表示。

魯俊群認為，目前，AI算法的訓練數據還存在不完備性和偏向性。由于AI訓練所使用的語料數據本身可能客觀上就存在著統計學上的一定偏差，還有可能存在開發者的個人偏好等，因此，現階段的各種AI助手仍有可能存在一定的算法偏見與歧視問題。對此，有必要建立對技術背后訓練數據和算法的審查機制，如通過建立AI倫理委員會等形式加強審核。

另外，“假如一名用戶經常與AI角色互動來尋求幫助和安慰，容易對其產生情感上的依賴，以此來填補情感需求上的空缺，這有可能導致用戶沉迷虛擬世界而忽視現實世界。對此，建議對于AI助手應該使用得當，同時應該注意保持與現實世界的互動。”魯俊群說。

未來發展方向：垂直領域專業化、與具身智能的結合

當前，大模型進入應用時代，多家科技公司都展出了最新AI應用。

“AI助手發展的方向是多樣的，在技術路線和應用場景的雙重影響下，將會迎來種類繁多的AI助手。”楊超認為，其中，有兩個方向是較為確定的。

一是垂直領域專業化。在特定行業或領域，如家政、健康、醫療、法律、金融等大領域，甚至是制造業中不同行業等小領域，AI助手都將具備更深入的專業知識和技能，提供專業服務。

二是與具身智能的結合。隨著人工智能能力的提升，其提供的服務將不僅是咨詢和智力服務，而是通過更多的感知和操作，為人類提供直接與物質世界交互的能力。

任勇認為，就發展方向而言，AI助手在產業場景和個體場景中的應用雖然都基于人工智能技術，但在技術路徑和響應機理上存在著顯著差異。

AI助手產業場景的技術路徑主要是針對特定需求，如制造業、物流、醫療、教育等，AI助手通常需要進行定制化開發，以符合行業的特定需求。利用相應產業所產生的數據，結合各種機器學習算法，AI助手能夠自主學習和優化，實現智能排班、任務分配、數據分析、流程優化等高級功能。在此過程中，AI助手往往需要與企業的其他系統進行集成，如ERP（企業資源計劃）、CRM（客戶關系管理）等，以實現信息的共享和協作。通過上述技術路徑實現對重復性煩瑣任務的自主處理和數據洞察、科學決策、降本增效。

AI助手用于個體場景的技術路徑主要是利用通用智能平臺，如智能手機、智能家居設備等，通過語音識別和自然語言交互、多設備協同來輔助用戶完成任務，提升日常生活的便利性和服務的精準性。

“在產業場景中，AI助手主要關注于提升效率、優化決策和降低成本，需要更多的定制化開發和集成協作；而在個人生活場景中，AI助手則更注重于提供便捷化、個性化、適應性服務，未來的技術創新只能圍繞不同場景下各自的內生邏輯進行迭代優化。”任勇說。

魯俊群認為，AI助手未來可能會向多模態交互以及具身智能方向發展。

“為了實現具身智能，需要將類ChatGPT等這些基礎大模型與進化學習機制相結合，通過與物理世界交互取得的新數據（而不再是人類投喂的數據）來不斷學習，并適應新環境，優化行為策略。多模態大模型能夠整合視覺、聽覺、觸覺等多種感官數據，提升機器人的理解能力。使具身智能機器人在與物理世界的互動和理解方面更加人性化。這些未來的AI助手機器人可以自主理解場景、識別自然語言指令、規劃任務，并執行操作，將是人類最得力的智能助理。”魯俊群說。

從創新方向引導、應用場景規范方面為AI助手提供支持保障

當前，AI助手的服務升級與互聯互通是國內多家互聯網科技公司持續探索的重點。

楊超建議，第一，加強對用戶隱私和數據安全的保護。強制性地將用戶隱私和數據安全作為提供AI助手服務的前置條件，引導和鼓勵相關機構采用先進的數據加密和匿名化技術，確保用戶數據的安全和隱私。

第二，增強AI助手決策過程的可解釋性，讓用戶能夠理解其行為和決策邏輯，從而提高用戶信任度。為整個社會更好接納AI助手創造良好的環境，從而為在更廣闊的應用場景中使用AI助手提供幫助。

第三，加強倫理和法規遵從。根據人工智能技術的進步及時修訂相關法律法規，完善對AI助手進行規制的制度環境，確保AI助手的開發和應用符合倫理標準和法律法規，避免產生歧視、偏見等問題。

“國家政策層面應該從創新方向引導和應用場景規范兩個方面出發，為AI助手的發展提供支持和保障。包括明確AI助手的適用場景和范圍等，避免誤用，更要避免國際資本集團假借技術觸發虛假市場的濫用。特別是在醫療、教育、交通等關鍵領域，應嚴格規范AI助手的應用條件和程序。此外，要建立健全AI助手的監管機制，加強社會力量尤其是人民群眾對AI助手應用的監督和評估，確保其合規性、合理性和安全性。對于違規行為，應依法進行處罰和追責。”任勇表示。

未來，企業可以利用AI助手優化現有業務流程，特別是在新產品研發和服務的創新應用方面，AI助手的普及將推動不同行業之間的跨界融合和協同發展，為企業帶來新的商業機會和合作伙伴，進而帶動商業模式和生態的變革。

中央財經大學數字經濟融合創新發展中心主任陳端在接受中國經濟時報記者采訪時認為，企業運用AI助手強化核心競爭力需要一系列的戰略規劃和技術實施。

一是要識別關鍵業務場景，深入了解業務需求，確定AI助手在哪些環節能夠發揮最大價值，然后為選定的業務場景明確具體的需求和目標，如提高客戶滿意度、優化庫存管理、增強市場分析能力等。

二是根據業務需求和技術成熟度，選擇適合的AI技術和解決方案，要充分考慮與現有系統的兼容性，確保AI助手能夠順利集成到企業的IT架構中。此外，還要建立完善的數據治理體系，避免因為數據偏差導致的結果偏差。

三是需要設立明確的評估指標和機制，對AI助手的性能和效果進行定期評估，及時調整和優化AI助手的算法和模型，以提升其準確性和效率。此外，還需要關注AI助手可能帶來的倫理和社會問題，確保其應用符合道德和法律規范。