◎本報記者 張蓋倫
“幫我對比一下各大外賣平臺上哪家的肯德基漢堡更便宜。”在由豆包和中興合作開發的手機上,這種工作可以由其搭載的豆包手機助手絲滑完成。
人工智能(AI)助手先理解用戶需求,然后模擬點擊、滑動和輸入等動作,選定優惠力度最佳的那家外賣平臺。用戶可以繼續讓手機助手下單,只需在付款時確認。
12月1日,豆包手機助手預覽版剛一發布,便引起廣泛關注,爭議和疑慮隨之而來。
手機里住進了一個“超級管家”,在對它說一聲“歡迎光臨”之前,還有哪些事情需要考慮?
權限升級是把“雙刃劍”
其實,在豆包手機助手之前,AI助手已經出現于多種手機里,這些助手也就是所謂的智能體。
北京漢華飛天信安科技有限公司總經理彭根介紹,這類智能體經常會調用手機的無障礙服務權限,這原本是手機為殘障人士和老年人提供的輔助功能,通過讀取屏幕內容、模擬點擊、監聽通知等幫助視障、聽障、運動障礙等用戶使用手機。現在,無障礙權限從“能力補全”升級為“能力增強”,搭配智能體后成為人類的“自動化助手”。
在此次豆包和中興合作推出的手機里,智能體調用的權限更為高級,它叫注入事件。
技術從業人員分析認為,這種權限意味著手機方用自己的系統私鑰簽名,將豆包手機助手設置成了操作系統的一部分。正是有了“注入事件”,才有了絲滑、無感的跨應用操作體驗。
無論是注入事件式權限還是無障礙權限,均屬于一種系統級權限。彭根分析,智能體調用系統級權限其實帶來了兩大核心風險。一是權限的無邊界擴張。傳統權限具有單一性和規定性,一把鑰匙開一間屋子的鎖,但如果調用無障礙權限或者進程注入權限,擁有的是整棟大樓的鑰匙。二是行為主體的模糊化。AI成為實際操作主體,其操作速度也遠超人類反應速度,用戶可能失去對設備的直接控制。
彭根介紹,部分黑產已經利用無障礙權限實現驗證碼自動采集、搶票購物自動化等操作,這類AI操作路徑擬人化程度極高,傳統反制手段難以識別。
大多情況需要雙重授權
不過,豆包方面也表示,豆包手機助手需要用戶主動授權,才可以調用注入事件權限。對該權限的使用,其也在權限清單中進行了明確披露。豆包手機助手也不會代替用戶進行相關授權和敏感操作。
已經有了用戶授權,還需不需要平臺授權?用戶將大樓鑰匙交了出去,第三方應用可以“閉門謝客”嗎?
對外經濟貿易大學法學院教授、數字經濟與法律創新研究中心主任許可介紹了發生在美國的Perplexity案。
該案中,被告Perplexity是一家AI公司,其通過亞馬遜付費會員賬號幫助用戶購物,被亞馬遜指控違法并給自身造成商業損失。Perplexity則主張自己是“用戶授權的代理人”,認為亞馬遜的指控是一種霸凌。
許可指出,該案核心爭議反映了一種法律困境:AI助手聲稱是用戶權利延伸,但平臺認為其行為破壞了商業生態和安全秩序。
他打了個比方:假設你是銀行的客戶,把錢存在銀行保險柜里。如果第三方拿著槍代表你到保險柜里取錢,此時銀行有權拒絕他,因為盡管有用戶授權,銀行還是不放心這個擁有強大能力的第三方。
“在很多情況下,用戶權益和平臺權益都需要考慮,需要雙重授權甚至多重授權。”許可說。
不過,也要區分兩種智能體形態:純粹的“代理人”(行為完全限定在用戶授權范圍)和“中介合作者”(可能存在自身利益訴求)。有法律專家指出,如果是純粹執行用戶指令的非競爭行為,可以適用更簡易的授權流程。
亟待建立科學的制度規范
清華大學電子工程系信息系統研究所副所長王鉞認為,當前智能體治理的核心困境在于未將其視為獨立行為主體。它們仿佛數字“幽靈”,頂著用戶的名義在互聯網空間持續交互。
王鉞提出,應賦予智能體獨立身份,建立區分于自然人的數據通路——例如為智能體單獨設計接口,這樣既能發揮其增值服務價值,又能實現有效管控。他主張建立技術系統對智能體進行評價,讓智能體像人一樣建立信用、形成聲譽,而不是僅僅用強監管的思路去處理。
許可指出,法律和技術市場的關系很復雜,具體到智能體的治理來說,事后基于個案的規則調整會比事前一刀切的行為設定更重要。王鉞也認為,事前確定復雜規則很難適應未來變化,也難以落地執行。為了方便進行事后救濟和調整,還應在技術層面實現操作的“留痕”,強調智能體行為的“可回溯”。
“應在包容審慎的框架下,平衡發展需求與安全需求,建立起合理且負責任的制度規范。”許可說,隨著智能經濟的來臨,我們必須超越舊有框架,摒棄“人—機—平臺互害”的零和博弈,構想一幅“人—機—平臺共生”的新圖景。