AI 手機(jī)嵌入式的人工智能模型會(huì)帶來(lái)哪些法律挑戰(zhàn)？
2025年底，在“百模大戰(zhàn)”的競(jìng)爭(zhēng)版圖中，“AI手機(jī)”異軍突起。與傳統(tǒng)的生成式AI不同，AI手機(jī)搭載深度嵌入操作系統(tǒng)的智能模型，掌握系統(tǒng)級(jí)權(quán)限，可跨應(yīng)用調(diào)度資源。用戶僅憑語(yǔ)音指令，即可完成訂餐、比價(jià)購(gòu)物、炒股甚至玩游戲等復(fù)雜任務(wù)。技術(shù)的飛躍，也帶來(lái)規(guī)則的全新命題。當(dāng)人工智能從“工具”進(jìn)化為“執(zhí)行者”——即“嵌入式/系統(tǒng)型AI”或“AI Agent”，法律將如何有效回應(yīng)？
規(guī)則追不上算法
2025年初，就在監(jiān)管與學(xué)界仍在為ChatGPT潛在的結(jié)構(gòu)性風(fēng)險(xiǎn)探討不休時(shí)，DeepSeek以開(kāi)源策略重塑產(chǎn)業(yè)格局。與此同時(shí)，以字節(jié)、騰訊為代表的人工智能產(chǎn)業(yè)先行者，依托生態(tài)優(yōu)勢(shì)迅速完成AI產(chǎn)品的規(guī)模擴(kuò)張。2025年10月，榮耀率先推出AI手機(jī)。很快，豆包手機(jī)面世。
技術(shù)狂奔令人振奮，嵌入式AI正成為主流商業(yè)方向。就在撰稿之際，“千問(wèn)”發(fā)布了集成阿里系生態(tài)的外置AI管家；谷歌與蘋果也于2026年1月啟動(dòng)Gemini 3視覺(jué)與空間推理合作。越來(lái)越多企業(yè)正在搶占AI系統(tǒng)操作層的藍(lán)海。
嵌入式AI的競(jìng)爭(zhēng)，也從技術(shù)能力的比拼擴(kuò)展至規(guī)則制定權(quán)與接口控制權(quán)。掌握操作系統(tǒng)與生態(tài)整合能力的主體，天然居于支配地位，向下游服務(wù)施加持續(xù)影響。若規(guī)則長(zhǎng)期缺位，結(jié)構(gòu)性優(yōu)勢(shì)的代價(jià)，最終或?qū)⑥D(zhuǎn)嫁給用戶。
于是，大家的注意力不再只關(guān)注“AI是否強(qiáng)大”，轉(zhuǎn)而開(kāi)始關(guān)心“如何讓它更安全”。
何以應(yīng)對(duì)風(fēng)險(xiǎn)？
在智能軟件時(shí)代，用戶習(xí)慣“一勾了之”，格式條款加一次性授權(quán)構(gòu)成日常操作的常態(tài)。但嵌入式AI打破了這一平衡，它長(zhǎng)期運(yùn)行于后臺(tái)，跨應(yīng)用收集數(shù)據(jù)、構(gòu)建畫像，用戶卻幾乎無(wú)法感知，更難以干預(yù)。
當(dāng)AI誤判致?lián)p時(shí)，責(zé)任歸屬更為模糊：是點(diǎn)了“同意”的用戶、設(shè)備廠商，還是模型提供方？靜態(tài)同意的制度工具，已無(wú)法覆蓋動(dòng)態(tài)、遞進(jìn)的應(yīng)用風(fēng)險(xiǎn)。
嵌入操作系統(tǒng)的AI Agent，正如掌控全局的“管家”而非“租客”。它可將人臉、指紋、可信設(shè)備狀態(tài)統(tǒng)一封裝為“身份憑證”，無(wú)需應(yīng)用重復(fù)采集即可完成認(rèn)證支付。數(shù)據(jù)雖存儲(chǔ)于硬件端，但用戶若想“被遺忘”，卻無(wú)從驗(yàn)證模型是否真正刪除。
現(xiàn)行隱私保護(hù)制度仍基于“收集—處理—?jiǎng)h除”的線性邏輯，對(duì)終端設(shè)備內(nèi)部實(shí)時(shí)流動(dòng)、微調(diào)用以優(yōu)化模型的動(dòng)態(tài)數(shù)據(jù)流，幾乎無(wú)從監(jiān)管。用戶的維權(quán)成本，也隨之攀升。
與此同時(shí)，長(zhǎng)期被討論的算法偏見(jiàn)，在嵌入式AI環(huán)境下已呈現(xiàn)更隱蔽的系統(tǒng)化特征。結(jié)構(gòu)性安排差異化的信息呈現(xiàn)，足以重塑用戶認(rèn)知。
當(dāng)智能推薦與商業(yè)模式深度綁定，“個(gè)性化”不再是中性工具，而是塑造市場(chǎng)競(jìng)爭(zhēng)秩序的關(guān)鍵變量。值得一提的是，目前針對(duì)算法偏見(jiàn)的規(guī)范，仍零散分布于部門規(guī)章與《中華人民共和國(guó)個(gè)人信息保護(hù)法》中，缺乏體系性回應(yīng)。
邁向系統(tǒng)性治理的三維框架
嵌入式AI本質(zhì)上仍是計(jì)算技術(shù)，筆者認(rèn)為，可從行業(yè)層面、用戶層面、競(jìng)爭(zhēng)層面三個(gè)維度進(jìn)行制度回應(yīng)。
從行業(yè)層面來(lái)說(shuō)，主管部門應(yīng)在現(xiàn)行規(guī)范基礎(chǔ)上，聚焦系統(tǒng)行為的可識(shí)別與可審計(jì)性，為AI Agent制定專門技術(shù)標(biāo)準(zhǔn)及終端數(shù)據(jù)治理規(guī)則，使其走向“能感知、能審計(jì)、能追責(zé)”的可控路徑。透明度義務(wù)可設(shè)定為三個(gè)層級(jí)：明確告知義務(wù)、合規(guī)審計(jì)機(jī)制、風(fēng)險(xiǎn)評(píng)估通道保留。在端側(cè)數(shù)據(jù)治理層面，應(yīng)建立合法調(diào)用數(shù)據(jù)清單，推動(dòng)形成可驗(yàn)證的數(shù)據(jù)流訪問(wèn)流程，實(shí)質(zhì)性保障用戶的刪除權(quán)與隱私權(quán)。
從用戶層面來(lái)說(shuō)，當(dāng)嵌入式AI介入決策并實(shí)質(zhì)性影響用戶權(quán)益時(shí)，用戶應(yīng)至少享有知情權(quán)、解釋請(qǐng)求權(quán)和合理質(zhì)疑權(quán)。這些程序性權(quán)利不要求企業(yè)公開(kāi)核心算法，而是要求企業(yè)對(duì)決策行為承擔(dān)責(zé)任。只有當(dāng)用戶能夠識(shí)別AI的介入、并獲得質(zhì)疑的有效回應(yīng)，才能真正在技術(shù)浪潮中維系主體地位，為社會(huì)性規(guī)制提供內(nèi)在約束。因此，將算法素養(yǎng)轉(zhuǎn)化為程序權(quán)利，至關(guān)重要。
從競(jìng)爭(zhēng)層面來(lái)說(shuō)，我國(guó)近年來(lái)在差別待遇、算法濫用、平臺(tái)排他行為等領(lǐng)域已積累相對(duì)成熟的監(jiān)管邏輯與裁量經(jīng)驗(yàn)。面對(duì)AI Agent可能引發(fā)的無(wú)序競(jìng)爭(zhēng)，無(wú)需另起爐灶，而應(yīng)在《中華人民共和國(guó)反壟斷法》《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》框架內(nèi)進(jìn)行有限、精準(zhǔn)的制度校準(zhǔn)。重點(diǎn)應(yīng)關(guān)注：廠商是否將自營(yíng)產(chǎn)品默認(rèn)為“最優(yōu)解”？是否通過(guò)默認(rèn)設(shè)置操縱推薦排序？是否通過(guò)不透明機(jī)制排除競(jìng)爭(zhēng)對(duì)手？對(duì)此，須在個(gè)案中識(shí)別并糾偏，守住公平競(jìng)爭(zhēng)底線。（華東政法大學(xué)法治化營(yíng)商環(huán)境研究院兼職助理研究員 朱軼揚(yáng)）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)