AI 賦能零售-創(chuàng)新中的合規(guī)風(fēng)險管理

前言近兩年來，人工智能（AI）的快速發(fā)展正在眾多行業(yè)領(lǐng)域掀起一場顛覆性的行業(yè)革新。在今年舉行的十四屆全國人大二次會議上，李強總理在2024年政府工作報告中提出，深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開展“人工智能+”行動。這是我國政府工作報告第一次提出“人工智能+”?！叭斯ぶ悄?”的概念，意在鼓勵各行各業(yè)重視人工智能技術(shù)的應(yīng)用和落地。企業(yè)需要整合多方資源，在自身產(chǎn)品研發(fā)過程中將人工智能技術(shù)更好應(yīng)用，以增強其市場競爭力。在零售領(lǐng)域，AI技術(shù)已展現(xiàn)出巨大的商業(yè)應(yīng)用價值。從行業(yè)實踐來看，現(xiàn)階段售前、售中到售后等環(huán)節(jié)均已出現(xiàn)了較為成熟的AI技術(shù)方案，在許多具體業(yè)務(wù)場景中已得到廣泛應(yīng)用。零售行業(yè)參與者們已意識到AI技術(shù)在降低成本、提升效率、加快創(chuàng)新等方面的重大作用，并紛紛將其作為尋求突破、改變競爭格局的新賽道。本文擬從“AI生成營銷素材”、“AI智能導(dǎo)購”和“AI定價”等零售行業(yè)典型的AI應(yīng)用場景出發(fā)，探討伴隨AI應(yīng)用產(chǎn)生的相關(guān)法律風(fēng)險。一、AI應(yīng)用場景中的主要角色目前我國與AI直接相關(guān)的法規(guī)規(guī)范主要包括《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（“《算法推薦規(guī)定》”）、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（“《深度合成規(guī)定》”）和《生成式人工智能服務(wù)管理暫行辦法》（“《生成式AI辦法》”）。三部法規(guī)規(guī)范的適用范圍和主要義務(wù)主體略有差異，簡要總結(jié)如在常見的零售行業(yè)參與者中，大型零售平臺往往自行開發(fā)AI產(chǎn)品為消費者和平臺內(nèi)商家提供服務(wù)，其角色更偏向于AI服務(wù)提供者和/或AI技術(shù)支持者。相較而言，一般品牌方通常選擇從其他AI技術(shù)開發(fā)者處直接采購AI工具搭載于自身產(chǎn)品和服務(wù)上再提供給消費者，或采購ToB型AI工具用于自用目的，因此品牌方作為AI服務(wù)提供者和/或AI服務(wù)使用者的情況較為多見。二、AI生成營銷素材一個天才創(chuàng)意能夠為營銷活動積累巨大的口碑，極大地提升產(chǎn)品銷量和品牌影響力，而生成式AI憑借其高效的內(nèi)容產(chǎn)出能力和源源不斷的創(chuàng)意能力，能夠顯著降低創(chuàng)意成本、提高營銷效率。目前市場上已有較為成熟的生成式AI工具，可根據(jù)用戶輸入的提示文本撰寫廣告文案或生成廣告圖片，往往在幾秒鐘之內(nèi)就可提供十幾種方案供選，還可根據(jù)使用者的進一步要求進行調(diào)整優(yōu)化。某些專注于營銷領(lǐng)域的生成式AI工具還可根據(jù)不同行業(yè)領(lǐng)域和應(yīng)用場景提供多種素材模板，甚至能夠整合其他廣告監(jiān)測工具來追蹤這些素材的廣告投放效果。根據(jù)2024年4月2日國家互聯(lián)網(wǎng)信息辦公室《關(guān)于發(fā)布生成式人工智能服務(wù)已備案信息的公告》以及此前陸續(xù)發(fā)布的深度合成服務(wù)算法備案清單，國內(nèi)部分大型電商平臺已進行了AI大模型的研發(fā)并完成了相關(guān)備案。這些AI大模型可提供商品營銷文案創(chuàng)作、商品圖片和賣點等營銷素材生成等功能，幫助商家提高運營效率和營銷內(nèi)容質(zhì)量。不少品牌方/零售商們已不同程度地使用過這些AI創(chuàng)作工具，有效降低了營銷物料制作周期。由于在AI應(yīng)用中的角色不同，零售行業(yè)參與者所承擔的合規(guī)義務(wù)也有所區(qū)別：AI服務(wù)提供者AI服務(wù)提供者除了自身不得實施非法使用個人信息等侵犯個人信息主體權(quán)益的行為外，也應(yīng)提示用戶注意輸入內(nèi)容中若包含未公開的個人信息，應(yīng)取得相關(guān)個人信息主體的同意。在技術(shù)層面，服務(wù)提供者也應(yīng)當采用技術(shù)或者人工方式對用戶的輸入數(shù)據(jù)和合成結(jié)果進行審核[1]，確認是否可能存在個人信息，并過濾或?qū)ο嚓P(guān)個人信息進行脫敏處理。如接到第三方關(guān)于個人信息侵權(quán)的舉報，應(yīng)及時處理。AI服務(wù)提供者如果自行開發(fā)AI工具的，還應(yīng)當履行以下AI技術(shù)支持者的相關(guān)合規(guī)義務(wù)。AI技術(shù)支持者AI工具的訓(xùn)練和使用依賴于對大量數(shù)據(jù)的處理，因此對于AI技術(shù)支持者而言，確保數(shù)據(jù)來源合法是進行后續(xù)開發(fā)的首要合規(guī)前提。AI模型訓(xùn)練的數(shù)據(jù)來源通常包括以下三種：（1）使用網(wǎng)絡(luò)爬蟲獲取公開數(shù)據(jù)：需注意網(wǎng)絡(luò)爬蟲不應(yīng)故意突破或繞開網(wǎng)站設(shè)置的訪問限制措施和反爬蟲技（2）直接收集個人信息：如從用戶、消費者或測試志愿者等個人處收集個人信息用于模型訓(xùn)練，需確保已向相應(yīng)個人信息主體告知其個人信息將被用于AI模型開發(fā)等目的并獲取其授權(quán)同意，或在能夠滿足訓(xùn)練目的的前提下，對訓(xùn)練數(shù)據(jù)中的個人信息進行匿名化處理；（3）從第三方采購數(shù)據(jù)集：需要求該等第三方就其數(shù)據(jù)來源合法性做出陳述與保證。此外，與AI技術(shù)支持者的數(shù)據(jù)處理活動相關(guān)的主要義務(wù)包括：（1）依法開展訓(xùn)練數(shù)據(jù)處理活動，加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全[2]；（2）提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當提示服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意[3]；（3）提供具有生成或者編輯人臉、人聲等生物識別信息功能的模型、模板等工具的，應(yīng)當依法自行或者委托專業(yè)機構(gòu)開展安全評估[4]；（4）在生成式AI技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，應(yīng)當制定清晰、具體、可操作的標注規(guī)則，開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性，并對標注人員進行必要培訓(xùn)，監(jiān)督指導(dǎo)標注人員規(guī)范開展標注工作[5]。AI服務(wù)使用者品牌方等AI服務(wù)使用者在使用營銷素材生成、虛擬主播等生成式AI工具時可能也需要輸入人臉、聲音等個人信息，為此同樣需要向相關(guān)個人履行告知-同意義務(wù)，特別是包括對處理其人臉、聲音等敏感個人信息的單獨三、AI智能導(dǎo)購AI生成營銷素材主要是服務(wù)于商家的ToB模式，而AI智能導(dǎo)購則是直面消費者的ToC模式。目前國內(nèi)部分大型電商平臺已推出了基于大語言模型的AI智能導(dǎo)購工具，以期解決傳統(tǒng)人工導(dǎo)購/客服培訓(xùn)周期長、回復(fù)效率低、回復(fù)結(jié)果不理想等問題，幫助平臺用戶更快速準確地找到符合其偏好的商品。AI智能導(dǎo)購利用多輪對話不斷挖掘用戶需求，歸納總結(jié)用戶的購物意圖，圈定用戶需求特征后檢索相關(guān)商品，最后按照用戶偏好排序并向用戶進行推薦。以購買家用冰箱的場景為例，用戶提問時一般僅會給出少量表層需求，例如意向品牌、意向價格區(qū)間等，智能導(dǎo)購會進一步對其他需求特征進行詢問，例如開門方式、尺寸、容量、制冷模式、特殊功能要求等。當明確用戶需求后，智能導(dǎo)購會在平臺內(nèi)檢索相關(guān)商品，計算用戶需求和商品特征的匹配度來篩選出符合條件的商品，并根據(jù)用戶對話反饋不斷調(diào)整推薦商品，最終實現(xiàn)交技術(shù)層面上，AI智能導(dǎo)購的本質(zhì)是基于深度學(xué)習(xí)算法，根據(jù)用戶輸入的信息進行自動化決策并輸出決策結(jié)果的一類生成式AI工具。同時，因AI智能導(dǎo)購可能涉及生成合成類、個性化推送類、排序精選類等算法技術(shù)，屬于《算法推薦規(guī)定》定義的“算法推薦技術(shù)”，其服務(wù)提供者和技術(shù)支持者除了需要遵守生成式AI服務(wù)相關(guān)法規(guī)以外，還需要注意算法推薦管理方面的合規(guī)義務(wù)：算法備案義務(wù)《算法推薦規(guī)定》規(guī)定，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)[6]?！端惴ㄍ扑]規(guī)定》并未進一步明確“具有輿論屬性或者社會動員能力”的具體標準。2018年國家互聯(lián)網(wǎng)信息辦公室和公安部聯(lián)合發(fā)布的《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》（“《2018年安全評估規(guī)定》”）提供了相關(guān)解釋：“本規(guī)定所稱具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)，包括下列情形：（1）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序等信息服務(wù)或者附設(shè)相應(yīng)功能；（2）開辦提供公眾輿論表達渠道或者具有發(fā)動社會公眾從事特定活動能力的其他互聯(lián)網(wǎng)信息服務(wù)?！贝送猓瑥木W(wǎng)信部門公布的算法備案信息中也可看出，已備案算法的應(yīng)用產(chǎn)品類別非常廣泛，除新聞資訊、搜索引擎、貼吧論壇、網(wǎng)絡(luò)視頻等應(yīng)用以外，還包括求職招聘、外賣配送、網(wǎng)絡(luò)購物類應(yīng)用，幾乎覆蓋了絕大多數(shù)的互聯(lián)網(wǎng)常見應(yīng)用類型。因此實踐中，算法推薦服務(wù)提供者應(yīng)充分理解上述標準，對于包含評論互動和信息分享功能且面向社會公眾提供的算法推薦服務(wù)，宜主動履行算法備案義務(wù)，避免受到監(jiān)管處罰。安全評估義務(wù)具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當按照國家有關(guān)規(guī)定開展安全評估，還應(yīng)當依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助[7]。《2018年安全評估規(guī)定》規(guī)定了應(yīng)當進行安全評估的五類情形，包括“具有輿論屬性或社會動員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能的；用戶規(guī)模顯著增加，導(dǎo)致信息服務(wù)的輿論屬性或者社會動員能力發(fā)生重大變化的”等。其他主要合規(guī)義務(wù)告知公示：AI導(dǎo)購服務(wù)提供者應(yīng)當在相關(guān)功能界面或相關(guān)網(wǎng)站/應(yīng)用程序的其他顯著位置向用戶告知算法推薦服務(wù)的情況，并以適當方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運行機制等。不得操縱：AI導(dǎo)購服務(wù)在向用戶推薦商品或商品榜單時，應(yīng)注意不得過度推薦或操縱榜單。因AI導(dǎo)購功能可直接促成交易，品牌方可能會向這一渠道進行更多廣告投放，獲取更多曝光量，但AI導(dǎo)購服務(wù)提供者不應(yīng)向投放過廣告的商品進行過分的資源傾斜，不得利用算法屏蔽其他商品信息或干預(yù)其他商品信息的呈現(xiàn)。算法機制和內(nèi)容審核：AI導(dǎo)購服務(wù)提供者應(yīng)當定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，避免出現(xiàn)算法操縱、誘導(dǎo)過度消費和其他違反法律法規(guī)或者違背倫理道德的情形。此外，AI導(dǎo)購服務(wù)提供者在不斷收集更多數(shù)據(jù)、優(yōu)化相關(guān)算法模型時，還應(yīng)注意識別和過濾語料庫中的違法內(nèi)容和不良信息，避免生成違法和不良信息，例如在面向用戶生成商品推薦文案時，應(yīng)避免生成違反廣告法的用語或內(nèi)容。保障用戶權(quán)利：AI導(dǎo)購服務(wù)提供者應(yīng)當始終保障用戶權(quán)利，在向用戶推薦商品時應(yīng)當提供不針對其個人特征的選項，或者提供選擇或刪除用于AI導(dǎo)購服務(wù)的針對其個人特征的用戶標簽的功能。四、AI定價商品定價策略對商品銷量和企業(yè)營收至關(guān)重要。傳統(tǒng)的定價策略通常是在商品成本上增加一定的利潤率，同時結(jié)合競品價格、市場需求和趨勢等外部因素綜合確定價格，而這往往依賴人工判斷和經(jīng)驗總結(jié)。在AI賦能零售的技術(shù)浪潮下，商品定價也可以由AI大模型完成。AI大模型定價簡單來說可分為三個環(huán)節(jié)：（1）收集和處理數(shù)據(jù)；（2）建立定價模型、確定定價策略的目標；（3）實施定價策略?；诘讓訑?shù)據(jù)的更新、不同期間定價目標的差異，AI生成的定價策略也將隨著市場變化和用戶行為而動態(tài)變化。比如，在商品銷量較低或用戶反饋價格過高時，AI可能會自動降價；在競品價格普遍上漲時，AI可能會自動跟隨漲價。又比如，AI也可能根據(jù)某一用戶的行為進行個性化定價：當AI通過消費者的歷史交易數(shù)據(jù)識別出消費者對某品牌有更高的忠誠度時，可能會向此類消費者提供更為優(yōu)惠的價格。然而在我國目前的監(jiān)管體系下，“千人千面”的個性化定價存在著較為明顯的合規(guī)風(fēng)險。通過AI進行個性化定價的本質(zhì)是通過自動化決策技術(shù)，就同一商品或服務(wù)對交易條件相同的個人提供不同價格，因而可能構(gòu)成差別待遇?！秱€人信息保護法》明確規(guī)定，利用個人信息進行自動化決策，應(yīng)當保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇[8]。另外，利用消費者的個人信息進行自動化決策也應(yīng)當根據(jù)《個人信息保護法》的要求向消費者告知個人信息將被用于進行自動化決策目的，并獲取其同意，除非個人信息已經(jīng)過匿名化處理不再構(gòu)成個人信息。個性化定價還可能涉及反壟斷方面的合規(guī)風(fēng)險?！斗磯艛喾ā访鞔_禁止具有市場支配地位的經(jīng)營者沒有正當理由，對條件相同的交易相對人在交易價格等交易條件上實行差別待遇[9]?！秶鴦?wù)院反壟斷委員會關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》對此做出了細化規(guī)定：（1）分析是否構(gòu)成差別待遇，可以考慮以下因素：基于大數(shù)據(jù)和算法，根據(jù)交易相對人的支付能力、消費偏好、使用習(xí)慣等，實行差異性交易價格或者其他交易條件；（2）平臺在交易中獲取的交易相對人的隱私信息、交易歷史、個體偏好、消費習(xí)慣等方面存在的差異不影響認定交易相對人條件相同；（3）針對新用戶在合理期限內(nèi)開展的優(yōu)惠活動以及能夠證明行為具有正當性的其他理由，可以被視為實施差別待遇行為的正當理由[10]。以上禁止差別待遇的規(guī)定針對的是具有市場支配地位的經(jīng)營者，相較于一般品牌方，大型零售平臺在此方面可能面臨著更高的合規(guī)風(fēng)險。另外，消費者知情權(quán)也是一個重要的關(guān)注方面。2024年3月15日發(fā)布的