月說·數(shù)智化分享會·第41期 吳濤老師

分享會·第41期吳濤@360數(shù)智化首席咨詢專家吳濤@360數(shù)智化首席咨詢專家以樂于分享，自我提升，賦能他人聞道有先后，術(shù)業(yè)有專攻共同創(chuàng)造一個牛逼的數(shù)據(jù)分析交流圈子2024年10月在數(shù)智領域碰撞出另一番火花22吳濤數(shù)智化首席咨詢專家負責城市/政府/央國企/解決方案商數(shù)智化咨詢，引導客戶不斷完善數(shù)字化和智能化體系建設。大模型具有泛化能力和理解能力傳統(tǒng)AI模型擁有簡單識別能力，在單一任務上超過人類傳統(tǒng)AI模型：具備簡單識別能力，處理單一任務大語言模型：具備理解能力，處理復雜場景業(yè)務33Transformer算法基本原理通過其特有的自注意力機制通過其特有的自注意力機制，模擬人類神經(jīng)網(wǎng)絡思考的過程44大模型可生成符合物理規(guī)律的視頻大模型不僅能理解圖像，還能理解他們互動的時候應符合哪些物理定律OpenAISora實現(xiàn)了大模型對世界的觀察、交互、認知，以及建立常識55大模型模擬人腦的學習和工作能力大模型通過預訓練（學習）和推理（工作）過程不斷提升思考能力大模型訓練過程人類學習過程大模型預訓練音頻、視頻、文檔、圖文聽覺、視覺、圖書、文章大模型提問過程人類提問過程大模型推理音頻、視頻、文檔、圖文聽覺、視覺、圖書、文章66大模型可調(diào)用各種API工具操作硬件設備大模型不僅能思考和生成內(nèi)容，而且可以通過調(diào)用API操縱硬件設備大模型驅(qū)動的特斯拉汽車自動駕駛77大模型通過Agent框架復制人類技能通過Playbook可視化界面，拖拽式創(chuàng)建某任務技能的工作流大模型組件大模型組件代碼組件代碼組件外部外部API組件搜索組件搜索組件知識庫組件知識庫組件函數(shù)調(diào)用組件函數(shù)調(diào)用組件88大模型是“新質(zhì)生產(chǎn)力”的關鍵要素大模型通過學習人類專家工作流程掌握復雜技能搜索讓人類獲取信息的成本趨近于零大模型讓人類獲取技能的成本趨近于零任何行業(yè)都值得用大模型重做一遍兩種創(chuàng)新1、做從來沒有做過的事，比如說OpenAI做出大模型，也只有這一家；2、把原來老業(yè)務用新的方法重做一遍，這個機會就很多。MicrosoftCopilotSalesforceEinsteinGPT360安全大模型大模型應用的五大關鍵問題100多個PoC測試得出的結(jié)論AI應用的五大關鍵問題AI應用的五大關鍵問題①場景選擇：擺脫宏大敘事，選擇有效場景，發(fā)揮大模型應用價值②知識積累：企業(yè)知識的發(fā)現(xiàn)、沉淀、積累、管理、價值發(fā)揮③場景大模型：打造企業(yè)專屬的場景大模型④業(yè)務融合：不只是聊天機器人，還要促進業(yè)務發(fā)展⑤AI和數(shù)據(jù)安全：保護企業(yè)私有數(shù)據(jù)和AI安全AI落地的四個誤區(qū)1.總想搞一個宏大的產(chǎn)業(yè)大模型，如金融大模型、交通大模型——垂直場景大模型2.企業(yè)總想用一個萬能大模型解決所有企業(yè)問題，如企業(yè)hr、ERP、財務、稅務等——多個垂直模型+MoE架構(gòu)3.有了大模型原來的IT系統(tǒng)就淘汰了——大模型是對IT系統(tǒng)的增強，需要和IT系統(tǒng)打通4.有大模型就不用做數(shù)字化了，可以彎道超車——需要有數(shù)據(jù)和知識，原來的數(shù)字化搞得越好，大模型越順利應對五大關鍵問題，產(chǎn)生五大方法論：挑場景找知識訓模型融業(yè)務保安全1、場景選擇方法論?大模型不能全面取代現(xiàn)在的數(shù)字化系統(tǒng) 小切口 小切口某業(yè)務環(huán)節(jié)某業(yè)務場景某業(yè)務環(huán)節(jié)某業(yè)務環(huán)節(jié)某業(yè)務場景某業(yè)務環(huán)節(jié)大縱深大縱深業(yè)務主導業(yè)務主導內(nèi)部知識管理平臺內(nèi)部知識管理平臺2、知識積累方法論企業(yè)部署大模型驅(qū)動的知識管理平臺和情報管理平臺知識采集知識源情報采集情報源外部情報管理平臺知識管理大模型用戶訪問員工情報大模型3、模型打造方法論360安全大模型的Agent智能體架構(gòu)任務編排引擎監(jiān)督評測引擎任務生成引擎指令調(diào)度引擎任務編排引擎監(jiān)督評測引擎任務生成引擎指令調(diào)度引擎…………4、業(yè)務融合方法論通過業(yè)務融合平臺，全面融合到企業(yè)數(shù)字化流程中大語言模型員工智能體大語言模型員工智能體數(shù)字人智能體數(shù)字人智能體交互插件交互插件知識插件技能插件規(guī)劃插件工作流插件 產(chǎn)研系統(tǒng)營銷系統(tǒng) 產(chǎn)研系統(tǒng)營銷系統(tǒng) 5、安全管理方法論大模型的全新特性帶來了前所未有的安全挑戰(zhàn)網(wǎng)絡數(shù)據(jù)安全?網(wǎng)絡安全：系統(tǒng)漏洞、網(wǎng)絡攻擊?數(shù)據(jù)安全：數(shù)據(jù)泄漏、隱私泄露、數(shù)據(jù)投毒（含訓練語料安全）生成內(nèi)容安全?內(nèi)容合規(guī)：違規(guī)內(nèi)容?虛假內(nèi)容：deepfake?幻覺問題：杜撰內(nèi)容惡意使用問題?提示注入攻擊?越獄：PUA、欺騙?惡意利用：生成惡意代碼、詐騙視頻失控問題?可控問題：Agent框架將大模型能力擴展到物理空間，具有操控破壞能力?產(chǎn)生意識：硅基生物危害人類企業(yè)大模型項目落地流程數(shù)智化項目落地實施一般需要完成以下任務要點66平臺推廣2篩選重點場景44平臺系統(tǒng)研發(fā)1數(shù)智化水平評估33平臺產(chǎn)品設計55平臺運營360數(shù)字化團隊：全程陪跑企業(yè)數(shù)智化項目1、數(shù)智化應用水平評估可根據(jù)典型應用大致評估當前所在階段可根據(jù)典型應用大致評估當前所在階段反向促進反向促進持續(xù)迭代2、全程陪跑的數(shù)智化咨詢提供從戰(zhàn)略到落地的解決方案設計與交付業(yè)務戰(zhàn)略咨詢數(shù)智化戰(zhàn)略咨詢平臺運營咨詢平臺營銷咨詢業(yè)務戰(zhàn)略咨詢數(shù)智化戰(zhàn)略咨詢平臺運營咨詢平臺營銷咨詢供應鏈管理平臺建設咨詢立項方案是智能化咨詢的關鍵要點數(shù)智化咨詢交付體系根據(jù)客戶戰(zhàn)略、產(chǎn)品、研發(fā)、運營、營銷團隊需求輸出方案第1周需求調(diào)研模塊第1月戰(zhàn)略咨詢模塊3.《企業(yè)內(nèi)部環(huán)境調(diào)研報告》4.《企業(yè)戰(zhàn)略定位建議書》第2月產(chǎn)品咨詢模塊第3月技術(shù)咨詢模塊4.《線下門店運營規(guī)范與策劃》第4月運營咨詢模塊4.《流量增長運營策劃》第5月營銷咨詢模塊4.《供應鏈體系建設與執(zhí)行計劃》5.《銷售渠道建設與執(zhí)行計劃》第6月人力財務咨詢模塊3.《員工培訓體系建設方案》5.《員工勞動合同樣本》第7月項目結(jié)案2.《客戶反饋問卷-售后》20203、深度融合數(shù)智化底座對接現(xiàn)有和新建業(yè)務系統(tǒng)，一站式解決業(yè)務系統(tǒng)研發(fā)和運維問題IT服務管理客戶管理服務目錄服務交付