大語(yǔ)言模型通識(shí)微課課件：提示工程和語(yǔ)境學(xué)習(xí)

大語(yǔ)言模型通識(shí)微課

提示工程與語(yǔ)境學(xué)習(xí)大語(yǔ)言模型正在發(fā)展成為人工智能的一項(xiàng)基礎(chǔ)設(shè)施，少數(shù)大廠負(fù)責(zé)預(yù)訓(xùn)練大模型，而大多數(shù)人則會(huì)是其用戶。用戶掌握用好大模型的技術(shù)。用好大模型的第一個(gè)層次是掌握提示工程，第二個(gè)層次是做好大模型的微調(diào)。提示工程關(guān)注提示詞的開(kāi)發(fā)和優(yōu)化，幫助用戶將大模型用于各場(chǎng)景和研究領(lǐng)域。掌握提示工程相關(guān)技能幫助用戶更好地了解大模型的能力和局限性。另一方面，需要使用指令數(shù)據(jù)對(duì)其進(jìn)行微調(diào)。如何構(gòu)造指令數(shù)據(jù)，如何高效低成本地進(jìn)行指令微調(diào)訓(xùn)練，以及如何在語(yǔ)音模型基礎(chǔ)上進(jìn)一步擴(kuò)大上下文等問(wèn)題，是大模型在有監(jiān)督微調(diào)階段的核心。微課8.1提示工程與語(yǔ)境學(xué)習(xí)提示工程應(yīng)用于開(kāi)發(fā)和優(yōu)化提示詞，幫助用戶有效地將語(yǔ)言模型用于各種應(yīng)用場(chǎng)景和研究領(lǐng)域。研究人員可利用提示工程來(lái)提高大模型處理復(fù)雜任務(wù)場(chǎng)景的能力，如問(wèn)答和算術(shù)推理能力以及大模型的安全性。開(kāi)發(fā)人員可通過(guò)提示工程設(shè)計(jì)和實(shí)現(xiàn)與大模型或其他生態(tài)工具的交互和高效接軌，借助專業(yè)領(lǐng)域知識(shí)和外部工具來(lái)增強(qiáng)大模型能力。8.1.1什么是提示工程提示不僅是用戶與大模型（如ChatGPT）交互的橋梁，更是一種全新的“編程語(yǔ)言”，用于指導(dǎo)人工智能模型產(chǎn)生特定的輸出。（1）角色轉(zhuǎn)變：用戶通過(guò)精心設(shè)計(jì)的提示來(lái)“編程”人工智能模型，指導(dǎo)其執(zhí)行各種任務(wù)。（2）任務(wù)多樣性：任務(wù)的范圍非常廣泛，從簡(jiǎn)單問(wèn)答、文本生成到復(fù)雜的邏輯推理、數(shù)學(xué)計(jì)算和創(chuàng)意寫(xiě)作等。（3）即時(shí)性與互動(dòng)性：提示通常更加即時(shí)和互動(dòng)。用戶可以直接在模型接口中輸入提示并立即看到結(jié)果。8.1.1什么是提示工程提示工程涉及到如何設(shè)計(jì)、優(yōu)化和管理提示內(nèi)容，以確保人工智能模型能夠準(zhǔn)確、高效地執(zhí)行用戶的指令。（1）設(shè)計(jì)：需要仔細(xì)選擇詞匯、構(gòu)造清晰的句子結(jié)構(gòu)，并考慮上下文信息，確保大模型能夠準(zhǔn)確理解用戶的意圖并產(chǎn)生符合預(yù)期的輸出。（2）優(yōu)化：可能涉及調(diào)整詞匯選擇、改變句子結(jié)構(gòu)或添加額外的上下文信息，以提高大模型的性能和準(zhǔn)確性。需要多次迭代以達(dá)到最佳效果。（3）管理：管理大量提示內(nèi)容，包括組織、存儲(chǔ)和檢索提示，以便在需要時(shí)能夠快速找到并使用它們。同時(shí)，還需要定期更新和維護(hù)。8.1.2提示工程的原理以下是設(shè)計(jì)提示的一些技巧。（1）從簡(jiǎn)單開(kāi)始。記住設(shè)計(jì)提示是一個(gè)迭代過(guò)程，需要大量實(shí)驗(yàn)來(lái)獲得最佳結(jié)果?？梢詮暮?jiǎn)單提示開(kāi)始，隨著目標(biāo)獲得更好的結(jié)果，不斷添加更多的元素和上下文。具體、簡(jiǎn)潔和簡(jiǎn)明通常會(huì)帶來(lái)更好的結(jié)果。當(dāng)有一個(gè)涉及許多不同子任務(wù)的大任務(wù)時(shí)，可以嘗試將任務(wù)分解為更簡(jiǎn)單的子任務(wù)，并隨著獲得更好的結(jié)果而不斷構(gòu)建。這避免了在提示設(shè)計(jì)過(guò)程中一開(kāi)始就添加過(guò)多的復(fù)雜性。8.1.3提示的技巧（2）指令?？梢允褂妹顏?lái)指示模型執(zhí)行各種簡(jiǎn)單任務(wù)，例如“寫(xiě)入”“分類”“總結(jié)”“翻譯”“排序”等，為任務(wù)設(shè)計(jì)有效的提示。需要進(jìn)行大量的實(shí)驗(yàn)，嘗試使用不同的關(guān)鍵字、上下文和數(shù)據(jù)嘗試不同的指令，看看哪種方法最適合特定的用例和任務(wù)。通常情況下，上下文與要執(zhí)行的任務(wù)越具體和相關(guān)，效果越好。（3）具體性。提示越具體和詳細(xì)，結(jié)果就越好。在提示中提供示例非常有效，可以以特定格式獲得所需的輸出。在設(shè)計(jì)提示時(shí)，還應(yīng)考慮提示的長(zhǎng)度，因?yàn)殚L(zhǎng)度有限制。8.1.3提示的技巧（4）避免不精確。通常最好是具體和直接，越直接信息傳遞就越有效。例如，如果有興趣了解提示工程的概念。可以嘗試這樣做：解釋提示工程的概念。保持解釋簡(jiǎn)短，只有幾句話，不要過(guò)于描述。但更好的提示是非常具體、簡(jiǎn)潔和直接的。設(shè)計(jì)提示時(shí)的另一個(gè)技巧是避免說(shuō)不要做什么，而是說(shuō)要做什么。鼓勵(lì)更具體化，并關(guān)注導(dǎo)致模型產(chǎn)生良好響應(yīng)的細(xì)節(jié)。8.1.3提示的技巧語(yǔ)境學(xué)習(xí)，也稱上下文學(xué)習(xí)，是指模型可以從上下文中的幾個(gè)例子中學(xué)習(xí)：向模型輸入特定任務(wù)的一些具體例子（也稱示例）及要測(cè)試的樣例，模型可以根據(jù)給定的示例續(xù)寫(xiě)測(cè)試樣例的答案。以情感分類任務(wù)為例，向模型中輸入一些帶有情感極性的句子、每個(gè)句子相應(yīng)的標(biāo)簽，以及待測(cè)試的句子，模型可以自然地續(xù)寫(xiě)出它的情感極性為“正面”。

圖8-5語(yǔ)境學(xué)習(xí)示例8.1.4語(yǔ)境學(xué)習(xí)語(yǔ)境學(xué)習(xí)可以看作提示學(xué)習(xí)的一個(gè)子類，其中示例是提示的一部分。語(yǔ)境學(xué)習(xí)的關(guān)鍵思想是從類比中學(xué)習(xí)，整個(gè)過(guò)程并不需要對(duì)模型進(jìn)行參數(shù)更新，僅執(zhí)行前向的推理。大模型可以通過(guò)語(yǔ)境學(xué)習(xí)執(zhí)行許多復(fù)雜的推理任務(wù)。作為大模型的一種新的范式，語(yǔ)境學(xué)習(xí)具有許多獨(dú)特的優(yōu)勢(shì)。首先，其示例是用自然語(yǔ)言編寫(xiě)的，提供了一個(gè)可解釋的界面來(lái)與大模型進(jìn)行交互。其次，不同于以往的監(jiān)督訓(xùn)練，語(yǔ)境學(xué)習(xí)本身無(wú)須參數(shù)更新，這可以大大降低使大模型適應(yīng)新任務(wù)的計(jì)算成本。8.1.4語(yǔ)境學(xué)習(xí)在語(yǔ)境學(xué)習(xí)中，示例的標(biāo)簽正確性（輸入和輸出的具體對(duì)應(yīng)關(guān)系）并不是有效的關(guān)鍵因素，起到更重要作用的是輸入和樣本配對(duì)的格式、輸入和輸出分布等。此外，語(yǔ)境學(xué)