一、什么是ChatGPT？

人工智能已成為當今科技領域的一大熱門話題。隨著深度學習的快速發(fā)展，OpenAI團隊在其GPT（Generative Pre-trained Transformer）模型的基礎上，推出了ChatGPT，這是一種革命性的大型語言模型，為人們提供了一種全新的與計算機進行對話的方式。

ChatGPT從字面上可以分解成兩個詞Chat+GPT。Chat是聊天的意思，GPT是Generative Pre-trained Transformer的縮寫，生成式預訓練語言模型，使用Transformer架構來處理自然語言處理（NLP）任務。說人話就是能夠通過理解和學習人類的語言來進行對話，使其能夠生成與輸入語句相匹配的自然語言響應。它使用了海量的文本數(shù)據(jù)進行預訓練，涵蓋了互聯(lián)網(wǎng)上的網(wǎng)頁、書籍、論文等豐富資源，從而掌握了豐富的語法、語義、常識和上下文理解能力�？梢哉嬲�像人類一樣來聊天交流，能完成撰寫郵件、視頻腳本、文案、翻譯、代碼 ，寫論文 等任務。

總結一下就是它有大量的訓練語料，超大規(guī)模的訓練參數(shù)（上千億），能自己生成內(nèi)容（注意這里不是檢索，所以你會發(fā)現(xiàn)每次向GPT提問同樣的問題，得到的答案都是不一樣的）。就算一個它不知道的東西，它都可以根據(jù)已掌握的數(shù)據(jù)，生成一個答案，雖然有時候可能在胡說八道，從這個角度，確實已經(jīng)很像人類了。

二、ChatGPT有什么特性？

ChatGPT具備許多令人興奮的特性，使得它成為當今領域內(nèi)備受矚目的創(chuàng)新。主要的特點有：

1、根據(jù)上下文理解問題

ChatGPT展現(xiàn)了強大的上下文理解能力，可以深入理解對話的背景，并提供準確的回答。這使得對話更加連貫，用戶可以輕松進行復雜的交流，無需重復提供背景信息。

2、提供答案與解決方案

ChatGPT擅長回答各種問題，無論是實際知識、推理還是其他領域的問題，都能給出相應的回答并提供有用的解決方案。

3、持續(xù)學習與進化

ChatGPT具備學習能力，能夠從大量數(shù)據(jù)中不斷吸收新知識，并將其應用于對話和問題的回答中。這使得ChatGPT能夠跟上時代的發(fā)展，逐漸變得更加智能和準確。

4、多語言支持，全球交流

ChatGPT可以使用多種語言進行對話，包括中文、英文、西班牙語、法語和日語等。它能夠流利地進行交流，滿足全球用戶的需求。

5、理解復雜問題，簡單解釋

ChatGPT具備處理復雜問題的能力，并以簡單易懂的語言解釋和回答。即使是看似復雜或?qū)�業(yè)的問題，ChatGPT也能夠以用戶友好的方式解釋，使用戶更容易理解。

6、廣泛應用

由于其出色的性能和靈活性，ChatGPT適用于各種場景。無論是智能家居、智能客服還是其他領域，ChatGPT都能夠幫助人們解決問題，并提供高質(zhì)量的交互體驗。

三、、如何與ChatGPT對話，Prompt是什么？

遇事不決，先問GPT。我們先問一下ChatGPT，Prompt是什么？

我們來簡單概括一下ChatGPT的回答，Prompt 就是提示工程（Prompt Engineering）是指在使用自然語言處理（NLP）模型（例如 GPT-4）時，設計和優(yōu)化輸入文本（即提示）的過程。這一過程旨在更有效地引導模型生成所需的輸出結果。提示工程的關鍵在于提高模型的表現(xiàn)，使其更準確、有趣或符合特定上下文要求。

好了，那如何才能寫出清晰的Prompt呢？讓他能理解我們的問題，給出高質(zhì)量的答案。就像與人溝通其實也是有很多技巧學問的，同樣的，其實跟ChatGPT溝通也是有一些規(guī)律、模版是可以遵循的。

四、如何寫出清晰的Prompt？

1、用清晰明確的語言表達問題

就像人與人之間的溝通一樣，需要用清晰明確的語言表達問題，它就會給我們簡明扼要的答案。避免重復含糊不明確的詞匯和句子。

對比以下案例：

2、給ChatGPT設定身份

給ChatGPT設定一個相應的回復者身份，它可以模仿這個身份來更好的回答你的提問。設定身份的同時最好包括身份、任務和約束三個元素：

右邊的提示詞包含的3個元素分別是：

身份 - 辯論教練

約束 - 一個辯論隊和他們即將進行的辯論的議題

任務 - 為團隊的成功做好準備，組織練習回合，重點是有說服力的演講，有效的時間策略，反駁對方的論點，并從提供的證據(jù)中得出深入的結論。

3、提供示例或喂相關數(shù)據(jù)

比如你想讓它用魯迅的寫作風格給你寫一段文字， 你可以先提供一些魯迅的文章發(fā)送給它。

4、使用分隔符清晰標示輸入的不同部分

如使用 """三重引號""" 、<XML標記> 、章節(jié)標題等有助于劃分需要區(qū)別對待的文本部分。

示例：

將以下由三重引號包含的文本總結為一句話。 """在這里插入文本"""

5、告訴ChatGPT完成任務所需要的步驟

有些任務最好指定為一系列步驟。明確的寫出步驟可以使ChatGPT更容易遵循這些步驟。

示例：

按照以下逐步說明來響應用戶輸入。

第1步 - 用戶將用三重引號提供文本， 以『總結：』作為前綴 ，用一句話總結這段文字。

第2步 - 將第1步的摘要翻譯成中文 ， 前綴為『翻譯：』。

6、指定ChatGPT回復輸出內(nèi)容的長度

可以要求ChatGPT生成具有給定目標長度的輸出�？梢愿鶕�(jù)字數(shù)、句子、段落、項目符號等的數(shù)量來指定目標輸出長度。

💡 注意：指示ChatGPT生成特定數(shù)量的單詞并不能實現(xiàn)高精度，絕大多數(shù)情況下都有誤差，我猜可能和Token數(shù)有關。

示例：

✅ 將以下由三重引號包含的文本總結為100個字。 """一段文本"""

相信你掌握了以上6個最佳實踐技巧， 對ChatGPT的使用已經(jīng)很熟悉啦~

不過，任何一個技巧、模版都不可能是萬能的，很多時候，模版或技巧確實可以幫我們快速的達到及格線的水平，但是如果一直靠這些花里胡哨的東西，你永遠也不可能成為一個行業(yè)頂尖的人才。很多東西是需要大家下苦功夫，在實戰(zhàn)中一點點慢慢摸索出來的。實踐才是檢驗真理的唯一標準。

五、大模型發(fā)展這么久，為什么到GPT3.5才具有了真正的智能？

GPT（Generative Pre-trained Transformer）生成式預訓練語言模型。也就是這個語言模型是基于Transformer的，Transformer是一種基于注意力機制的神經(jīng)網(wǎng)絡模型，最早由谷歌公司提出，其最初目的是用于自然語言處理任務，如機器翻譯、文本摘要、語音識別等。相比于傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡模型，如LSTM和GRU，Transformer模型具有更好的并行化能力和更短的訓練時間，在處理長序列任務方面表現(xiàn)出色，因此在自然語言處理領域得到了廣泛應用。

其實GPT不是OpenAI公司的原創(chuàng)，而是由谷歌公司發(fā)明。是不是跟當年操作系統(tǒng)的圖形用戶界面其實是施樂公司最新發(fā)明的，卻被喬布斯竊取到并應用到蘋果的系統(tǒng)上一樣。包括后來的iphone手機，大家也可以搜一下，其實所有的設計都是借鑒了其他公司的產(chǎn)品，但是喬布斯把他們組合并創(chuàng)新成了一件最偉大的藝術品，從而開啟了一個全新的移動互聯(lián)網(wǎng)時代，所以有時候并不一定什么都要原創(chuàng)，站在巨人的肩膀上來微創(chuàng)新，有時候更容易出成果。

上面扯的有點遠了，我們回到為什么GPT3.5才算真正的人工智能這個問題上。

2018 年 OpenAI 采用 Transformer Decoder 結構在大規(guī)模語料上訓練了 GPT1 模型，揭開了NLP模型預訓練+微調(diào)的新范式。2019 年，OpenAI 提出了 GPT2，GPT2 擁有和 GPT1 一樣的模型結構，但得益于更多和更高的數(shù)據(jù)質(zhì)量以及新引入的多任務學習方式，語言生成能力得到大幅提升。之后由于 GPT 采用 Decoder 單向結構天然缺陷是無法感知上下文，Google 很快提出了 Encoder 結構的 Bert 模型可以感知上下文，效果上也明顯有提升，同年 Google 采用Encoder-Decoder 結構，提出了 T5 模型，從此大規(guī)模預訓練語言模型朝著三個不同方向發(fā)展。

也就是說在GPT3.0之前，谷歌的Bert 模型是遠超OpenAI 的GPT模型的。這里補充一個知識點，GPT3.0之前都是開源的，OpenAI由于一些商業(yè)等多方面的考慮，從GPT3.5開始，模型都是閉源的。

直到2020 年 OpenAI 提出了 GPT3 將 GPT 模型提升到全新的高度，其訓練參數(shù)達到了 1750 億，訓練語料超45TB，自此GPT系列模型的數(shù)據(jù)飛輪便轉(zhuǎn)動起來，超大模型時代開啟， NLP 任務走向了預訓練+情境學習新路線。由于 GPT3 可以產(chǎn)生通順的句子，但是準確性等問題一直存在，于是出現(xiàn)了InstructGPT、ChatGPT 等后續(xù)優(yōu)化的工作，通過加入強化學習模式實現(xiàn)了模型可以理解人類指令的含義，會甄別高水準答案，質(zhì)疑錯誤問題和拒絕不適當?shù)恼埱蟮取?/p>

從GPT3.5，GPT突然涌現(xiàn)出了“烏鴉”能力，之前的都可以理解成量變，一種鸚鵡學舌的能力，并沒有真正的智能。

可能是大力出奇跡，我感覺跟人腦是一個道理，一個神經(jīng)元沒啥智慧，一百萬個、一百億個可能也沒啥智慧，不過增加到一千億個神經(jīng)元連接，突然就有智慧了，涌現(xiàn)出了能力。這是一件很玄學的事情，包括現(xiàn)在世界頂級的人工智能專業(yè)也無法解釋這種現(xiàn)象，我們只能理解成大力出奇跡。

這里拿出一點篇幅來普及一下什么“鸚鵡學舌”的假人工智障，什么是擁有“烏鴉”能力的真人工智能

所謂鸚鵡學舌，就是東施效顰。沒有GPT之前，幾乎所有的自然語言處理都遵循著這一范式。他沒有真的懂你的意思，只是一種模式匹配，比如之前的語音助手，只能識別有限的場景，比如你問他，幫我導航去天安門，他可以給你答案，但如果你讓問他火星怎么去，他可能就回答不了你，因為他的數(shù)據(jù)庫里沒有這個問題的答案。也就是說，他只能回答在自己的數(shù)據(jù)庫里有對應答案的問題，一旦你的問題超出了他的數(shù)據(jù)范圍，他是沒辦法給你回復的。無法做到根據(jù)現(xiàn)有的數(shù)據(jù)生成新的數(shù)據(jù)，但是世界的問題千千萬，不可能窮盡所有的可能把所有的問題答案都事先準備好，這也是之前的人工智能大家感覺并不智能的原因，因為他的底層實際上還是在做匹配。我舉一個程序員都能理解的例子，比如你要實現(xiàn)一個不同條件得到不同結果的功能，我相信大部分程序員都是這樣實現(xiàn)的。

如果新增了條件，還是要新增一堆的if else才能匹配更多的情況。

而烏鴉不一樣，小時候我們讀過烏鴉喝水的故事，烏鴉是有真正智慧的，他能真的讀懂你要表達的意思。這里我們引用華人最厲害的AI學者之一朱松純教授，在2017年寫的一篇思考人工智能和智能本質(zhì)的文章，通過這篇文章來理解烏鴉是如何感知、認知、推理、學習、執(zhí)行的。

烏鴉通過觀察，自主串通了

汽車能壓碎堅果

紅綠燈能控制汽車

車能撞死我

這三件事情，從而利用紅綠燈和汽車，來幫自己達到“安全打開堅果”這一任務結果。

如果類比成機器學習模型，過往“鸚鵡學舌”范式的解法，是要求所有烏鴉可以共享一個大腦，它們有很清晰的優(yōu)化目標，即“保住性命的前提下打開堅果”。它們的方式是，隨機嘗試所有事件的組合，并向著最優(yōu)解的方向不斷演化。

但現(xiàn)實世界的烏鴉無法共享大腦，也不能去冒著死亡風險去嘗試所有可能。烏鴉只有一次機會，把觀測到的兩個現(xiàn)象，產(chǎn)生了一個新的可能性，并應用在一個全新的場景下。這里最接近的詞匯可能是“inference”，是“基于證據(jù)和邏輯推演，得到結論”的過程，有的時候，還要加入很多猜測、抽象、泛化。舉個例子，這篇文章把朱教授對于烏鴉的比喻，跟ChatGPT最本質(zhì)的能力聯(lián)系起來，就是在做inferencing這件事。

但很明顯，inferencing不是烏鴉智能的全部。而且在機器學習領域里，inferencing特指使用訓練好的深度學習模型來預測新的數(shù)據(jù)這一件事，會產(chǎn)生誤解。其他詞匯也有類似問題，所以我們在自己文章里，會直接使用“烏鴉能力”來指代ChatGPT的新能力。在對外交流時，我們沒辦法每次都把烏鴉能力是什么解釋一遍，所以我們會用“理解”能力來進行指代。從“烏鴉”到“理解”，當然是一個信息量損失很大的過度概括。但是好處是可以把ChatGPT的本質(zhì)能力凸顯出來。過往互聯(lián)網(wǎng)的兩次能力躍進一次來自于搜索，一次來自于推薦，現(xiàn)在ChatGPT帶來了“理解”，也非常有結構感。

最后，再給大家看一張圖，讓大家了解ChatGPT是如何一步步演化到目前的水平的：

通過上圖，大家可以看到：

GPT-3.5通過InstructGPT的模式 + 閱讀代碼，涌現(xiàn)了“烏鴉”能力，產(chǎn)生了質(zhì)變。但是還沒找到合適的應用界面，也不符合人類喜好

ChatGPT在RLHF的幫助下，找到了GPT-3.5和人類自然語言的合理接口，解鎖了模型應用的前景

（以上關于鸚鵡學舌和烏鴉能力的例子引用自"課代表立正的文章"）

這里解釋幾個專用名詞：

InstructGPT：

ChatGPT的交互模式，讓GPT的能力，更加貼近人類真實交互方式。在in-context learning基礎之上，進一步降低了prompting的門檻；一定程度解決了GPT-3生成結果與用戶期望不一致的非預期輸出，大幅降低了有害的、錯誤或偏差的輸出結果，讓GPT更符合人類胃口

RLHF

ChatGPT背后的核心技術之一，讓模型學習人類的偏好。全稱是reinforcement learning from human feedback，通過構建人類反饋數(shù)據(jù)集，訓練一個reward模型，模仿人類偏好對結果打分，是GPT-3后時代LLM越來越像人類對話的核心技術

ChatGPT

InstructGPT的親戚，但一些優(yōu)化方式也帶來了ChatGPT的更泛化和準確能力，再次引爆了AIGC。ChatGPT總體來說和InstructGPT一樣是使用RLHF進行訓練，但模型是基于GPT3.5，而且數(shù)據(jù)設置上也不同。ChatGPT是一個輸入，模型給出多個輸出，然后人給結果排序，讓模型可以學習人類的排序策略，即使是一本正經(jīng)的胡說八道看起來也很合理的樣子

六、結束語

AI時代已來，面對每天海量的信息鋪面而來，我想說，不要焦慮、不要擔心自己會被替代，最好的方式就是保持一顆平常心，主動的擁抱AI，讓AI成為你的個人助理，根據(jù)自身的情況，先從能馬上提高自己工作生活效率的內(nèi)容學起，躬身入局，日拱一卒，相信不久的將來，你一定會感謝今天的你的堅持！

本文鏈接：http://www.51huadong.com/cloundnews/11008689.html