通(tōng)過交流，我們創造并改變了(le)我們生活的(de)世界——其中既包括我們的(de)價值觀，也(yě)包括我們的(de)工具。大(dà)型語言模型是強大(dà)的(de)工具，可(kě)以幫助我們自動化(huà)和(hé)簡化(huà)複雜(zá)的(de)任務，并有可(kě)能徹底改變我們與技術交互的(de)方式。然而，它們并非沒有限制和(hé)風險。

交流離不開語言。與其他(tā)人(rén)工智能應用(yòng)相比，語言是一個(gè)更加棘手的(de)問題，它的(de)風險也(yě)更高(gāo)。自然語言處理(lǐ)（NLP， natural language processing）與一些互聯網巨頭的(de)核心業務密切相關，例如谷歌(gē)的(de)搜索與Meta的(de)社交媒體參與。作爲一個(gè)社會，我們也(yě)許從未如此清醒的(de)意識到語言造成傷害和(hé)貶低的(de)危險，也(yě)從未如此清醒地意識到我們的(de)語言中微妙的(de)、結構性的(de)、往往是無意地将人(rén)予以他(tā)者化(huà)的(de)形式。

ChatGPT正在被過億用(yòng)戶使用(yòng)，其中許多(duō)人(rén)沒有接受過任何關于如何合倫理(lǐ)地使用(yòng)這(zhè)樣的(de)系統，或如何确保系統不會造成傷害的(de)教育。除了(le)區(qū)分(fēn)人(rén)類和(hé)機器的(de)困難，我們也(yě)需要更多(duō)的(de)研究來(lái)幫助我們了(le)解人(rén)工智能将會怎樣影(yǐng)響我們與其他(tā)人(rén)的(de)互動。

這(zhè)一切将帶來(lái)一個(gè)全新的(de)交流環境。在一個(gè)日益由可(kě)以模仿人(rén)類自然語言能力的(de)人(rén)工智能工具主導的(de)世界中，真實和(hé)信任意味著(zhe)什(shén)麽？偏見和(hé)錯誤信息又将導緻什(shén)麽？很多(duō)問題超越了(le)技術範圍。傳播學者需要成爲有關人(rén)工智能技術發展的(de)對(duì)話(huà)的(de)中心。

由于ChatGPT爆火的(de)緣故，大(dà)型語言模型（LLM， large language model）集萬千寵愛(ài)于一身。但它們是什(shén)麽呢(ne)？簡單地說，LLMs是一種計算(suàn)機系統，被設計用(yòng)來(lái)學習(xí)文本語料庫的(de)統計屬性，以生成模仿原始文本風格和(hé)内容的(de)新文本。換言之，LLMs能夠生成現實而較爲準确的(de)新文本，看起來(lái)像是由一個(gè)真實的(de)人(rén)撰寫的(de)。

LLMs的(de)核心基于一種強大(dà)的(de)機器學習(xí)技術，即深度學習(xí)。深度學習(xí)是人(rén)工智能的(de)一個(gè)子集，能夠自動學習(xí)數據中的(de)複雜(zá)模式。深度學習(xí)算(suàn)法的(de)靈感來(lái)自于大(dà)腦(nǎo)從經驗中學習(xí)的(de)能力，它們通(tōng)常使用(yòng)神經網絡來(lái)實現——計算(suàn)系統的(de)結構與大(dà)腦(nǎo)非常相似。事實上，如果不使用(yòng)先進的(de)水(shuǐ)印策略，就不可(kě)能準确區(qū)分(fēn)由人(rén)類頭腦(nǎo)所寫的(de)文本和(hé)由高(gāo)度可(kě)并行的(de)人(rén)工神經網絡所産生的(de)文本，後者的(de)神經連接數要少得(de)多(duō)。

傳統機器學習(xí)算(suàn)法和(hé)深度學習(xí)算(suàn)法之間的(de)一個(gè)關鍵區(qū)别是，深度學習(xí)算(suàn)法可(kě)以擴展到更大(dà)的(de)數據集，它們可(kě)以從非結構化(huà)或未标記的(de)數據中學習(xí)。這(zhè)使得(de)它們非常适合于自然語言處理(lǐ)等任務，這(zhè)也(yě)是LLMs的(de)用(yòng)途。大(dà)型語言模型現在被認爲是人(rén)工智能的(de)前沿，因其有可(kě)能執行需要創造力、推理(lǐ)和(hé)理(lǐ)解自然語言的(de)任務。

大(dà)型語言模型于2017年在谷歌(gē)大(dà)腦(nǎo)（Google Brain）開始使用(yòng)，研究人(rén)員(yuán)推出了(le)transformer（轉換器）架構，它是自然語言處理(lǐ)中使用(yòng)的(de)一個(gè)基于深度學習(xí)模型的(de)神經網絡，訓練可(kě)以實現并行化(huà)，這(zhè)爲訓練真正的(de)大(dà)模型首次提供了(le)機會。此後，大(dà)型語言和(hé)文本-圖像模型在領先的(de)技術公司中激增，包括谷歌(gē)（BERT、GLaM、LaMDA、Chinchilla、PaLM）、Facebook/Meta（OPT-175B、Galactica、BlenderBot、LLaMA）、英偉達和(hé)微軟（Megatron-Turing），當然還(hái)有OpenAI，微軟是主要的(de)投資者（GPT-3/4用(yòng)于文本，DALL-E2用(yòng)于圖像，Whisper用(yòng)于語音(yīn)）。在線社區(qū)，如Midjourney，以及Hugging Face等開源供應商，也(yě)創造了(le)生成模型。

新的(de)玩家還(hái)在不斷進場(chǎng)。2023年3月(yuè)，彭博社推出BloombergGPT（Bloomberg Professional Services， 2023），系根據專有來(lái)源的(de)金融數據訓練的(de)LLM，“在金融任務上比現有的(de)模型有明(míng)顯的(de)優勢，而不影(yǐng)響一般LLM的(de)基準性能”（Wu， 2023）。4月(yuè)，資助開發“穩定擴散”（Stable Diffusion）等開源生成式人(rén)工智能模型的(de)Stability AI宣布推出StableLM語言模型套件。在爲多(duō)個(gè)領域（包括圖像、音(yīn)頻(pín)、視頻(pín)、3D和(hé)生物(wù)學）開發模型之後，這(zhè)是該開發商首次加入目前由技術大(dà)腕主導的(de)語言模型遊戲（Dey， 2023）。同在4月(yuè)，亞馬遜在AWS中推出Bedrock服務，在一個(gè)平台上提供多(duō)種生成式人(rén)工智能模型。例如，Stability AI的(de)Stable Diffusion圖像生成器，可(kě)以将文本變成圖像；AI21實驗室的(de)Jurassic-2模型是一個(gè)多(duō)語言LLM，可(kě)以生成德語、西班牙語、法語、葡萄牙語、荷蘭語和(hé)意大(dà)利語文本；Anthropic的(de)Claude是ChatGPT的(de)一個(gè)對(duì)手，可(kě)以使工作流程自動化(huà)、回答(dá)問題，并與用(yòng)戶進行交流。與微軟和(hé)Alphabet相比，亞馬遜可(kě)能看起來(lái)姗姗來(lái)遲，但它的(de)做(zuò)法相當精明(míng)。通(tōng)過Bedrock，亞馬遜不隻是提供對(duì)上述第三方平台的(de)訪問，也(yě)提供對(duì)其專有的(de)大(dà)型語言模型Titan的(de)訪問，這(zhè)可(kě)能使亞馬遜變成那些希望使用(yòng)LLMs并根據其需求構建應用(yòng)程序的(de)企業的(de)首選平台（Chauhan， 2023）。

時(shí)至今日，除了(le)蘋果之外，美(měi)國每家主要科技公司都宣布了(le)自己的(de)LLM。中國的(de)科技公司當然亦不甘落後：2023年3月(yuè)，百度推出文心一言并在官宣後爲新浪财經、澎湃新聞、愛(ài)奇藝、美(měi)的(de)集團、東風日産等一系列企業提供接入服務；2022年，阿裏達摩院發布通(tōng)義大(dà)模型，并在2023年4月(yuè)正式推出通(tōng)義千問；再加上2022年騰訊對(duì)外披露的(de)混元大(dà)模型和(hé)2021年華爲發布的(de)盤古大(dà)模型等等，不一而足，人(rén)稱“萬模大(dà)戰”。在TB級文本數據上訓練的(de)大(dà)型語言模型成爲高(gāo)科技行業最熱(rè)門的(de)一角。

LLMs對(duì)大(dà)型科技公司很重要，因爲它們可(kě)以實現新的(de)産品和(hé)服務，從而吸引更多(duō)的(de)用(yòng)戶，産生更多(duō)的(de)收入，并創造更多(duō)的(de)價值。例如，LLMs可(kě)用(yòng)于改進搜索引擎、社交網絡、雲計算(suàn)、數字助理(lǐ)、電子商務、遊戲、教育、醫療保健等。此外，科技公司可(kě)以用(yòng)LLMs來(lái)改進企業的(de)現有産品線。例如，無論是語音(yīn)數字助理(lǐ)還(hái)是爲營銷人(rén)員(yuán)自動投放廣告，谷歌(gē)都将人(rén)工智能作爲未來(lái)的(de)突破性技術，使下(xià)一代服務和(hé)設備更加智能化(huà)、功能更強。

生成式模型的(de)重要價值之一是它們與生産力應用(yòng)程序的(de)整合。例如，微軟在企業Office套件市場(chǎng)中有明(míng)顯的(de)優勢，正在将生成式模型整合到Word、Outlook和(hé)Teams等應用(yòng)程序中。中國科技巨頭阿裏巴巴在生成式人(rén)工智能方面的(de)最新努力，在某種程度上讓人(rén)聯想到微軟，即通(tōng)過讓人(rén)們用(yòng)自然語言來(lái)描述他(tā)們想要建立的(de)東西，令各種應用(yòng)程序變得(de)更容易使用(yòng)。阿裏巴巴宣布，通(tōng)義千問将被整合到公司的(de)各項業務中，以改善用(yòng)戶體驗，客戶和(hé)開發人(rén)員(yuán)可(kě)以通(tōng)過利用(yòng)該模型創建定制的(de)人(rén)工智能功能。

同時(shí)，人(rén)工智能初創企業經常以超過10億美(měi)元的(de)估值籌集資金。例如，6月(yuè)13日，英國人(rén)工智能初創公司Synthesia表示，它從風險投資公司Accel和(hé)Nvidia旗下(xià)NVentures牽頭的(de)一輪融資中籌集了(le)約9000萬美(měi)元，估值爲10億美(měi)元。該公司的(de)技術幫助包括亞馬遜在内的(de)5萬多(duō)家企業創建用(yòng)于教學和(hé)企業視頻(pín)的(de)定制AI化(huà)身。這(zhè)表明(míng)，大(dà)量企業希望将傳統視頻(pín)制作轉變爲數字工作流程（Reuters， 2023）。Synthesia隻是一個(gè)人(rén)工智能初創企業快(kuài)速獲得(de)獨角獸地位的(de)例子。在利率上升和(hé)高(gāo)通(tōng)脹導緻的(de)更廣泛的(de)融資放緩中，人(rén)工智能初創企業已經成爲2023年投資的(de)一個(gè)亮點。

就這(zhè)樣，大(dà)型通(tōng)用(yòng)人(rén)工智能模型被業界宣傳爲“基礎性的(de)”，是該領域科學進步的(de)主要轉折點。這(zhè)類叙述分(fēn)散了(le)“規模病症”的(de)注意力，這(zhè)些病症每天都變得(de)更加根深蒂固：大(dà)規模的(de)人(rén)工智能模型主要由大(dà)科技公司控制，因爲它們需要巨大(dà)的(de)計算(suàn)和(hé)數據資源，并且還(hái)引發了(le)圍繞歧視、隐私和(hé)安全漏洞以及負面環境影(yǐng)響等多(duō)方面的(de)擔憂。

例如，GPT-3最初是在45TB的(de)數據上訓練的(de)，并采用(yòng)了(le)1750億個(gè)參數來(lái)進行預測；GPT-3的(de)一次訓練就花費了(le)1200萬美(měi)元（Davenport， Mittal， 2022）。另據報道，OpenAI使用(yòng)1萬個(gè)英偉達GPU訓練ChatGPT（Goldman， 2023），而ChatGPT每天給OpenAI帶來(lái)70萬美(měi)元的(de)成本（Gardizy， Ma，2023）。而最新的(de)GPT-4的(de)訓練耗資超過1億美(měi)元（Knight， 2023）。大(dà)多(duō)數公司沒有數據中心能力或雲計算(suàn)預算(suàn)來(lái)從頭開始訓練這(zhè)類模型，許多(duō)現成的(de)、預訓練的(de)人(rén)工智能模型，作爲雲人(rén)工智能服務的(de)一部分(fēn)提供，而此市場(chǎng)本已集中在大(dà)科技公司手中，如AWS（亞馬遜）、GCP（谷歌(gē)雲平台）和(hé)Azure（微軟）。這(zhè)些雲供應商每年總共花費超過1000億美(měi)元的(de)資本，以确保擁有最全面、最可(kě)靠和(hé)最具成本競争力的(de)平台。特别是在生成式人(rén)工智能方面，它們也(yě)受益于供應限制，因爲它們可(kě)以優先獲得(de)稀缺的(de)硬件（如Nvidia A100和(hé)H100 GPU）（Bornstein， Appenzeller， Casado， 2023）。

大(dà)科技公司可(kě)能會保持先發優勢，因爲它們有時(shí)間和(hé)市場(chǎng)經驗來(lái)磨練基礎語言模型，并發展寶貴的(de)内部專業知識。因此，較小的(de)企業或初創公司可(kě)能難以成功進入這(zhè)一領域，從而使得(de)LLM的(de)巨大(dà)處理(lǐ)能力集中在少數幾家大(dà)科技公司手中。

2021年，埃米莉·本德（Emily M. Bender）博士、蒂姆尼特·蓋布魯（Timnit Gebru）博士、安吉麗娜·麥克米蘭-梅傑（Angelina McMillan-Major）和(hé)瑪格麗特·米切爾（Margaret Mitchell）博士在一篇題爲《論随機鹦鹉的(de)危險》的(de)論文中對(duì)LLM的(de)潛在成本和(hé)危害提出警告（Bender et al.， 2021），這(zhè)篇論文導緻谷歌(gē)将蓋布魯和(hé)米切爾從人(rén)工智能倫理(lǐ)團隊的(de)共同領導位置上趕走（Metz， Wakabayashi， 2020；Metz， 2021）。該論文在确定困擾LLM的(de)規模病症方面有先見之明(míng)。當公衆討(tǎo)論被圍繞著(zhe)ChatGPT和(hé)其他(tā)LLMs的(de)令人(rén)窒息的(de)炒作所吞噬之際，這(zhè)項研究提出了(le)清醒的(de)警告：我們需要討(tǎo)論社會是否應該建立這(zhè)類技術，而不是如何建立，更不是不加批判地将其作爲進步的(de)同義詞而加以全盤接受。本德等人(rén)問道：“越來(lái)越大(dà)的(de)語言模型是不可(kě)避免的(de)還(hái)是必須的(de)？這(zhè)一研究方向有什(shén)麽成本，我們在追求它之前應該考慮什(shén)麽？”

擇其要者，大(dà)型語言模型可(kě)見的(de)成本就有：

環境和(hé)财務成本

LLMs的(de)訓練需要大(dà)量的(de)能源，并産生大(dà)量的(de)二氧化(huà)碳排放。在GPU上訓練一個(gè)BERT基礎模型所需的(de)能量與一次橫跨美(měi)國的(de)飛(fēi)行一樣多(duō)（Bender et al.， 2021）。大(dà)多(duō)數雲計算(suàn)供應商的(de)能源不是來(lái)自可(kě)再生能源，而且世界上許多(duō)能源也(yě)不是碳中和(hé)的(de)。此外，哪怕是可(kě)再生能源，對(duì)環境來(lái)說仍然是昂貴的(de)。數據中心爲了(le)滿足越來(lái)越多(duō)的(de)計算(suàn)需求，占用(yòng)了(le)綠色能源的(de)其他(tā)潛在用(yòng)途，爲此，迫切需要節能型的(de)模型架構和(hé)訓練模式。

環境問題與種族問題的(de)交彙，意味著(zhe)被邊緣化(huà)的(de)人(rén)和(hé)來(lái)自多(duō)數世界/全球南(nán)方的(de)人(rén)更有可(kě)能體驗到能源消耗和(hé)二氧化(huà)碳排放增加所帶來(lái)的(de)傷害，盡管他(tā)們也(yě)是最不可(kě)能體驗到這(zhè)種模型的(de)好處的(de)一群。碳足迹将取決于能源的(de)使用(yòng)和(hé)正在使用(yòng)的(de)能源的(de)碳強度。不僅僅是LLMs有很大(dà)的(de)能源影(yǐng)響，而且其中的(de)碳影(yǐng)響将首先爲那些沒有從這(zhè)項技術中受益的(de)人(rén)帶來(lái)成本。所以，當我們做(zuò)成本效益分(fēn)析時(shí)，重要的(de)是要考慮到誰在得(de)到好處，誰在支付成本，因爲兩者不是同一批人(rén)。

此外，進入和(hé)訓練這(zhè)些模型的(de)成本很高(gāo)，這(zhè)意味著(zhe)隻有一小部分(fēn)全球精英能夠發展并受益于LLMs。由于其複雜(zá)的(de)性質，它們的(de)建立和(hé)維護可(kě)能是困難和(hé)昂貴的(de)。它們還(hái)需要大(dà)量的(de)訓練數據，而這(zhè)些數據可(kě)能很難獲得(de)，處理(lǐ)起來(lái)也(yě)非常昂貴。由此，大(dà)規模算(suàn)力會将LLMs限制于隻有資源最豐富的(de)公司和(hé)研究者才能使用(yòng)，而把小型開發商排除在外。所以，環境和(hé)财務成本應該成爲自然語言處理(lǐ)研究中的(de)首要考慮因素。

不負責任的(de)訓練數據 

使用(yòng)大(dà)量未經整理(lǐ)的(de)訓練數據集有可(kě)能創造出鞏固主導性、霸權性觀點的(de)語言模型。這(zhè)些訓練數據集的(de)龐大(dà)規模并不能保證多(duō)樣性，因爲它們往往是從網站上抓取來(lái)的(de)，而這(zhè)些網站由于互聯網接入不足、代表性不足、過濾或騷擾等問題而排除了(le)邊緣化(huà)人(rén)群的(de)聲音(yīn)。這(zhè)些數據集有“價值鎖定”的(de)風險，或許會将有害的(de)偏見編碼到難以徹底審計的(de)語言模型中。

如果模型是在過濾有限的(de)大(dà)量互聯網數據上訓練出來(lái)的(de)，它們就會吸收事實和(hé)錯誤信息、有偏見的(de)内容和(hé)公平的(de)内容、有害的(de)材料和(hé)無害的(de)材料。如果沒有辦法在回答(dá)提示之前評估這(zhè)些标準，LLMs就有可(kě)能陷入複制、放大(dà)和(hé)傳播有問題的(de)内容和(hé)錯誤信息的(de)危險。

“随機鹦鹉”的(de)誕生

本德等人(rén)進一步警告說，對(duì)語言模型的(de)追求可(kě)能是一個(gè)誤導性的(de)研究方向。她們觀察到，語言模型就好比“随機鹦鹉”（stochastic parrot），“根據關于如何組合的(de)概率信息，胡亂地将它在龐大(dà)的(de)訓練數據中觀察到的(de)語言形式序列[縫合]在一起，但沒有任何對(duì)意義的(de)參考”（Weil， 2023）。也(yě)就是說，大(dà)型語言模型善于生成令人(rén)信服的(de)語言，但實際上并不理(lǐ)解它所處理(lǐ)的(de)語言的(de)含義。

“随機鹦鹉”的(de)比喻突出了(le)兩個(gè)重要的(de)局限性：第一，學習(xí)機器所作的(de)預測基本上是在重複數據的(de)内容，加上一些由模型的(de)限制造成的(de)噪音(yīn)（或随機性）。第二，機器學習(xí)算(suàn)法并不了(le)解它所學習(xí)的(de)問題。它無法得(de)知自己什(shén)麽時(shí)候在重複一些不正确的(de)、脫離上下(xià)文的(de)或令社會感覺不适的(de)東西。由于這(zhè)些局限性，學習(xí)機器可(kě)能會産生“危險的(de)錯誤”（Lindholm et al.， 2022）。

ChatGPT的(de)不可(kě)靠性會給任何使用(yòng)它來(lái)生成相應文本的(de)機構帶來(lái)相當大(dà)的(de)法律、财務和(hé)聲譽風險。正如沃倫·巴菲特（Warren Buffett）所說：“建立聲譽需要20年，而毀掉聲譽隻需要5分(fēn)鐘(zhōng)。”如果LLM用(yòng)于重要任務，它可(kě)能會創建一種新的(de)職業（LLM事實檢查員(yuán)）和(hé)一種新的(de)保險範圍（爲了(le)彌補LLM 錯誤）。

進一步地說，随機鹦鹉的(de)問題可(kě)以被看作是人(rén)工智能和(hé)機器學習(xí)的(de)一個(gè)更普遍的(de)挑戰：如何确保模型是真正的(de)學習(xí)和(hé)推理(lǐ)，而不是僅僅去記憶數據當中的(de)模式？随著(zhe)模型的(de)規模和(hé)複雜(zá)性不斷增長(cháng)，以及它們越來(lái)越多(duō)地被用(yòng)于醫療保健、金融和(hé)運輸等高(gāo)風險的(de)應用(yòng)中，這(zhè)一挑戰顯得(de)尤爲突出。

由此觀之，當模型過于依賴複制語言模式而并不真正理(lǐ)解其含義時(shí)，随機鹦鹉問題就會出現。如果不加以控制，随機鹦鹉會對(duì)人(rén)工智能的(de)發展和(hé)部署，以及依賴這(zhè)些技術完成重要任務的(de)用(yòng)戶産生嚴重後果。這(zhè)凸顯了(le)通(tōng)過仔細的(de)模型設計、評估和(hé)持續監測來(lái)解決此問題的(de)重要性。

最終，我們需要問自己，爲什(shén)麽要把人(rén)工智能的(de)未來(lái)全部押注在大(dà)型語言模型一條路上？紐約大(dà)學教授兼Meta首席AI科學家楊樂(yuè)昆（Yann LeCun）就認爲LLM是“一條下(xià)坡路”，遠(yuǎn)離了(le)通(tōng)往更強大(dà)的(de)AI的(de)道路（The Economist， 2023）。“大(dà)型語言模型能有多(duō)聰明(míng)，能有多(duō)準确，都是有限度的(de)，因爲它們沒有現實世界的(de)經驗，而這(zhè)确實是語言的(de)基本現實”。他(tā)指出，人(rén)類所學的(de)大(dà)部分(fēn)内容都與語言無關。“我們學習(xí)如何投擲籃球，讓它穿過籃圈”，深度學習(xí)的(de)另一位先驅者傑弗裏·辛頓（Geoffrey Hinton）說：“我們根本不使用(yòng)語言來(lái)學習(xí)。我們從試驗和(hé)錯誤中學習(xí)。”（Smith， 2023）

就算(suàn)語言是發展人(rén)工智能的(de)重要途徑，事情也(yě)很明(míng)顯：無論LLMs及其訓練數據集變得(de)多(duō)麽龐大(dà)，它們也(yě)永遠(yuǎn)無法像我們一樣學習(xí)和(hé)理(lǐ)解我們的(de)語言。吊詭的(de)是，語言模型的(de)限制導緻了(le)一種研究趨勢，即專注于研究這(zhè)類模型的(de)知識和(hé)行爲。換言之，人(rén)類正在學習(xí)LLMs的(de)語言，并尋找更好地與它們溝通(tōng)的(de)方法。

這(zhè)是因爲，語言模型是神經網絡，根據從網絡收集的(de)數據進行訓練。經過訓練後，模型可(kě)以接收提示并預測其後的(de)單詞。神經網絡越大(dà)，模型的(de)學習(xí)能力就越強。數據集越大(dà)，模型接觸不同單詞序列的(de)機會就越大(dà)，生成文本時(shí)就越準确。

可(kě)問題是，人(rén)類語言不僅僅是文本。事實上，語言是一種将信息從一個(gè)大(dà)腦(nǎo)傳輸到另一個(gè)大(dà)腦(nǎo)的(de)壓縮方式。我們的(de)談話(huà)經常忽略共享知識，例如視覺和(hé)聽(tīng)覺信息、世界的(de)物(wù)理(lǐ)體驗、過去的(de)談話(huà)、我們對(duì)人(rén)和(hé)物(wù)體行爲的(de)理(lǐ)解、社會結構和(hé)規範等。

正如楊樂(yuè)昆和(hé)紐約大(dà)學計算(suàn)機科學系博士後雅各布·布朗甯（Jacob Browning）在最近的(de)一篇文章(zhāng)中所寫到的(de)，“僅靠語言訓練的(de)系統永遠(yuǎn)不會接近人(rén)類智力，即使從現在開始訓練直到宇宙熱(rè)寂”。雖然兩位科學家也(yě)指出，如果我們停留在表面上，語言模型“無疑會接近（人(rén)類智能）。而且，在許多(duō)情況下(xià)，表面就足夠了(le)”，但是我們絕不應該把LLMs擁有的(de)淺層理(lǐ)解與人(rén)類從觀察世界景象、探索世界、在世界中進行實驗以及與不同文化(huà)和(hé)其他(tā)人(rén)互動中獲得(de)的(de)深層理(lǐ)解相混淆（Browning， LeCun， 2022）。

所以，假如我們用(yòng)“語言的(de)統計模型”而不是“大(dà)型語言模型”來(lái)描述這(zhè)種人(rén)工智能技術，是否會帶來(lái)更清楚的(de)認知？這(zhè)樣會使我們認識到，統計推理(lǐ)肯定不是人(rén)類合作、創造、協調和(hé)競争的(de)全部故事。

所有人(rén)類的(de)知識最終都能被抓進機器的(de)說法是沒有意義的(de)。我們隻能把可(kě)以用(yòng)比特串表示的(de)知識放入機器。像體育、音(yīn)樂(yuè)、木(mù)匠(jiàng)大(dà)師或創意寫作這(zhè)樣的(de)技能是無法精确描述和(hé)記錄的(de)，技能的(de)描述并不就能夠賦予表演的(de)能力。即使它們可(kě)以被代表，表演技能的(de)形式也(yě)是無法被記錄的(de)——它包括表演者的(de)想法和(hé)思考，他(tā)們的(de)神經元記憶狀态，以及他(tā)們的(de)神經肌肉化(huà)學模式。所有這(zhè)些沒有記錄的(de)和(hé)無法記錄的(de)信息的(de)數量遠(yuǎn)遠(yuǎn)超出了(le)可(kě)能存儲在機器數據庫中的(de)範圍。與人(rén)類的(de)能力相比，大(dà)型語言模型所能執行的(de)任何功能都是很小的(de)。

我們是否已經被大(dà)型語言模型迷住了(le)，以至于沒有看到我們利用(yòng)語言所做(zuò)的(de)其他(tā)事情？我們建立關系。我們互相關照(zhào)。我們認識并駕馭我們的(de)情緒。我們建立并行使權力。我們做(zuò)出承諾，并貫徹執行。我們創建組織和(hé)社會。我們創造傳統和(hé)曆史。我們爲行動負責。我們打造信任。我們培養智慧。我們愛(ài)。我們想象以前從未想象過的(de)東西。所有這(zhè)些都不是統計學上的(de)。大(dà)型語言模型的(de)能力與人(rén)類的(de)能力之間存在著(zhe)巨大(dà)的(de)鴻溝。

像LLMs這(zhè)樣的(de)大(dà)規模人(rén)工智能模型在過去一段時(shí)間裏中受到了(le)最多(duō)的(de)炒作，也(yě)帶來(lái)了(le)最大(dà)的(de)恐懼。圍繞這(zhè)些系統的(de)興奮和(hé)焦慮都有助于強化(huà)如下(xià)概念，即這(zhè)些模型是“基礎性的(de)”，盡管它們無法對(duì)人(rén)類提示作出有意義的(de)回應的(de)例子數不勝數。值得(de)注意的(de)是，這(zhè)些模型之所以作爲“基礎性”的(de)技術被引入，其實意是在将它們等同于無可(kě)置疑的(de)科學進步，成爲“通(tōng)用(yòng)人(rén)工智能”（這(zhè)是另一個(gè)模糊的(de)術語，讓人(rén)聯想起科幻小說中關于取代或超越人(rén)類智能的(de)概念）道路上的(de)踏腳石，從而使其被廣泛采用(yòng)成爲必然。

在最近的(de)一次采訪中，OpenAI首席執行官山姆·阿爾特曼（Sam Altman）說：“我認爲我們正處于巨大(dà)模型時(shí)代的(de)終結，我們将以其他(tā)方式讓模型變得(de)更好。”（Miller， 2023）言下(xià)之意是，未來(lái)的(de)進展不會來(lái)自于将模型做(zuò)得(de)更大(dà)。

而這(zhè)些“其他(tā)方式”是什(shén)麽？一個(gè)可(kě)能的(de)途徑是在更多(duō)的(de)高(gāo)質量數據上對(duì)模型進行微調，創造更好的(de)訓練技術。人(rén)工管策的(de)數據集可(kě)能是非常有價值的(de)，但創建成本高(gāo)，速度慢(màn)。根據大(dà)型語言模型的(de)現狀，筆者認爲，有四大(dà)發展趨勢值得(de)高(gāo)度關注：

第一，我們需要緻力于教會語言模型表達不确定性

在大(dà)多(duō)數情況下(xià)，人(rén)類知道自身的(de)局限性（即使他(tā)們不直接承認）。他(tā)們可(kě)以表達不确定和(hé)懷疑，并讓對(duì)話(huà)者知道他(tā)們對(duì)自己所傳授的(de)知識有多(duō)自信。而與此相對(duì)照(zhào)，語言模型總是對(duì)任何提示都給出現成的(de)答(dá)案，即使它們的(de)輸出是毫無意義的(de)。神經網絡通(tōng)常提供某個(gè)預測正确概率的(de)數值。然而就語言模型而言，這(zhè)些概率分(fēn)數并不代表模型對(duì)提示響應的(de)可(kě)靠性的(de)信心。

OpenAI和(hé)牛津大(dà)學的(de)研究人(rén)員(yuán)發表的(de)一篇論文表明(míng)，可(kě)以通(tōng)過教LLMs“用(yòng)語言表達它們的(de)不确定性”來(lái)彌補這(zhè)一缺點。可(kě)對(duì) LLMs進行微調，以使用(yòng)自然語言表達認知上的(de)不确定性，研究者将之描述爲“語言化(huà)概率”（verbalized probability），即用(yòng)語言表達出來(lái)的(de)概率。這(zhè)是一個(gè)重要的(de)發展方向，尤其是在用(yòng)戶希望将語言模型的(de)輸出轉化(huà)爲某個(gè)動作的(de)應用(yòng)程序中。研究人(rén)員(yuán)建議(yì)，表達不确定性可(kě)以令語言模型誠實。“如果一個(gè)誠實的(de)模型出現一個(gè)誤導或惡意的(de)内部狀态，那麽它可(kě)以将這(zhè)種狀态傳達給可(kě)采取相應行動的(de)人(rén)類”（Lin et al.， 2022）。

第二，與其緻力于模型之大(dà)，不如專攻特定模型

鑒于LLMs不理(lǐ)解它們所處理(lǐ)的(de)語言，也(yě)不理(lǐ)解所收到的(de)提示和(hé)自己的(de)回應，所以補救辦法一是靠規模的(de)力量，即訓練數據和(hé)模型參數的(de)巨大(dà)規模，二是靠專業的(de)力量，即在爲特定行業或領域（如醫療保健和(hé)醫學）定制開發更專門的(de)模型的(de)情況下(xià)，有針對(duì)性地管策訓練數據，這(zhè)将有助于解決LLMs在涉及特定問題時(shí)的(de)某些局限性。

想象一下(xià)，像ChatGPT這(zhè)樣的(de)LLM已經在最好的(de)醫學文獻上接受了(le)訓練，但訓練數據當中也(yě)有討(tǎo)論健康問題的(de)Reddit線程。人(rén)工智能有時(shí)可(kě)以通(tōng)過檢索和(hé)參考高(gāo)質量的(de)信息來(lái)回應，但其他(tā)時(shí)候它通(tōng)過使用(yòng)完全不可(kě)靠的(de)Reddit信息來(lái)回應。事實上，假如醫學文獻中沒有這(zhè)些信息（例如一種非常罕見的(de)疾病），它更有可(kě)能編造這(zhè)些信息（此即人(rén)工智能行業常說的(de)幻覺）。比爾·蓋茨（Bill Gates）曾預想過，ChatGPT或類似的(de)大(dà)型語言模型有一天可(kě)以爲沒有機會看醫生的(de)人(rén)提供醫療建議(yì)（Trang， 2023），然而你如何能相信一個(gè)容易産生幻覺的(de)機器的(de)建議(yì)？

所以我們需要通(tōng)過使用(yòng)較小和(hé)較高(gāo)質量的(de)數據集對(duì)特定的(de)知識領域進行訓練。例如，擁有數十億參數的(de)大(dà)型臨床語言模型可(kě)以利用(yòng)電子健康記錄中的(de)非結構化(huà)文本，幫助提取醫學概念和(hé)回答(dá)醫學問題，預測疾病或再入院風險，并總結臨床文本。而一個(gè)專門爲法律行業設計的(de)模型可(kě)以接受法律術語和(hé)行話(huà)的(de)訓練，使其更好地處理(lǐ)法律文件。

像BloombergGPT這(zhè)樣的(de)例子表明(míng)，紮根于特定領域的(de)企業能夠使用(yòng)免費提供的(de)、現成的(de)人(rén)工智能方法，處理(lǐ)大(dà)量的(de)專有數據。與OpenAI的(de)GPT3/4這(zhè)樣的(de)“基礎性”模型不同，彭博社的(de)模型是爲特定任務而設計的(de)。它在公司多(duō)年來(lái)收集的(de)大(dà)量金融文本上專門訓練，爲的(de)是創建一個(gè)對(duì)金錢和(hé)商業能夠産生特别流利的(de)認知的(de)模型。在用(yòng)于創建彭博社模型的(de)數據中，約有一半來(lái)自網絡上的(de)非金融來(lái)源，包括GitHub、YouTube字幕和(hé)維基百科。但彭博社還(hái)爲自己的(de)模型添加了(le)1000多(duō)億單詞，來(lái)自一個(gè)名爲FinPile的(de)專有數據集，其中包括該公司在過去20年中積累的(de)金融數據，内含證券文件、企業新聞發布、彭博社新聞報道、其他(tā)出版物(wù)的(de)報道，以及專注于金融網頁的(de)網絡爬行等。事實證明(míng)，添加特定的(de)培訓材料可(kě)以提高(gāo)金融任務的(de)準确性和(hé)性能。彭博社正計劃将其GPT整合到通(tōng)過公司終端産品訪問的(de)功能和(hé)服務中，盡管彭博社還(hái)未有計劃推出ChatGPT式聊天機器人(rén)（Leswing， 2023）。

第三，高(gāo)質量的(de)數據将成爲LLM稱霸的(de)新戰場(chǎng)

限制LLM持續改進的(de)最重要限制是可(kě)用(yòng)的(de)訓練數據量。《經濟學人(rén)》報道說，2022年10月(yuè)發表的(de)一篇論文得(de)出的(de)結論是，“高(gāo)質量語言數據的(de)存量将很快(kuài)耗盡，可(kě)能就在2026年之前”（The Economist， 2023）。肯定有更多(duō)可(kě)用(yòng)的(de)文本，但它們被一小塊一小塊地鎖定在公司數據庫或個(gè)人(rén)設備上，無法以Common Crawl允許的(de)規模和(hé)低成本加以訪問。這(zhè)種數據稀缺對(duì)LLM的(de)進一步發展提出了(le)挑戰。

2023年4月(yuè)18日，Reddit宣布，它将開始對(duì)其API的(de)訪問收費（Isaac， 2023）。這(zhè)一決定是在Twitter對(duì)其API實施類似限制之後做(zuò)出的(de)（Mehta，2023）。近年來(lái)，Reddit的(de)系列聊天成爲谷歌(gē)、OpenAI和(hé)微軟等公司的(de)免費教具。這(zhè)些公司使用(yòng)Reddit的(de)對(duì)話(huà)來(lái)幫助開發巨型人(rén)工智能系統。然而現在，Reddit聯合創始人(rén)兼首席執行官史蒂夫·赫夫曼（Steve Huffman）稱：“我們不需要把所有這(zhè)些價值免費提供給世界上最大(dà)的(de)一些公司。”

随即，程序員(yuán)問答(dá)網站Stack Overflow也(yě)宣布将開始對(duì)其 API收費。首席執行官普拉桑斯·錢德拉塞卡爾（Prashanth Chandrasekar）表示：“我們非常支持 Reddit 的(de)做(zuò)法”，“爲LLM提供動力的(de)社區(qū)平台絕對(duì)應該因其貢獻而得(de)到補償，這(zhè)樣像我們這(zhè)樣的(de)公司就可(kě)以重新注資到社區(qū)，讓其繼續蓬勃發展。”（Dave，2023）

Reddit和(hé)Stack Overflow等平台爲微調LLM提供了(le)快(kuài)速訪問具體主題和(hé)問題的(de)寶貴數據，而這(zhè)些平台的(de)所有者正意識到它們所掌握的(de)數據的(de)價值。數據市場(chǎng)日益激烈的(de)競争可(kě)能推動行業走向更少的(de)共享和(hé)更多(duō)的(de)貨币化(huà)。不幸的(de)是，激進的(de)貨币化(huà)将進一步增強能夠負擔API成本的(de)大(dà)型科技公司的(de)能力。相應地，小型實驗室和(hé)資金緊張的(de)初創公司将不得(de)不處理(lǐ)手頭可(kě)用(yòng)的(de)低質量數據。

第四，開源模型可(kě)以成爲大(dà)科技公司封閉服務的(de)替代品

最先進的(de)LLM需要巨大(dà)的(de)計算(suàn)預算(suàn)和(hé)深厚的(de)機器學習(xí)專業知識，所以很少有機構能夠從頭開始訓練它們。然而，那些擁有資源和(hé)專業知識的(de)機構越來(lái)越多(duō)地不開放模型（無論是數據、源代碼或深度學習(xí)的(de)秘方——模型權重）供公衆監督，而是依靠API分(fēn)發。

這(zhè)就是開源人(rén)工智能可(kě)以介入的(de)地方，它使獲得(de)LLM的(de)機會民主化(huà)。各種社區(qū)平台正在努力創建開源的(de)模型，以替代大(dà)科技公司提供的(de)封閉的(de)專有服務。這(zhè)些努力是爲了(le)防止少數富有的(de)公司在快(kuài)速增長(cháng)的(de)生成式人(rén)工智能市場(chǎng)上擁有過多(duō)的(de)權力。

例如，我們開始看到Anthropic、Cohere和(hé)Character.ai等公司建立的(de)LLMs更接近OpenAI的(de)性能水(shuǐ)平，它們在類似的(de)數據集上訓練，并采用(yòng)類似的(de)模型架構。“穩定擴散”的(de)例子表明(míng)，如果開源模型的(de)性能和(hé)社區(qū)支持達到了(le)足夠的(de)水(shuǐ)平，那些封閉的(de)大(dà)型模型未必能與其競争。

“穩定擴散”隻需較少的(de)計算(suàn)能力就可(kě)以工作。與在OpenAI強大(dà)的(de)服務器上運行的(de)DALL-E 2不同，穩定擴散可(kě)以在良好的(de)個(gè)人(rén)電腦(nǎo)上運行。創造力的(de)爆發和(hé)新應用(yòng)程序的(de)快(kuài)速發展在很大(dà)程度上是由于“穩定擴散”：既是開源的(de)，程序員(yuán)可(kě)以自由地改變它，在它的(de)基礎上發展，并從中賺錢；又足夠輕巧，人(rén)們可(kě)以在家中運行。

谷歌(gē)的(de)一位高(gāo)級軟件工程師認爲，不管是OpenAI還(hái)是谷歌(gē)，在人(rén)工智能競賽中都沒有勝算(suàn)，構成威脅的(de)“第三派”将是開源社區(qū)。開源技術開發者沒有所有權，他(tā)們将自己的(de)作品發布給任何人(rén)，讓他(tā)們根據自己的(de)需要使用(yòng)、改進或改編。開源的(de)曆史例子包括Linux操作系統和(hé)LibreOffice，這(zhè)是微軟Office的(de)替代品。

這(zhè)位谷歌(gē)工程師說，開源人(rén)工智能開發者“已經在搶占先機”，他(tā)舉出的(de)例子包括Meta公司開發的(de)大(dà)型開源語言模型LLaMA。2023年2月(yuè)底發布的(de)LLaMA因其優于GPT-3等模型的(de)性能而立即受到歡迎，盡管其參數隻有650億（Meta AI， 2023）。7 月(yuè) 18 日，LlaMa2發布包含了(le) 70 億、130 億和(hé) 700 億參數的(de)模型，它對(duì)于人(rén)工智能應用(yòng)，就像安卓操作系統之于手機APP開發一樣，目的(de)就是讓應用(yòng)層開發者可(kě)以直接以最低成本獲得(de)大(dà)模型的(de)基礎設施使用(yòng)。有了(le)這(zhè)樣的(de)模型，從事人(rén)工智能模型的(de)門檻已經“從某一個(gè)主要研究機構的(de)總産出降至一個(gè)人(rén)、一個(gè)晚上和(hé)一台強大(dà)的(de)筆記本電腦(nǎo)”。一個(gè)LLM現在可(kě)以在幾個(gè)小時(shí)内以100美(měi)元的(de)價格進行微調。憑借其快(kuài)速移動、協作和(hé)低成本的(de)模式，開源模型有一些谷歌(gē)或OpenAI無法複制的(de)顯著優勢（Milmo， 2023）。而當免費的(de)或低價的(de)、不受限制的(de)替代品在質量上與封閉的(de)大(dà)型模式不相上下(xià)時(shí)，人(rén)們不會爲一個(gè)設限的(de)人(rén)工智能模型付費。

當然，像任何事情一樣，這(zhè)同時(shí)具有積極和(hé)消極的(de)影(yǐng)響。從正面看，它使少數公司壟斷控制人(rén)工智能的(de)可(kě)能性大(dà)大(dà)降低，也(yě)将使獲得(de)人(rén)工智能的(de)成本大(dà)大(dà)降低，加速整個(gè)領域的(de)創新，并使研究人(rén)員(yuán)更容易分(fēn)析人(rén)工智能系統的(de)行爲（因其對(duì)專有模型的(de)訪問是有限的(de)），提高(gāo)透明(míng)度和(hé)安全性。但是，更容易獲得(de)人(rén)工智能，也(yě)意味著(zhe)不良行爲者将可(kě)以出于自身的(de)邪惡目的(de)而對(duì)系統進行微調，例如生産虛假信息。這(zhè)将使人(rén)工智能更難于監管，因爲精靈已經逃出了(le)瓶子。

大(dà)型語言模型已經徹底改變了(le)我們與計算(suàn)機互動的(de)方式。它們能夠理(lǐ)解自然語言并對(duì)複雜(zá)的(de)問題做(zuò)出反應。随著(zhe)人(rén)工智能驅動的(de)LLMs（如ChatGPT）的(de)發展，它們已經變得(de)越來(lái)越有用(yòng)并走向通(tōng)用(yòng)。

然而，它們的(de)迅速進展也(yě)不是沒有争議(yì)的(de)。許多(duō)人(rén)擔心如此強大(dà)的(de)技術所帶來(lái)的(de)反響，憂慮這(zhè)些模型可(kě)能被用(yòng)來(lái)操縱信息或替代人(rén)類的(de)經驗。爲了(le)充分(fēn)了(le)解它們的(de)範圍和(hé)力量，探索LLMs如何影(yǐng)響社會的(de)不同方面非常重要。

鑒于這(zhè)些開創性的(de)模型的(de)廣泛采用(yòng)所帶來(lái)的(de)巨大(dà)可(kě)能性和(hé)潛在風險，社會已經對(duì)其使用(yòng)産生了(le)不同的(de)反應。例如，在開發和(hé)分(fēn)發這(zhè)些模型的(de)源代碼時(shí)，是采取開源還(hái)是閉源方式？

總的(de)來(lái)說，開源是指任何人(rén)都可(kě)以免費使用(yòng)、修改和(hé)發布的(de)源代碼，而閉源是指不能在創造它的(de)機構之外修改或發布的(de)專有代碼。在GPT-3之前，大(dà)多(duō)數大(dà)型語言模型都是開源的(de)，但目前，越來(lái)越多(duō)的(de)公司将他(tā)們的(de)模型變成閉源的(de)，例如PaLM、LaMDA和(hé)GPT-4。在OpenAI宣布GPT-4模型的(de)文件中，該公司說它不會提供關于架構、模型大(dà)小、硬件、訓練計算(suàn)、數據構建或用(yòng)于開發GPT-4的(de)訓練方法的(de)細節，隻是指出它使用(yòng)了(le)從人(rén)類反饋中強化(huà)學習(xí)的(de)方法，聲稱這(zhè)是由于競争和(hé)安全方面的(de)考慮（AI Now Institute， 2023）。

同樣，出于大(dà)型語言模型的(de)競争格局和(hé)安全問題，OpenAI向客戶提供的(de)付費訪問，也(yě)有許多(duō)法律和(hé)技術限制。這(zhè)使得(de)學術研究人(rén)員(yuán)更難進行LLM訓練實驗。對(duì)研究界來(lái)說，最直接的(de)問題之一是缺乏透明(míng)度。ChatGPT及其前身的(de)基礎訓練集和(hé)LLMs是不公開的(de)，科技公司可(kě)能會隐瞞其對(duì)話(huà)式AI的(de)内部運作。這(zhè)與透明(míng)度和(hé)開放科學的(de)趨勢背道而馳。在這(zhè)種情況下(xià)，有關人(rén)工智能的(de)模型能力的(de)主張無法被其他(tā)人(rén)驗證或複制，客戶也(yě)不可(kě)能下(xià)載ChatGPT背後的(de)模型。

相比之下(xià)，開源工作涉及創建一個(gè)模型，然後将其發布給任何人(rén)，讓他(tā)們根據自己的(de)需要使用(yòng)、改進或改編。業界推動開源LLM的(de)工作，承諾多(duō)方合作和(hé)權力共享，而這(zhè)正是互聯網的(de)最初理(lǐ)想。它顯示了(le)不同的(de)社區(qū)如何能夠相互幫助，攜手推進大(dà)型語言模型的(de)下(xià)一步發展。

圍繞著(zhe)LLMs的(de)另一個(gè)關鍵問題是它們的(de)倫理(lǐ)含義。随著(zhe)這(zhè)些系統變得(de)越來(lái)越複雜(zá)，有關操縱人(rén)類行爲或公衆輿論的(de)問題日益凸顯。此外，LLMs有可(kě)能被用(yòng)作惡意行爲者或組織獲取私人(rén)數據或傳播虛假信息的(de)工具。出于對(duì)偏見和(hé)準确性的(de)擔憂，人(rén)們也(yě)擔心它們在醫療診斷、法律決定甚至政府政策中的(de)使用(yòng)。

“深度僞造”（deepfake），由人(rén)工智能創造的(de)圖像和(hé)視頻(pín)，已經在媒體、娛樂(yuè)和(hé)政治中出現了(le)。在此之前，創造深度僞造的(de)内容需要相當多(duō)的(de)計算(suàn)技能，然而，現在幾乎任何人(rén)都能創造它們。OpenAI已經試圖通(tōng)過在每張DALL-E 2的(de)圖像上“打上水(shuǐ)印”來(lái)控制虛假圖像，但未來(lái)可(kě)能需要更多(duō)的(de)控制手段——特别是當生成式視頻(pín)創作成爲主流時(shí)。

生成式人(rén)工智能還(hái)提出了(le)許多(duō)有關何爲原創和(hé)專有内容的(de)問題。由于創建的(de)文本和(hé)圖像與以前的(de)任何内容都不完全一樣，AI系統供應商認爲人(rén)工智能生成内容屬于提示的(de)創造者。但它們顯然是用(yòng)于訓練模型的(de)先前文本和(hé)圖像的(de)衍生品。不用(yòng)說，類似技術将在未來(lái)幾年爲知識産權律師提供大(dà)量工作。

在隐私方面，LLMs本質上是個(gè)人(rén)化(huà)的(de)，它收集大(dà)量的(de)用(yòng)戶數據，以便能夠有效地預測對(duì)話(huà)的(de)長(cháng)度、主題和(hé)軌迹。此外，每次與 ChatGPT 這(zhè)樣的(de)工具的(de)互動都有一個(gè)唯一的(de)标識符——有使用(yòng)它的(de)人(rén)的(de)登錄軌迹。因此，個(gè)人(rén)對(duì) ChatGPT 的(de)使用(yòng)并非真正的(de)匿名，這(zhè)就引發了(le)有關 OpenAI 保留敏感數據的(de)問題。圍繞著(zhe)數據的(de)收集、存儲和(hé)使用(yòng)，必須進行一系列的(de)深思熟慮，以便安全地使用(yòng)LLMs。

LLMs與其他(tā)人(rén)工智能技術一樣受到監管和(hé)合規框架的(de)約束，但随著(zhe)它們變得(de)越來(lái)越普遍，可(kě)能會提出新的(de)問題：如何以符合《通(tōng)用(yòng)數據保護條例》（GDPR）和(hé)其他(tā)法規的(de)方式使用(yòng)此類工具。由于 ChatGPT 處理(lǐ)用(yòng)戶數據以生成響應，OpenAI 或者出于自身目的(de)而依賴 ChatGPT 的(de)實體可(kě)能被視爲 GDPR 下(xià)的(de)數據控制者，這(zhè)意味著(zhe)它們應該獲得(de)處理(lǐ)用(yòng)戶個(gè)人(rén)數據的(de)合法依據（例如用(yòng)戶的(de)同意），并且必須告知用(yòng)戶它們在從事何種由ChatGPT支持的(de)數據處理(lǐ)活動。

所有這(zhè)些潛在的(de)問題強調了(le)爲什(shén)麽科學家、研究人(rén)員(yuán)和(hé)其他(tā)使用(yòng)LLMs的(de)人(rén)或組織在将其投入實際使用(yòng)之前，從多(duō)個(gè)角度積極審查大(dà)型語言模型的(de)影(yǐng)響是至關重要的(de)。如果深思熟慮地考量倫理(lǐ)方面的(de)影(yǐng)響，再加上嚴格的(de)安全措施，大(dà)型語言模型就可(kě)以成爲有價值的(de)工具，而不會破壞用(yòng)戶的(de)信任或損害完整性。

此外，雖然大(dà)型語言模型的(de)趨勢仍在繼續，但重要的(de)是要注意，更大(dà)并不總是意味著(zhe)更好。大(dà)型語言模型可(kě)以很好地進行随心所欲的(de)創造性互動，但過去十年的(de)發展告訴我們，大(dà)型深度學習(xí)模型是高(gāo)度不可(kě)預測的(de)，使模型更大(dà)、更複雜(zá)并不能解決這(zhè)個(gè)問題。

像ChatGPT這(zhè)樣的(de)大(dà)型語言模型，具有與用(yòng)戶進行類似語言交流的(de)能力，有可(kě)能成爲交流和(hé)教育以及其他(tā)許多(duō)領域的(de)強大(dà)工具。然而，一方面其對(duì)社會的(de)影(yǐng)響是巨大(dà)的(de)；另一方面其被濫用(yòng)的(de)可(kě)能性也(yě)是非常真實的(de)。因此，需要更多(duō)的(de)研究來(lái)認識大(dà)型語言模型的(de)社會後果及對(duì)我們生活的(de)影(yǐng)響。随著(zhe)人(rén)工智能和(hé)數據科學越來(lái)越多(duō)地融入日常生活中，重要的(de)是要加強這(zhè)類技術的(de)倫理(lǐ)考量，并尊重我們的(de)數據和(hé)隐私賦予我們的(de)個(gè)人(rén)權利。該領域的(de)領導者必須共同努力，确保大(dà)型語言模型的(de)使用(yòng)是負責任的(de)，符合人(rén)類的(de)最佳利益。