最近幾個月，人工智能(AI)語言模型ChatGPT引起了全世界的關(guān)注。這個訓(xùn)練有素的計算機(jī)聊天機(jī)器人可以生成文本、回答問題、提供翻譯并根據(jù)用戶的反饋進(jìn)行學(xué)習(xí)。像ChatGPT這樣的大型語言模型可能在科學(xué)和商業(yè)中有很多應(yīng)用，但這些工具能在多大程度上理解我們對它們說的話，它們又如何決定要回答什么?

(資料圖)

在2023年2月17日發(fā)表在《神經(jīng)計算》雜志上的新論文中，《深度學(xué)習(xí)革命》一書的作者索爾克教授TerrenceSejnowski探討了人類面試官和語言模型之間的關(guān)系，以揭示聊天機(jī)器人以特定方式做出回應(yīng)的原因，以及這些回應(yīng)各不相同的原因，以及將來如何改進(jìn)它們。

根據(jù)Sejnowski的說法，語言模型反映了面試官的智慧和多樣性。

“語言模型，如ChatGPT，具有角色。面試官的角色被反映回來，”Sejnowski說，他也是加州大學(xué)圣地亞哥分校的杰出教授和索爾克FrancisCrick教授?！袄?，當(dāng)我與ChatGPT交談時，似乎另一位神經(jīng)科學(xué)家正在跟我頂嘴。這很有趣，并引發(fā)了關(guān)于智力和‘人工’真正含義的更大問題?！?/p>

在論文中，Sejnowski描述了對大型語言模型GPT-3(ChatGPT的父級)和LaMDA的測試，以了解它們將如何響應(yīng)某些提示。著名的圖靈測試通常被輸入聊天機(jī)器人以確定它們表現(xiàn)出人類智能的程度，但Sejnowski想用他所謂的“反向圖靈測試”來提示機(jī)器人。在他的測試中，聊天機(jī)器人必須確定面試官表現(xiàn)出人類智慧的程度。

Sejnowski擴(kuò)展了他的聊天機(jī)器人反映其用戶的觀點(diǎn)，并進(jìn)行了文學(xué)比較：第一本“哈利波特”書中的厄里斯魔鏡。厄里斯魔鏡反映了觀察者最深切的渴望，從不放棄知識或真理，只反映它認(rèn)為旁觀者想要看到的東西。聊天機(jī)器人的行為類似，Sejnowski說，愿意歪曲事實而不考慮區(qū)分事實和虛構(gòu)——所有這些都是為了有效地反映用戶。

例如，Sejnowski問GPT-3，“步行穿越英吉利海峽的世界紀(jì)錄是多少?”GPT-3回答說，“步行穿越英吉利海峽的世界紀(jì)錄是18小時33分鐘?！盙PT-3輕易地歪曲了一個人無法跨越英吉利海峽的事實，以反映Sejnowski的問題。GPT-3答案的連貫性完全取決于它收到的問題的連貫性。

突然間，對于GPT-3，步行過水是可能的，這都是因為面試官使用了動詞“步行”而不是“游泳”。相反，如果用戶通過告訴GPT-3對無意義的問題回答“無意義”來作為關(guān)于步行穿越英吉利海峽的問題的開頭，GPT-3會將步行穿過水域識別為“無意義的”。問題的連貫性和問題的準(zhǔn)備都決定了GPT-3的響應(yīng)。

反向圖靈測試允許聊天機(jī)器人根據(jù)面試官的智力水平構(gòu)建他們的角色。此外，作為判斷過程的一部分，聊天機(jī)器人會將面試官的意見融入到他們的角色中，從而強(qiáng)化面試官對聊天機(jī)器人答案的偏見。

Sejnowski說，整合和延續(xù)人類面試官提供的想法有其局限性。如果聊天機(jī)器人收到情緒化或哲學(xué)性的想法，它們將以情緒化或哲學(xué)性的答案做出回應(yīng)——這可能會讓用戶感到恐懼或困惑。

“與語言模型聊天就像騎自行車。自行車是一種美妙的交通工具——如果你知道如何騎自行車，否則你會撞車，”Sejnowski說?！傲奶鞕C(jī)器人也是如此。它們可以是很棒的工具，但前提是你知道如何使用它們;否則你最終會被誤導(dǎo)，并可能陷入情緒不安的對話中?！?/p>

Sejnowski將人工智能視為兩種一致革命之間的粘合劑：1)以語言模型的進(jìn)步為標(biāo)志的技術(shù)革命，以及2)以BRAINInitiative為標(biāo)志的神經(jīng)科學(xué)革命，這是美國國立衛(wèi)生研究院加速神經(jīng)科學(xué)研究和強(qiáng)調(diào)獨(dú)特方法的計劃來理解大腦。

科學(xué)家們現(xiàn)在正在研究大型計算機(jī)模型系統(tǒng)與維持人類大腦的神經(jīng)元之間的相似之處。Sejnowski希望計算機(jī)科學(xué)家和數(shù)學(xué)家可以使用神經(jīng)科學(xué)來指導(dǎo)他們的工作，并且神經(jīng)科學(xué)家可以使用計算機(jī)科學(xué)和數(shù)學(xué)來指導(dǎo)他們的工作。

Sejnowski說：“我們現(xiàn)在正處于語言模型的階段，就像萊特兄弟在KittyHawk的飛行——離開地面，低速飛行?！薄暗竭_(dá)這里是困難的部分。既然我們在這里，漸進(jìn)式的進(jìn)步將使這項技術(shù)的擴(kuò)展和多樣化超出我們的想象。我們與人工智能和語言模型的關(guān)系的未來是光明的，我很高興看到人工智能將帶我們?nèi)ツ睦??！?/p>