一項新的研究表明，由人工智能驅動的寫作助手可以自動完成句子或提供“智能回復”，不僅可以將文字送入人們的口中，還可以將想法灌輸?shù)饺藗兊哪X海中。

(資料圖片)

信息科學領域的博士生MauriceJakesch要求1,500多名參與者寫一段話來回答“社交媒體對社會有益嗎?”這個問題。與沒有人工智能幫助寫作的人相比，使用偏向或反對社交媒體的人工智能寫作助手的人寫出同意助手的段落的可能性是后者的兩倍，并且更有可能說他們持有相同的觀點。

研究人員表示，這項研究表明，人工智能寫作工具中存在的偏見——無論是有意還是無意——可能會對文化和政治產生影響。

“我們正急于在各行各業(yè)實施這些人工智能模型，但我們需要更好地理解其影響，”共同作者、康奈爾理工學院雅各布斯理工學院-康奈爾學院教授、信息科學教授MorNaaman說。CornellAnnS.Bowers計算與信息科學學院?！俺颂岣咝屎蛣?chuàng)造力之外，還可能對個人和我們的社會產生其他影響——語言和觀點的轉變。”

雖然其他人已經(jīng)研究了ChatGPT等大型語言模型如何創(chuàng)建有說服力的廣告和政治信息，但這是第一項表明使用人工智能工具寫作的過程可以影響一個人的意見的研究。Jakesch在4月舉行的2023CHI計算系統(tǒng)人為因素會議上介紹了這項研究，“與自以為是的語言模型共同寫作會影響用戶的觀點”，該論文獲得了榮譽獎。

為了了解人們如何與AI寫作助手互動，Jakesch操縱了一個大型語言模型來對社交媒體產生正面或負面的看法。參與者在他建立的一個模仿社交媒體網(wǎng)站的平臺上，單獨或與一位固執(zhí)己見的助手一起寫下他們的段落。該平臺會在參與者打字時收集他們的數(shù)據(jù)，例如他們接受了哪些AI建議以及他們撰寫段落所用的時間。

根據(jù)獨立評委的判斷，與沒有寫作助理的參與者相比，與支持社交媒體的AI助理共同寫作的人會寫出更多的句子來證明社交媒體是好的，反之亦然。這些參與者也更有可能在后續(xù)調查中表達其助手的意見。

研究人員探索了人們只是接受人工智能建議以更快完成任務的可能性。但即使是花了幾分鐘來撰寫段落的參與者也提出了影響很大的陳述。調查顯示，大多數(shù)參與者甚至沒有注意到人工智能有偏見，也沒有意識到他們受到了影響。

“共同寫作的過程并不真的讓我覺得我被說服了，”Naaman說。“感覺就像我在做一些非常自然和有機的事情——我在一些幫助下表達我自己的想法。”

當用不同的主題重復實驗時，研究小組再次發(fā)現(xiàn)參與者被助手左右了?，F(xiàn)在，該團隊正在研究這種體驗如何產生這種轉變，以及這種影響會持續(xù)多久。

正如社交媒體通過促進錯誤信息的傳播和回聲室的形成改變了政治格局一樣，有偏見的人工智能寫作工具可能會產生類似的觀點轉變，這取決于用戶選擇的工具。例如，一些組織宣布他們計劃開發(fā)ChatGPT的替代方案，旨在表達更保守的觀點。

研究人員說，這些技術值得就它們如何被濫用以及如何對其進行監(jiān)控和監(jiān)管進行更多的公開討論。

“這些技術變得越強大，我們將它們嵌入我們社會的社會結構中越深，”Jakesch說，“我們可能會更加謹慎地管理我們如何管理這些價值觀、優(yōu)先事項和觀點?！?/p>

微軟研究院的AdvaitBhat、拜羅伊特大學的DanielBuschek和特拉維夫大學的LiorZalmanson對這篇論文做出了貢獻。