?
投資 干貨 消費 評論 學院 滾動
風投 科技 創(chuàng)業(yè) 業(yè)內(nèi) 要聞
要為生成式人工智能套上“安全框架”，推動實現(xiàn)“懂道德的AI”
發(fā)布日期： 2023-05-05 21:33:56 來源： 北京日報客戶端


【資料圖】

北京日報客戶端 | 記者 劉蘇雅

2022年，人工智能等前沿科技創(chuàng)新治理成為熱點議題，我國相關(guān)的行業(yè)標準和地方法規(guī)密集建立，科技監(jiān)督和科技倫理治理走向法制化、規(guī)范化。5月5日，《2022年中國前沿科技創(chuàng)新治理的重要進展與總體趨向》在北京市科協(xié)專業(yè)智庫“論策論道”活動上發(fā)布。會上，專家表示，要為生成式人工智能套上“安全框架”，并最終推動人工智能有道德、合乎倫理。

生物科技、人工智能等新技術(shù)的快速發(fā)展，既包含著社會進步的新機遇，也帶來了技術(shù)濫用等不確定性風險。“2022年，可以說是中國科技創(chuàng)新治理史上最具有里程碑意義的一年?！敝袊r(nóng)業(yè)大學人文與發(fā)展學院發(fā)展管理系教授、北京自然辯證法研究會理事長李建軍說，當前，我國科技正處于轉(zhuǎn)型發(fā)展時期，在前沿領(lǐng)域乃至科研“無人區(qū)”取得重要成果的同時，對科技風險防控的預警和治理也面臨極大挑戰(zhàn)。

人工智能等前沿科技創(chuàng)新治理成為了2022年的熱點議題。“生成式人工智能的數(shù)據(jù)來自社會，而數(shù)據(jù)中就隱含了人類的偏見，在此基礎(chǔ)上訓練的人工智能，顯然無法保持中立?！敝锌圃鹤詣踊芯繂T、人工智能倫理與治理研究中心主任曾毅表示，如果不對大模型進行價值觀校準，其可能會基于統(tǒng)計顯著性給出匪夷所思的答案，“我們要先建立起倫理安全框架，而最終目標是實現(xiàn)有道德、合乎倫理的人工智能?！?/p>

在科技監(jiān)督和科技倫理治理向法制化、規(guī)范化發(fā)展的同時，前沿科技領(lǐng)域的行業(yè)共治也起到了舉足輕重的作用。曾毅領(lǐng)銜的團隊發(fā)布的“智善”人工智能倫理安全平臺體系，就是人工智能領(lǐng)域行業(yè)共治的典型代表。其中的“智善·觀行”觀測站，便是通過公眾反饋、察言觀行來判斷人工智能大模型的“道德品行”，用技術(shù)規(guī)范技術(shù)。

“人工智能治理關(guān)鍵在‘人’，治理的對象歸根結(jié)底也是‘人’?！敝袊乱淮斯ぶ悄馨l(fā)展戰(zhàn)略研究院執(zhí)行院長龔克認為，人工智能是革命性通用技術(shù)，是具有“頭雁效應”的先進生產(chǎn)力，特別是生成式人工智能已成為當前人工智能發(fā)展的前沿，需要通過有效的治理，促進而非阻礙人工智能的健康發(fā)展。

關(guān)鍵詞：
24小時熱點 精彩推薦
資訊新聞
?