首頁 > 要聞 > 正文

擔(dān)心傳播不良信息，美政府研究是否監(jiān)管ChatGPT等AI技術(shù)-環(huán)球資訊

2023-04-11 22:47:00來源：澎湃新聞  

美國政府已開始研究是否需要監(jiān)管ChatGPT。

當(dāng)?shù)貢r間4月11日，據(jù)《華爾街日報》報道，由于人們越發(fā)擔(dān)心ChatGPT等人工智能技術(shù)可能會被用于歧視或傳播有害信息，拜登政府已經(jīng)開始研究是否需要對這類工具進行限制。


(資料圖片僅供參考)

美國商務(wù)部4月11日就相關(guān)的問責(zé)措施正式公開征求意見，包括具有潛在風(fēng)險的新型人工智能模型在發(fā)布前是否應(yīng)該進行核準認證程序。這被視作是邁出對人工智能領(lǐng)域?qū)嵭袧撛诒O(jiān)管的第一步。

ChatGPT等人工智能工具可以快速生成類似人類使用的文字、圖像與視頻等。人工智能實驗室OpenAI于2022年11月推出的聊天機器人ChatGPT，在短短兩個月內(nèi)活躍用戶達到1億，成為史上增長最快的消費者應(yīng)用程序。

“這些工具即便在起步階段就能做到這些，這真令人驚訝。” 美國商務(wù)部下屬機構(gòu)國家電信與信息管理局局長艾倫·戴維森（Alan Davidson）說，“我們知道，我們需要設(shè)置一些界限，來確保這些技術(shù)被負責(zé)任地使用?！?/p>

據(jù)戴維森介紹，征求意見的期限為60天，這些意見有助于向美國的政策制定者提供有關(guān)如何處理人工智能的建議。戴維森補充稱，其所在的機構(gòu)負責(zé)就技術(shù)政策向美國總統(tǒng)提供建議，而非撰寫或執(zhí)行法規(guī)。

目前，科技行業(yè)和政府官員已對人工智能技術(shù)潛在的危害表示擔(dān)憂，包括使用該技術(shù)犯罪或是傳播虛假信息。

美國科羅拉多州民主黨參議員Michael Bennet特別關(guān)心兒童的安全。上個月，Bennet給幾家人工智能公司寫信，詢問有關(guān)公共實驗的情況。在那些實驗中，聊天機器人向裝成年輕人的用戶提供了令人不安的建議。

“人工智能到底是能為我們帶來極大的好處，還是造成災(zāi)難性的后果，人們正針對這個話題進行激烈討論。” 康涅狄格州民主黨參議員Richard Blumenthal在接受采訪時表示，“這對國會來說是終極挑戰(zhàn)，一個高度復(fù)雜、極具技術(shù)性的挑戰(zhàn)，且事關(guān)重大，極為緊迫。”

拜登上周在白宮與一個科學(xué)家顧問委員會討論了這一話題。當(dāng)有記者問及人工智能技術(shù)是否有危險時，拜登表示：“還有待觀察，有可能（有危險）。”

據(jù)介紹，顧問委員會的成員包括來自微軟和谷歌的代表。這兩大科技巨頭和其他發(fā)布人工智能系統(tǒng)的公司表示，他們正不斷更新安全界限，比方說通過編程讓聊天機器人不回答某些問題。

值得一提的是，當(dāng)?shù)貢r間4月10日，據(jù)美國數(shù)字新聞網(wǎng)站 Axios報道，知情人士透露，著名科技投資人Ron Conway的投資公司SV Angel將于4月12日召集舊金人工智能山AI公司的高層討論人工智能政策問題，OpenAI、微軟、谷歌、蘋果、英偉達、Stability AI、Hugging Face、Anthropic等公司的高管與政策代表將出席該會議，討論如何負責(zé)任地開發(fā)AI、分享最好的實踐案例，并商討相關(guān)的公共政策框架和標準。

就在3月29日，埃隆·馬斯克（Elon Musk）等千名業(yè)界和學(xué)界人士聯(lián)署公開信，呼吁所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)，暫停至少6個月，以便制定和實施安全協(xié)議。

據(jù)悉，美國金融部門的監(jiān)管機構(gòu)已經(jīng)對貸款機構(gòu)如何利用人工智能來承銷貸款進行調(diào)查，希望防止對少數(shù)群體的歧視。此外，美國司法部反壟斷部門表示，該部門正在監(jiān)控人工智能領(lǐng)域的競爭。聯(lián)邦貿(mào)易委員會則警告這些科技公司，它們可能會因?qū)θ斯ぶ悄墚a(chǎn)品做出虛假的或未經(jīng)證實的聲明而面臨法律后果。

標簽：

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀