智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
明基環(huán)保
一項(xiàng)革命性的技術(shù)普及時(shí)，必有重重阻力。
GPT-4 誕生兩周之際，美國(guó)生命未來(lái)研究所(Future of Life)向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。
這封公開(kāi)信已有1079人簽署。內(nèi)容寫(xiě)到，最近AI的迅猛發(fā)展是一場(chǎng)“失控的競(jìng)賽”，他們沒(méi)有辦法理解、預(yù)測(cè)或可靠地控制自己創(chuàng)造的大模型。人類(lèi)社會(huì)對(duì)其可能造成的影響也沒(méi)有做好準(zhǔn)備。
截至目前，特斯拉 CEO(OpenAI 聯(lián)合創(chuàng)始人)馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人 Steve Wozniak、圖靈獎(jiǎng)得主 Yoshua Bengio、《人類(lèi)簡(jiǎn)史》作者赫拉利、紐約大學(xué)名譽(yù)教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等千名科技大佬和 AI 專(zhuān)家已經(jīng)簽署公開(kāi)信。
公開(kāi)信稱(chēng)，正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的，人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成較大的風(fēng)險(xiǎn)。我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。
盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。
當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類(lèi)相當(dāng)，我們必須反思——
- 我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？
- 我們應(yīng)該自動(dòng)化所有的工作，包括令人滿(mǎn)意的工作嗎？
- 我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類(lèi)思維？
- 我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？
OpenAI 最近關(guān)于人工智能的聲明指出：「在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前，進(jìn)行獨(dú)立審查可能很重要，人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率?！宫F(xiàn)在已經(jīng)到了這個(gè)時(shí)間點(diǎn)。我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)，為期至少 6 個(gè)月。
人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些工作至少應(yīng)該包括：
- 專(zhuān)門(mén)針對(duì)人工智能的新的、有能力的監(jiān)管機(jī)構(gòu)；
- 對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤；
- 幫助區(qū)分真實(shí)和合成數(shù)據(jù)的溯源、水印系統(tǒng)，并跟蹤模型泄露；
- 強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；
- 對(duì)人工智能造成的傷害的責(zé)任認(rèn)定；
- 對(duì)人工智能安全技術(shù)研究的強(qiáng)大公共資金；
- 資源豐富的機(jī)構(gòu)，以應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂。
本次聯(lián)名信最后，Let's enjoy a long AI summer， not rush unprepared into a fall(讓我們享受一個(gè)漫長(zhǎng)的 AI 盛夏，而不是毫無(wú)準(zhǔn)備的進(jìn)入深秋)，這里是一個(gè)雙關(guān)，秋天英文 fall 另有墜落之意。這項(xiàng)提議試圖警醒眾人不要對(duì)人工智能過(guò)度樂(lè)觀，讓我們毫無(wú)準(zhǔn)備的步入墜落的深淵。
公開(kāi)信鏈接：https：//futureoflife.org/open-letter/pause-giant-ai-experiments/
大佬們?cè)趽?dān)心什么
發(fā)布公開(kāi)信的“未來(lái)生活研究所”創(chuàng)立于2014年，一直關(guān)注“開(kāi)發(fā)與人類(lèi)相當(dāng)?shù)娜斯ぶ悄芗夹g(shù)過(guò)程中出現(xiàn)的風(fēng)險(xiǎn)”，霍金、馬斯克都是這家機(jī)構(gòu)的科學(xué)顧問(wèn)。霍金在研究所成立當(dāng)年，通過(guò)公開(kāi)媒體發(fā)表對(duì)于AI技術(shù)最終將取代人類(lèi)的一系列“預(yù)言”。
馬斯克在麻省理工學(xué)院AeroAstro百年學(xué)術(shù)研討會(huì)上發(fā)表講話(huà)將人工智能稱(chēng)之為“我們面臨的最大威脅”。他說(shuō)，“隨著人工智能的發(fā)展，我們將召喚出惡魔。”去年12月，馬斯克也在推特上公開(kāi)表示，ChatGPT好得嚇人，我們離強(qiáng)大且危險(xiǎn)的AI不遠(yuǎn)了。上周，“人工智能教父”的 Geoffrey Hinton 受訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類(lèi)構(gòu)成威脅“并非不可想象”的地步。
3月28日，AI領(lǐng)域?qū)＜疑w瑞·馬庫(kù)斯發(fā)文稱(chēng)，人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)，超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。
ChatGPT之父”薩姆·阿爾特曼的話(huà)比較耐人尋味。他說(shuō)，GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己搞不明白。他們只知道，在不斷測(cè)試中，人們忽然發(fā)現(xiàn)從ChatGPT開(kāi)始，GPT系列開(kāi)始出現(xiàn)了推理能力。自主意識(shí)和無(wú)序競(jìng)爭(zhēng)會(huì)把人類(lèi)卷死。
歐洲刑警組織27日對(duì)采用ChatGPT類(lèi)工具進(jìn)行犯罪的可能性進(jìn)行了討論，“大型語(yǔ)言模型檢測(cè)和重現(xiàn)語(yǔ)言模式的能力不僅有助于網(wǎng)絡(luò)釣魚(yú)和在線(xiàn)欺詐，而且通常還可以用來(lái)冒充特定個(gè)人或群體的講話(huà)風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用，以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子。”
原標(biāo)題:馬斯克、Bengio等千位大佬聯(lián)名喊停更強(qiáng)AI研發(fā)，GPT-5得罪了誰(shuí)？
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
