成都市青羊區(qū)舊金屬回收電話18980010174,成都佳梵廢舊物資回收有限公司長(zhǎng)期回收空調(diào)、變壓器、配電柜、電腦、廢鐵、廢銅、電子電器、電線電纜、廢舊金屬、廢舊等物資，聯(lián)系電話：13981937861，18980010174。

　　文/趙斌

　　AI領(lǐng)域頂尖專家和圖靈獎(jiǎng)得主約書亞·本吉奧、特斯拉首席執(zhí)行官馬斯克等人千人聯(lián)名簽署公開信，呼吁暫停開發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱其“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。

　　AI對(duì)人類究竟有風(fēng)險(xiǎn)嗎？

　　“人工智能在理論上是有可能毀滅人類的?！?strong>中國(guó)人工智能學(xué)會(huì)基礎(chǔ)專委會(huì)副主任陳志成在接受中新社國(guó)是直通車采訪時(shí)表示，正是基于這種風(fēng)險(xiǎn)的存在，所以才制定了在國(guó)際上達(dá)成共識(shí)的三原則進(jìn)行約束。

　　第一條，不得傷害人類，或看到人類受到傷害而袖手旁觀。

　　第二條，必須服從人類的命令，除非這條命令與第一條相矛盾。

　　第三條，必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。

　　馬斯克的公開信中主張，在開發(fā)強(qiáng)大的AI系統(tǒng)之前，應(yīng)先確認(rèn)其帶來影響是積極的、風(fēng)險(xiǎn)是可控的。

　　但是，支持還是反對(duì)，很多大佬意見不一，已經(jīng)開始唇槍舌戰(zhàn)。

　　比如，LeCun（美國(guó)科學(xué)院院士、圖靈獎(jiǎng)獲得者）、吳恩達(dá)（曾任斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任）、田淵棟（Facebook人工智能研究院智能圍棋項(xiàng)目負(fù)責(zé)人）等一眾AI大佬，都發(fā)文公開反對(duì)這份“千人聯(lián)名”。

　　吳恩達(dá)表示，在GPT-4出現(xiàn)之后要求AI訓(xùn)練暫停6個(gè)月是很可怕的事情：GPT-4在教育、醫(yī)療保健、食品等領(lǐng)域都有很多新的應(yīng)用，這將幫助許多人。

　　田淵棟說，“我不簽暫停令”！AI的發(fā)展就像囚徒困境：一旦開始，就沒有辦法停止或扭轉(zhuǎn)這一趨勢(shì)，這就是進(jìn)化的必然。應(yīng)該換個(gè)角度繼續(xù)向前看，更好地理解 LLM（大型語言模型），適應(yīng)它并利用其力量，感受熱度。

　　Meta數(shù)據(jù)科學(xué)家林致遠(yuǎn)、英偉達(dá)AI研究科學(xué)家Jim Fan也對(duì)吳恩達(dá)觀點(diǎn)表示贊同。

　　國(guó)內(nèi)首批深度學(xué)習(xí)工程師、神策數(shù)據(jù)VP樂一帆在接受中新社國(guó)是直通車采訪時(shí)表示，他并不認(rèn)為ChatGPT本身會(huì)像科幻電影里演的那樣，可以控制甚至毀滅人類。但是他的擔(dān)心有三方面：

　　第一，用戶惡意利用GPT獲知危害社會(huì)或犯罪方法等問題；

　　第二，用戶自身分辨能力不足，被GPT蒙蔽；

　　第三，GPT的核心目標(biāo)函數(shù)被別有用心的人掌握，通過操縱GPT來挑起國(guó)際爭(zhēng)端等。

　　陳志成認(rèn)為，ChatGPT本質(zhì)上是基于概率統(tǒng)計(jì)并依賴大算力的大數(shù)據(jù)分析行為，但并不是真正意義上具有“理解”能力的人工智能。以現(xiàn)有情況來看，不可能具備像人一樣思維邏輯或?qū)W習(xí)經(jīng)驗(yàn)的能力來自主傷害人類，只是按照程序進(jìn)行數(shù)據(jù)收集、梳理、分析、識(shí)別和輸出等。

　　陳志成認(rèn)為，人工智能是大趨勢(shì)，即便暫停GPT-5的研發(fā)也阻擋不了人工智能的發(fā)展，任何時(shí)代都有科技的進(jìn)步，這是正?，F(xiàn)象。

　　怎樣才能把人工智能“裝進(jìn)籠子”？

　　分析人士認(rèn)為，人類在加快發(fā)展人工智能的同時(shí)，也要把人工智能“裝進(jìn)籠子”。

　　陳志成說，中國(guó)將是世界上最有效監(jiān)管GPT技術(shù)應(yīng)用的國(guó)家，這不僅是基于體制優(yōu)勢(shì)，關(guān)于對(duì)人工智能的監(jiān)管及其倫理約束，中國(guó)也制定了相關(guān)規(guī)范。

　　中國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)于2021年9月25日發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。增強(qiáng)全社會(huì)的人工智能倫理意識(shí)與行為自覺，積極引導(dǎo)負(fù)責(zé)任的人工智能研發(fā)與應(yīng)用活動(dòng)，促進(jìn)人工智能健康發(fā)展。

　　《新一代人工智能倫理規(guī)范》第一條即開宗明義：本規(guī)范旨在將倫理道德融入人工智能全生命周期，促進(jìn)公平、公正、和諧、安全，避免偏見、歧視、隱私和信息泄露等問題。

　　聯(lián)合國(guó)教科文組織近日也發(fā)表聲明，呼吁各國(guó)政府盡快實(shí)施該組織通過的首份人工智能倫理問題全球性協(xié)議——《人工智能倫理問題建議書》。旨在促進(jìn)人工智能為人類、社會(huì)、環(huán)境以及生態(tài)系統(tǒng)服務(wù)，并預(yù)防其潛在風(fēng)險(xiǎn)。

　　該組織總干事阿祖萊說，世界需要更強(qiáng)有力的人工智能倫理規(guī)則，這是時(shí)代的挑戰(zhàn)?！艾F(xiàn)在是時(shí)候在國(guó)家層面實(shí)施這些戰(zhàn)略和法規(guī)了。我們必須言出必行，確保實(shí)現(xiàn)《建議書》的目標(biāo)?！?