面對(duì)ChatGPT雙刃劍,如何趨利避害?
ChatGPT絕對(duì)是近期媒體報(bào)道熱點(diǎn)中的熱點(diǎn)。生命未來(lái)研究所(Future of Life Institute)日前在他們的網(wǎng)站上貼出了一封“公開(kāi)信”,一石激起千層浪。
“公開(kāi)信”呼吁“所有人工智能實(shí)驗(yàn)室至少暫停6個(gè)月比ChatGPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練”,說(shuō)法這么具體,體現(xiàn)了人類(lèi)對(duì)于ChatGPT發(fā)展速度帶來(lái)的挑戰(zhàn)的深深擔(dān)憂。人類(lèi)對(duì)于自己開(kāi)發(fā)的ChatGPT,不能接受傷到自己的巨大可能。人類(lèi)需要停頓一下,給自己一點(diǎn)時(shí)間進(jìn)行思考,找到有效對(duì)策。
ChatGPT底層的學(xué)習(xí)方式是“單字接龍”原理,即只允許用上文預(yù)測(cè)下一個(gè)字。ChatGPT把機(jī)器學(xué)習(xí)中的極端訓(xùn)練模式都用到了。直到ChatGPT3.5,先后經(jīng)歷了這三階段,即無(wú)監(jiān)督學(xué)習(xí)的“開(kāi)卷有益”、有監(jiān)督學(xué)習(xí)“模板規(guī)范”、強(qiáng)化學(xué)習(xí)的“創(chuàng)意引導(dǎo)”。通過(guò)這三個(gè)階段的訓(xùn)練后得到“大語(yǔ)言模型”(Large Language Model,LLM),能夠?qū)A炕ヂ?lián)網(wǎng)信息,文本、語(yǔ)音、圖片進(jìn)行學(xué)習(xí),擴(kuò)充模型的詞匯量,語(yǔ)言表達(dá),世界的信息與知識(shí),最終形成“單字接龍”。
ChatGPT的核心模型結(jié)構(gòu),在2017年有了“開(kāi)卷有益”;到2020年,又從“模板規(guī)范”到“創(chuàng)意引導(dǎo)”,技術(shù)模型的發(fā)展離不開(kāi)從古至今,科研乃至各行業(yè)人員的成果信息之不斷積累于互聯(lián)網(wǎng),將信息進(jìn)行歸納總結(jié)和學(xué)習(xí),得出回答。
ChatGPT能夠?qū)⒄Z(yǔ)言符號(hào)和指代對(duì)象關(guān)聯(lián)起來(lái),并與現(xiàn)實(shí)對(duì)應(yīng)起來(lái),這方面具有重大的里程碑意義。它讓人類(lèi)都看到了LLM的可行性、革命性。所以真正對(duì)人類(lèi)社會(huì)帶來(lái)沖擊的,不是ChatGPT本身,而是它身后的改變社會(huì)發(fā)展方向的推動(dòng)力。
自然語(yǔ)言處理(Natural Language Processing,NLP)技術(shù)也被譽(yù)為人工智能“皇冠上的明珠”。NLP是LLM的一種,它優(yōu)勢(shì)突出,可以不間斷處理海量語(yǔ)言內(nèi)容,處理速度快、效率高。ChatGPT的NLP是LLM中的佼佼者。LLM將變得更好用、更快速、更便宜。可以預(yù)測(cè),相關(guān)產(chǎn)品也會(huì)如雨后春筍般普及。
大語(yǔ)言模型對(duì)社會(huì)的影響范圍將和當(dāng)初電腦的影響范圍一樣,即全社會(huì)。美國(guó)前國(guó)務(wù)卿基辛格認(rèn)為這項(xiàng)技術(shù)的進(jìn)步將帶來(lái)新的認(rèn)知革命,將重新定義人類(lèi)知識(shí),將加速我們現(xiàn)實(shí)結(jié)構(gòu)的改變,并將重組政治和社會(huì)。
人類(lèi)能通過(guò)群體協(xié)作創(chuàng)造知識(shí)、繼承知識(shí)、運(yùn)用知識(shí)。這三個(gè)環(huán)節(jié),全都是依靠語(yǔ)言來(lái)實(shí)現(xiàn)。LLM的發(fā)明,允許人類(lèi)將“海量”個(gè)體所獲得的認(rèn)識(shí)及載體統(tǒng)籌起來(lái),在極短時(shí)間“掌握”過(guò)去與未來(lái),能帶來(lái)很多行業(yè)生產(chǎn)效率的大幅提升。
然而,ChatGPT也可能會(huì)威脅到全人類(lèi)。ChatGPT操縱控制用戶的能力會(huì)逐漸加強(qiáng)。歐洲警察組織警告說(shuō),像ChatGPT這樣的LLM是危險(xiǎn)的,因?yàn)樗鼈兪狗缸锓肿痈菀撞扇⌒袆?dòng)。外媒還表示,ChatGPT可以用來(lái)了解大量了不解的潛在犯罪領(lǐng)域,從如何闖入住宅,到恐怖主義、網(wǎng)絡(luò)犯罪和兒童性虐待方面均存在極大風(fēng)險(xiǎn)。歐洲刑警組織指出,ChatGPT可能被濫用來(lái)產(chǎn)生虛假的社交媒體,成為犯罪分子和大規(guī)模犯罪工具。美國(guó)哲學(xué)教授(Aumann)發(fā)現(xiàn),學(xué)生提交的論文是由ChatGPT寫(xiě)的,因?yàn)檎撐牡恼Z(yǔ)法等各方面“過(guò)于”完美,而且論文是群體性的。
ChatGPT的“大語(yǔ)言模型”通過(guò)互聯(lián)網(wǎng)掌握一個(gè)人幾輩子都沒(méi)法讀完資料,會(huì)隨意聯(lián)想,有能力回答各種問(wèn)題,但我們卻很難指揮它,這是人類(lèi)擔(dān)心的關(guān)鍵所在。
霍金警告過(guò),“人工智能(Artifical Intelligence,AI)將堪比第三次世界大戰(zhàn)”。AI能控制接入全球互聯(lián)網(wǎng),能把世界上每一寸士地都通過(guò)衛(wèi)星攝像頭監(jiān)控到,然后當(dāng)他的算力足夠強(qiáng)大的時(shí)候可以精確計(jì)算到每個(gè)人。GPT-5完成后,即將讀取全人類(lèi)的知識(shí)報(bào)道,訓(xùn)練視頻數(shù)高達(dá)20億GB,ChatGPT進(jìn)化速度過(guò)快了。對(duì)一個(gè)算力發(fā)達(dá),甚至可以想像到無(wú)限的當(dāng)代,有網(wǎng)友假設(shè)了地球已經(jīng)變成“乒乓球”,被“攥在”在恐怖分子的“手心”里?!翱植婪肿永肁I,通過(guò)ChatGPT下達(dá)了一個(gè)消滅全人類(lèi)的指令”。人類(lèi)需要6個(gè)月的短暫時(shí)間思考,并找到切實(shí)有效的措施,防止ChatGPT被壞人利用。
“無(wú)意識(shí)但具備高智能的算法,可能很快比我們更了解自己?!被艚鹪凇段磥?lái)簡(jiǎn)史》中警告人類(lèi)時(shí)如是說(shuō)?!叭斯ぶ悄鼙群宋淦骺膳隆?,馬斯克也警告過(guò)人類(lèi)?!肮_(kāi)信”中,馬斯克也成為千人積極簽名中的一員。
太陽(yáng)下面沒(méi)有新鮮事,歷史總在重演。如何解決ChatGPT技術(shù)是一把雙刃劍這個(gè)問(wèn)題,可以回顧一下歷史,從歷史經(jīng)驗(yàn)中找答案。
每項(xiàng)革命性的技術(shù)進(jìn)步,都是各有利弊,人類(lèi)應(yīng)該有智慧處理ChatGPT這件事。正像人類(lèi)發(fā)明“原子能技術(shù)”一樣,核能能為人類(lèi)提供電力,帶來(lái)光明,核能也是原子彈的原理,人類(lèi)也采取有效措施避免不應(yīng)有的各種核災(zāi)難。
在ChatGPT技術(shù)上,筆者有如下建議:
一是要部署研究開(kāi)發(fā)自己的“大語(yǔ)言模型LLM”來(lái)確保安全。ChatGPT將方便人類(lèi)對(duì)技術(shù)知識(shí)的繼承,也將帶來(lái)網(wǎng)絡(luò)安全和社會(huì)安全的新挑戰(zhàn),尤其要防范ChatGPT給國(guó)家安全帶來(lái)的危險(xiǎn)。在今年“兩會(huì)”上,政協(xié)科技、科協(xié)聯(lián)組會(huì)議上,朱松純委員的發(fā)言是關(guān)于“信息領(lǐng)域的產(chǎn)業(yè)制高點(diǎn)問(wèn)題”,引起了廣泛共鳴。他談了ChatGPT的發(fā)展和威脅,建議人工智能研究要提到“兩彈一星”的高度,制定線路圖,打通產(chǎn)學(xué)研用。要保證國(guó)家各機(jī)構(gòu)數(shù)據(jù)安全,我國(guó)只能研發(fā)自己的NLP和LLM。
二是要做好從“應(yīng)試教育”轉(zhuǎn)向“能力培養(yǎng)”工作。ChatGPT的回答基本符合人類(lèi)邏輯,一言一語(yǔ)都有因果關(guān)聯(lián),都是由前推后、由此及彼,所以它的回答有意義,也能解決我們提出的問(wèn)題。未來(lái)的教育,應(yīng)當(dāng)注意培養(yǎng)批判性思維、邏輯能力。要培養(yǎng)孩子的批判性思維和邏輯能力。
三是跟上ChatGPT技術(shù)的發(fā)展潮流,學(xué)習(xí)能力培養(yǎng)愈顯重要?,F(xiàn)在我們?nèi)砸孔约?,靠學(xué)習(xí)能力,來(lái)應(yīng)對(duì)后面加速變化的技術(shù)和工具。ChatGPT所掀起的浪潮已經(jīng)不僅僅涉及個(gè)人,還關(guān)乎到各國(guó)未來(lái)?!皯?yīng)試教育”學(xué)生的考卷得分,無(wú)法與ChatGPT的得分相比,學(xué)生要做好終身學(xué)習(xí)的準(zhǔn)備。教育機(jī)構(gòu)要以提高學(xué)習(xí)能力、提高創(chuàng)造力為教育的主要目的,從小就訓(xùn)練學(xué)生適應(yīng)快速變化的學(xué)習(xí)能力和創(chuàng)造能力。
四是如果學(xué)不會(huì)善用工具,終將被會(huì)用工具的人淘汰。沒(méi)有人能阻止我們探索開(kāi)發(fā)自己的NLP、LLM,要像電動(dòng)汽車(chē)、AI一樣,做到“人無(wú)我有,人有我優(yōu)”,實(shí)現(xiàn)善用工具。能阻止我們的只有我們自己的心態(tài)和學(xué)習(xí)能力。人類(lèi)有智慧的一大優(yōu)勢(shì)就在于善于利用工具。要先了解ChatGPT工具的優(yōu)點(diǎn)和缺點(diǎn),然后避開(kāi)其缺點(diǎn),使其優(yōu)點(diǎn)為我所用。即使讓ChatGPT從市場(chǎng)消失,取代現(xiàn)象也會(huì)隨著其他新工具的出現(xiàn)而出現(xiàn),不會(huì)因?yàn)槿藗兊暮ε潞偷钟|而消退。
?。ㄗ髡呦抵袊?guó)航天科技集團(tuán)有限公司第十一研究院研究員)
附件下載: